Menu

  • Home
  • Trending
  • Recommended
  • Latest

分类目录

  • AI 工具
  • AI新势力
  • XiaoHu.AI 学院
    • AI 教程
    • AI 课程
  • XiaoHu.AI日报
  • 开源项目案例库
    • AI 论文
    • AI 资源
    • AI 项目
XiaoHu.AI学院
  • Home
  • AI 工具
  • XiaoHu.AI 学院
    • AI 教程
    • AI 课程
  • XiaoHu.AI日报
  • 开源项目案例库
    • AI 论文
    • AI 资源
    • AI 项目
  • 加入会员
  • →社群
No Result
View All Result
  • Login
XiaoHu.AI学院
No Result
View All Result
Home XiaoHu.AI日报

阿里云发布其第一个MoE模型:Qwen1.5-MoE-A2.7B 匹敌7B性能

by 小互
2024年3月29日
in XiaoHu.AI日报
0 0
0
阿里云发布其第一个MoE模型:Qwen1.5-MoE-A2.7B 匹敌7B性能
0
SHARES
80
VIEWS
Share on FacebookShare on Twitter

Qwen团队发布了他们的新型混合专家(MoE)模型——Qwen1.5-MoE-A2.7B,这是一款只有2.7亿激活参数的小型MoE模型,但其性能却能匹配到像Mistral 7B和Qwen1.5-7B这样的7B参数模型。与Qwen1.5-7B相比,Qwen1.5-MoE-A2.7B大大减少了训练成本,降低了75%,并将推理速度提高了1.74倍,有效提高了资源利用率,同时保持了出色的性能。

这一更新不仅是模型功能和性能的提升,也预示着Qwen模型从当前版本向更高级版本Qwen2的转变。Qwen1.5携带了若干重要的更新和优化,为未来Qwen2版本的发布铺垫了基础。

Support authors and subscribe to content

This is premium stuff. Subscribe to read the entire article.

Login if you have purchased

加入会员

加入会员查看更多会员内容和教程。
超过1000+的会员内容,每天更新。
开通会员

Related Posts

Meta AI提出了一种新的语言模型架构“Large Concept Model (LCM)  让模型更像人类思考
XiaoHu.AI日报

Meta AI提出了一种新的语言模型架构“Large Concept Model (LCM) 让模型更像人类思考

2024年12月25日
488
阿里巴巴推出QVQ-72B 一个基于Qwen2-VL-72B的新型多模态推理模型
XiaoHu.AI日报

阿里巴巴推出QVQ-72B 一个基于Qwen2-VL-72B的新型多模态推理模型

2024年12月25日
343
Fireworks AI新功能 能够将图像或PDF等非文本内容转化为LLM可理解的结构化文本
AI 工具

Fireworks AI新功能 能够将图像或PDF等非文本内容转化为LLM可理解的结构化文本

2024年12月24日
456
Hume AI推出全能文本与语音引擎 OCTAVE 根据文本实时生成特定人格特质的声音
XiaoHu.AI日报

Hume AI推出全能文本与语音引擎 OCTAVE 根据文本实时生成特定人格特质的声音

2024年12月24日
283
Anthropic 公布了一种全新的 AI 越狱技术 可以轻松破解所有前沿模型
AI 论文

Anthropic 公布了一种全新的 AI 越狱技术 可以轻松破解所有前沿模型

2024年12月23日
625
INFP:基于音频驱动的双人对话中的互动头像生成  能自动区分谁在说话,谁在听
AI 项目

INFP:基于音频驱动的双人对话中的互动头像生成 能自动区分谁在说话,谁在听

2024年12月22日
432

Recommendeds

BioMedLM :一个可以在笔记本电脑上运行推理的生物医学语言模型

BioMedLM :一个可以在笔记本电脑上运行推理的生物医学语言模型

113 VIEWS
2024年3月31日
微软团队研究出一种新的方  可以让大语言模型更好地理解和处理电子表格数据

微软团队研究出一种新的方 可以让大语言模型更好地理解和处理电子表格数据

160 VIEWS
2024年7月16日
Agent Hospital :一个完全模拟整个医院环境和流程的AI医院

Agent Hospital :一个完全模拟整个医院环境和流程的AI医院

1.2k VIEWS
2024年5月8日
阿里云发布 VideoLLaMA 2 视频语言模型 提升模型对视频、音频内容的理解能力

阿里云发布 VideoLLaMA 2 视频语言模型 提升模型对视频、音频内容的理解能力

400 VIEWS
2024年6月15日
微软发布Phi-3.5-vision 轻量级、多模态的开源模型 端侧运行 可进行复杂视觉推理

微软发布Phi-3.5-vision 轻量级、多模态的开源模型 端侧运行 可进行复杂视觉推理

527 VIEWS
2024年8月21日
ReadKidz:利用AI一键生成儿童绘本故事书和多媒体故事 可随心定制设定

ReadKidz:利用AI一键生成儿童绘本故事书和多媒体故事 可随心定制设定

1.5k VIEWS
2024年11月6日
Lixel CyberColor:复刻真实世界 自动创建超逼真电影级别的大规模3D模型

Lixel CyberColor:复刻真实世界 自动创建超逼真电影级别的大规模3D模型

329 VIEWS
2024年4月7日
HeyGen 正在开放 API 你可以轻松创建数字人、进行视频翻译、部署交互式数字人

HeyGen 正在开放 API 你可以轻松创建数字人、进行视频翻译、部署交互式数字人

410 VIEWS
2024年11月13日
Apple Intelligence背后基础模型:一个约30亿参数的设备端模型和一个服务器端大模型

Apple Intelligence背后基础模型:一个约30亿参数的设备端模型和一个服务器端大模型

284 VIEWS
2024年6月12日
Character.AI 介绍其在 AI 推理方面的技术创新 让其服务成本减少了33倍

Character.AI 介绍其在 AI 推理方面的技术创新 让其服务成本减少了33倍

140 VIEWS
2024年6月24日

Copyright (c) 2024 by Xiaohu.AI.

  • About
  • Contact

Welcome Back!

Login to your account below

Forgotten Password?

Retrieve your password

Please enter your username or email address to reset your password.

Log In

Add New Playlist

- Select Visibility -

    No Result
    View All Result
    • Home
    • AI 工具
    • XiaoHu.AI 学院
      • AI 教程
      • AI 课程
    • XiaoHu.AI日报
    • 开源项目案例库
      • AI 论文
      • AI 资源
      • AI 项目
    • 加入会员
    • →社群
    • Login

    © 2024 Xiaohu.AI

    Are you sure want to unlock this post?
    Unlock left : 0
    Are you sure want to cancel subscription?
    转到手机版