通义千问开源千亿级参数模型
发布日期：2024-04-28 15:00:09
导读 哈喽,阿澜今天发现不少朋友对于通义千问开源千亿级参数模型,这个还不是很了解，那么现在让我们一起来看看吧。
通义千问开源1100亿参数...
哈喽,阿澜今天发现不少朋友对于通义千问开源千亿级参数模型,这个还不是很了解，那么现在让我们一起来看看吧。
通义千问开源1100亿参数模型Qwen1.5-110B，成为全系列首个千亿级参数开源模型。
通义千问1100亿参数模型延续了Qwen1.5系列的Transformer解码器架构，采用了分组查询注意力方法(GQA)，使得模型在推理时更加高效。110B模型支持32K上下文长度，具备优秀的多语言能力，支持中、英、法、德、西、俄、日、韩、越、阿拉伯等多种语言。
以上就是关于【通义千问开源千亿级参数模型】的相关内容，希望对大家有帮助！
标签：
免责声明：本文由用户上传，如有侵权请联系删除！