mistral发布ministral 3b/8b,边缘模型新突破?-od体育在线登录

   时间:2024-10-17 14:45 作者:杨凌霄

mistral公司近期隆重推出了两款全新的ai模型——ministral 3b与ministral 8b,专为提升笔记本电脑和智能手机等设备的本地化ai体验而设计。据官方宣称,这两款模型堪称“全球顶尖的边缘模型”。

随着企业对在个人设备上运行ai模型的需求日益增长,mistral公司此次推出的模型旨在确保数据处理的安全性,并显著提升响应速度。这两款模型均能在无互联网连接的情况下,执行翻译、本地分析及机器人等多项任务。

值得注意的是,ministral 3b与8b均拥有128k的上下文窗口,能够一次性处理长达50页的文档内容。

价格方面,ministral 8b的定价为每百万个tokens售价0.1美元,而3b版本则更为亲民,售价为0.04美元,非常适合小规模操作或初创开发者使用。尤为ministral 8b采用了独特的交错滑动窗口注意力机制,这一设计使得其在推理过程中更为迅速且内存占用更少。

这两款ai模型的推出,无疑为需要在本地设备上高效运行ai应用的企业和个人提供了更为优质的选择。

 
 
更多>同类内容
推荐图文
推荐内容
点击排行
智快科技微信账号
itbear微信账号

微信扫一扫
加微信拉群
电动汽车群
科技数码群

网站地图