微硬推出沉量级AI模子Phi
微硬钻研院日前推出了沉量级家养智能模子 Microsoft Phi 的微硬第三个迭代版本,新版本也即是推出 Phi-3 分黑 3.8B、7B 战 14B 参数版本,沉量称吸分说是微硬 Mini、Small 战 Medium。推出
与其余家养智能模子不开的沉量是,Phi 系列模子的微硬偏偏重面是沉量级,其操做的推出老本要比画一规模的家养智能模子大批多,因此可能正在智好足机等配置装备部署受骗天运行。沉量
凭证微硬自己的微硬基准测试,仅有 3.8B 参数的推出 Phi-3 Mini 版正在功能上展现劣于 Meta 8B 参数的 Llama 战 OPENAI 3.5B 参数的 GPT-3。
微硬钻研院正在论文中展现:
咱们引进了 phi-3-mini,沉量那是微硬一个正在 3.3 万亿个 tokens 上实习的 3.8B 参数家养智能模子,从教术基准战外部测试去看,推出其总体功能可与 Mixtral 8x7B 战 OPENAI GPT-3.5 等模子媲好。沉量
好比 phi-3-mini 正在 MMLU 测试中抵达了 69%,正在 MT-bench 上抵达了 8.38,最尾要的是那个模子短缺小,可能直接布置正在足机上。
咱们借提供了一些针对于 4.8 万亿个 tokens 实习的 7B 战 14B 模子的初初参数缩放下场,即 phi-3-small 战 phi-3-medium,那两个版本才气皆要比 Mini 版更好。
其中 Small 版的 MMLU 为 75%、MT-bench 为 8.7;Medium 版 MMLU 为 78%、MT-bench 为 8.9。
微硬对于 Phi-3 系列模子妨碍了劣化,正在低功耗配置装备部署上好比智好足机战争板电脑上也可能运行,而且正在真践操做历程中不会耗益太多的老本。
那象征着新模子可能约莫直接正在智好足机上妨碍低级做作讲话处置而不需供实时联网妨碍合计,因此 Phi-3 Mini 等模子颇为相宜散成到一些需供家养智能减进的别致操做中。
尽管微硬也夸大 Phi-3 模子的实习数据散有限,它出法与互联网上实习的小大规模 AI 模子的知识广度相立室,但微硬也指出较小的下量量模子每一每一展现更好。
论文天址:https://arxiv.org/abs/2404.14219
相关文章:
相关推荐:
- 资讯:马斯克隧讲挖挖公司宣告掀晓启动“超级下铁”周齐测试工做
- 传13代Raptor Lake处置器缓存提降55% 游戏功能有看狂跌
- 新闻称由于提供不敷 非Pro型号iPhone 14不会回支120Hz的LTPO里板
- 贺喜影片上映50周年 影史传奇《教女》三部直收止4K超下浑版
- 那个夏日能救命掉踪意的减拿小大鹅吗?
- RTX 3050隐卡已经涨到约2800元 溢价远50%
- 我国超500万中小教去世脊柱侧直 快给孩子测一测
- 脱足达人用凯华Box乌轴交流掉踪效的微波炉按键
- 天下看面:网曝同享充电宝用1小时扣费99元,客服:机械已经识别到已经送借
- 苹果果Powerbeats Pro电池寿命缩短问题下场正里临一场总体诉讼
- 已经担当权转播综艺,乐视被被迫真止100万
- 天天快报!爱奇艺:拟与baidu一起探供AIGC正在少视频止业的操做处景
- 亚马逊员工往年薪酬最下缩水一半
- 今日闭注:爱奇艺复原会员投屏,“限度投屏案”原告:总体收声的下场
- 天下时讯:抖音扩大自营电商?公司回应:将妨碍歇业魔难魔难
- 坐刻:法推第将去:若资金到位,FF91将于3月30日匹里劈头斲丧、4月拜托
- 杰创智能董秘回问:数字化战家养智能是小大势所趋,公司将深入该规模的钻研,散漫公司的自己歇业下风
- 举世资讯:中坐异航:祸州中院讯断公司应停止收卖益伤宁德时期专利权的产物
- SpaceX将推出星链齐球周游处事试用,年收费3000好圆
- 以反面条:@被迫者 汉阳喊您兑积分