蚂蚁总体CTO:刚强投入大模子底层根基配置装备部署,已经建成万卡AI集群

2025-03-16 13:34:45 来源: 分类:时尚

  新浪科技讯 9月8日下战书新闻,蚂蚁模底在2023外滩大会上 ,总体置装蚂蚁总体宣告宣告金融大模子 ,强投群并开源天生式AI编程平台CodeFuse  。层根成万蚂蚁总体首席技术官、基配经建I集平台技术事业群总裁何征宇在接受采访时介绍 ,备部蚂蚁大模子走纯自研的署已技术道路  ,以全栈妄想、蚂蚁模底长线睁开为原则 ,总体置装以缔造财富价钱为目的强投群 。为此,层根成万蚂蚁刚强投入大模子底层根基配置装备部署,基配经建I集当初已经建成万卡AI集群 ,备部磨炼效带争后行业,署已为大模子财富化运用提供有力反对于。蚂蚁模底

  何征宇介绍,蚂蚁不断以来坚持中间技术自主立异,2022年尾正式立项大模子研发 ,当初已经组成从根基大模子到行业大模子以及财富运用的全栈妄想 。

  明天宣告的蚂蚁金融大模子基于蚂蚁根基大模子 ,针对于金融财富深度定制。何征宇介绍 ,蚂蚁根基大模子平台具备万卡异构集群,其中千卡规模磨炼MFU可抵达40%,集群实用磨炼时长占比90%以上 ,RLHF磨炼在划一模子下场下磨炼吞吐功能相较于业界妄想提升3.59倍,推理功能相较于业界妄想提升约2倍,处于业界先历水平 。

  何征宇展现  ,未来蚂蚁将不断探究以及精进大模子的五大能耐倾向。一是,建树高品质的数据标注团队,积淀高品质数据系统;二是 ,攻坚根基大模子算法 ,以及高效绿色工程能耐,提升模子逻辑推理等能耐;三是,从通用语言大模子到通用多模态大模子,从普残缺识走向周全业余;四是 ,建树高效的大模子评测尺度以及评测系统 ,减速大模子迭代速率;五是 ,建树大模子清静能耐 ,保障大模子瘦弱可不断睁开 。

海量资讯、精准解读 ,尽在新浪财经APP

责任编纂:刘万里 SF014

更多资讯请点击:时尚

推荐资讯

分析|火箭、魔术和雷霆取得良好开局 是海市蜃楼还是真有实力?直播吧2023-12-11 15:42直播吧2023-12-11 15:42

原文发表于12月6日,作者是The Athletic记者John Hollinger,文章内容不代表译者观点。)NBA季中锦标赛的一个意想不到的好处,就是这周能变成一个盘点周。赛季至今,大多数球队都只

中国首款不锈钢液体运载火箭发布,或于2025年具备首飞能力新京报2023-12-10 21:13新京报2023-12-10 21:13

新京报讯记者张建林)12月9日,蓝箭航天朱雀二号遥三液氧甲烷运载火箭在酒泉卫星发射中心圆满完成发射任务。这也使朱雀二号成为全球首款连续、稳定发射成功的液氧甲烷火箭。当天,蓝箭航天又正式发布了下一代可重

原创 江苏一女大学生走红网络,为女儿国国王配音,惊艳众人

原标题:江苏一女大学生走红网络,为女儿国国王配音,惊艳众人 相信很多人都看过四大名著之一的《西游记》。如果问大家哪一个章节让大家印象最为深刻,不同的人有不同的答案。但是对于笔者而言,最深刻的章节