超大规模人工智能模型“悟道1.0”发布

科学网  |   2021-03-23 09:35
src=http_%2F%2Fp0.itc.cn%2Fq_70%2Fimages03%2F20210320%2Fc99e91401d164e8a9ab90bb05f911f93.jpeg&refer=http_%2F%2Fp0.itc.jpg


3月20日,北京智源人工智能研究院(简称“智源研究院”)在京发布了超大规模人工智能(AI)模型“悟道1.0”。据悉,该模型是我国首个超大规模人工智能模型系统,可谓是人工智能应用的基础设施,由智源研究院学术副院长、清华大学教授唐杰领衔,带领来自北大、清华、中科院等单位的100余位AI科学家团队联合攻关完成。

智源研究院院长黄铁军介绍,本轮人工智能浪潮的基本特点是“数据+算力+算法=模型”,模型浓缩了训练数据的内部规律,是实现人工智能应用的载体。近年来人工智能的发展,已经从“大炼模型”逐步迈向了“炼大模型”的阶段,通过设计先进的算法,整合尽可能多的数据,汇聚大量算力,集约化地训练大模型,供大量企业使用。此外,智能模型不仅要规模大(主要体现为参数量),还要智商高,才能满足各种应用需要,这需要突破大量技术挑战。

据悉,智源研究院自2020年10月正式启动超大规模智能模型“悟道”项目,研发既博大又精深的超大规模训练模型,从更加本质的角度进一步探索通用人工智能。同时,构建大规模智能模型应用生态,推动相关机构和个人开发者基于模型研发各类新型智能应用,服务我国实体经济产业升级。

据介绍,“悟道1.0”已取得多项国际领先的AI技术突破,形成超大规模智能模型训练技术体系,训练出包括中文、多模态、认知、蛋白质预测在内的系列模型,为我国人工智能应用构建了基础设施。同时,智源研究院与龙头企业共同研发工业级示范性应用,加快大规模智能模型应用生态建设。

“悟道1.0”已先期启动了4个大模型的研发,包括“悟道·文源”,是面向中文的预训练语言模型;“悟道·文澜”,是首个公开的中文通用图文多模态预训练模型;“悟道·文汇”,是我国首个具有认知能力的超大规模预训练模型;“悟道·文溯”,是超大规模蛋白质序列预测预训练模型。

为更好地推动“悟道”大模型的研发,保持研发过程中技术的领先性,智源研究院还成立了包括中国科学院院士鄂维南、清华大学教授鲁白等9位科学家在内成的“悟道”大模型技术委员会。

发布会上,北京市科委副主任许心超表示,北京将依托在人工智能领域的科技资源和产业发展优势,支持建设智源研究院等一批世界一流新型研发机构,前瞻部署人工智能基础研究,加强关键核心技术攻关,推动人工智能占先。北京也将充分发挥中关村国家自主创新示范区、中国(北京)自由贸易试验区的政策优势,为人工智能领域的高校院所、企业等创新主体创造更好的科研生态、技术生态、产业生态。

北京市超前部署通用智能发展,支持智源研究院牵头建设“超大规模人工智能模型训练平台”,“悟道1.0”即为该平台的重要内容,通过研发超大规模信息智能模型和生命模型,推动电子信息、生物医药等基础科学科研范式变革,加速科学研究进程。同时,推动创新企业及个人开发者基于大模型构建智能化水平更高的场景应用,赋能实体经济智能化升级,促进经济高质量发展。

据悉,下一步“悟道”模型应用生态建设分为三个主要阶段。第一阶段为示范性应用搭建,将构建面向电子商务、智能文本服务、垂直领域以及数个独立的示范性应用;第二阶段为API及平台生态构建,将设计多个API,支持对模型的不同请求方式,构建支持高并发、高速推理的API接口,分别支持企业级用户、个人独立开发者对模型或特定功能的请求;第三阶段为社区运营及迭代,将逐步增量扩大在线评测,构建开发者及使用者社区,建立完善的使用反馈机制,并作为模型迭代的参考标准,同时加强社区维护及管理,加快模型迭代。

来源:科学网

原文链接:http://news.sciencenet.cn/htmlnews/2021/3/454887.shtm

版权声明:除非特别注明,本站所载内容来源于互联网、微信公众号等公开渠道,不代表本站观点,仅供参考、交流、公益传播之目的。转载的稿件版权归原作者或机构所有,如有侵权,请联系删除。

电话:(010)86409582

邮箱:kejie@scimall.org.cn

相关推荐 换一换

  • 袁勇
    0
    科界平台,内容丰富,解读权威,值得关注!!!
  • 王海梅
    0
    感谢科界这个平台,让我学到了很多科普知识,受益匪浅
  • 张彤
    0
    以科技创新助力社会主义现代化强国建设
  • 郑耀斌
    0
    加强关键技术自主创新,推动高质量发展。
没有更多了