南京人工智能计算中心全自主运行“大模型”
南京人工智能计算中心近日对外公布,中心成功实现LLaMA、ChatGLM-6B、B
(相关资料图)
南京人工智能计算中心近日对外公布,中心成功实现LLaMA、ChatGLM-6B、BLOOM、鹏程·盘古α等主流NLP(自然语言处理)大模型上线。这些大模型均为目前人工智能产学界最前沿、最受关注的技术“宠儿”,可针对用户需求提供相对准确的答案和建议,应用广泛。
江北科投集团副总经理、先进计算产业发展有限公司总经理戴晓玉介绍,该中心实现从芯片到系统再到应用部署层全栈自主可控。他解释,大模型在算力中心成功适配,意味着使用中心算力服务的企业及院校机构都可以在国产生态中“跑”起大模型。
今年以来,人工智能算力需求呈现爆发式增长,被称为算力之源的GPU(图形处理器)是人工智能大模型发展的关键基础设施。目前,全球GPU巨头企业英伟达,在人工智能训练芯片领域占据很高的市场份额,不少算力中心都采用其芯片运行。
据介绍,昇思MindSpore是华为开源推出的首个业界全场景AI框架。该中心基于这一框架,将主流NLP大模型适配到本地环境中,实现高效运行。目前,一家互联网电商企业在测试中,使用适配后的大模型运营自己的平台,运行情况良好。
沿着江心洲大桥驶入江北新区,南京人工智能计算中心正立于一侧。这个算力中心的“大脑”位于这座大厦二楼的机房内,机柜上一个个排列整齐的“黑匣子”泛出蓝光,那是算力中心的核心模块,24小时不间断运转。中心一期计算能力达40PFLOPS(每秒4亿亿次浮点运算次数),于去年5月对外提供服务,如今分配率为100%,算力已全部供应给企业、院校机构,使用率峰值达85%左右。将于9月上线的二期项目预计扩容100PFLOPS算力,部分算力服务已被预订。
在算力中心稳定运行后,一批省内重点高校主动邀约合作,探路用全自主的“算力”跑起属于自己的科研大模型。去年11月,南京大学、江北科投集团、华为公司三方签约,共同孵化“金陵·女娲”科研大模型。这一大模型可帮助研究人员从基因出发探究生命体的新规律,为罕见病诊断以及药物设计提供支撑。“为了发现可能药物或有效靶标,原本需要做千万次尝试,有了大模型的辅助,只需做十分之一甚至百分之一的工作量。”戴晓玉解释。
当下,东南大学毫米波国家重点实验室、南农作物遗传与种质创新国家重点实验室、中科院自动化所等科研机构都在该中心进行科研大模型的孵化,未来可应用于人工智能生物学、EDA、智能制造和智慧育种等产业。
记者 许雯斐
关键词:
南京人工智能计算中心近日对外公布,中心成功实现LLaMA、ChatGLM-6B、B
2023年8月1日“八一”建军节中国人民解放军迎来了96周岁生日!为贯彻落
为切实做好辖区居民群众安全教育,预防和减少电信网络诈骗案件的发生,
中国男团在1 4决赛中以3-0赢了瑞士男团,半决赛中以3-1战胜了日本队,
纬湃科技官微消息,8月1日,纬湃科技全新的长春研发中心正式投入使用。
他是“和平时期距离死亡最近的人”他是备份25年终于圆梦的航天员……他
在未成年人权益保护问题上开倒车的美国政客们似乎又准备加速了。据英国
逆水寒手游春去也所有结局解锁攻略这个问题大家都解决了吗?其实这个逆
新民晚报讯(记者徐驰特约通讯员何东)前天上午11时许,市民彭女士满面
中一科技最新股东户数1 48万户,低于行业平均水平。公司户均持有流通股
多家快递物流公司回应北京降雨影响:部分网点失联,正在统计损失,物流
远东股份8月1日公告,7月,公司收到子公司中标 签约千万元以上合同订单
各位网友们好,我是编辑小夏,为大家解答lol野怪刷新时间,lol野怪刷新
8月1日,受降雨影响,北京西站部分列车晚点、停运,候车厅内滞留了不少
7月26日,海口市市场监督管理局发布海口市2023年第二季度消费投诉信息
中国驻泰国大使馆发言人答记者问。问:近日,泰国网络出现中国商人和导
网贷逾期一般会上征信,有些借贷机构在用户逾期后一天后就会上报给征信
导读1、高谈阔论【解释】:高:高深;阔:广阔。2、多指不着边际地大发
晚上十点多的大运村,依旧热闹非凡——国风美妆体验区前挤满了排队体验
穿上军装,披上铠甲,赴汤蹈火,以身许国。同是血肉之躯,中国军人,从