“大模型训练需要大量数据,因此对算力的要求很高。”在日前召开的首届“AI Tech Day(人工智能科技日)”峰会上,中国工程院院士、清华大学计算机科学与技术系教授郑纬民介绍,自去年12月份以来,大模型需要的AI芯片涨价一倍,国外芯片“一卡难求”。尽管国内数十家公司在AI芯片研制和生产方面取得了很大进步,但国产芯片尚未受到市场的广泛青睐。
对此,与会专家呼吁,解决算力难题,应重塑大模型算力生态,助力国产AI芯片系统练好“内功”。
“如果基于国外芯片编写的软件能够很容易移植到我们的国产芯片系统上来,用户就会感觉到国产芯片好用。”郑纬民认为,但由于生态建设不完备,目前国产芯片在大模型训练相关软件移植方面表现不太顺畅,因此需要进一步加强底层研发,做好包括编程框架、并行加速、通信库在内的软件研发工作。
“为了发展AI芯片的生态体系,一些国际大企业甚至可以放弃一些高利润的项目和方案。”英博数科CEO周韡韡介绍,营造生态需要发动整个行业的创新力量,例如国际企业曾通过主动开源部分软件的底层代码、让利给基于芯片的软件开发者,形成以AI芯片为核心的算力体系。
相较于芯片本身的硬件性能提升,郑纬民认为,通过营造生态,提升国产AI芯片的“包容力”更加急迫。“如果算力生态做得非常好,即使国产芯片的硬件性能只有国外性能的60%及以上,大家也会喜欢用。”郑纬民说,但如果算力生态没做好,新型软件跑不起来、软件移植不顺畅,即便硬件性能达到国外的120%,照样难以转变为有效算力。
为凝聚行业力量、改变当前的大模型算力生态,英博数科联合百川智能、中国计算机学会、清华大学等单位共同成立北京AI创新赋能中心技术委员会。作为该技术委员会的顾问,清华大学电子工程系教授汪玉表示:“在大模型领域,我们将同时从软件侧和硬件侧方面开展联合优化。在打造通用型人工智能服务平台的同时,推动高性能计算领域智能芯片和高模态电路关键技术的研发。”
“大模型兴起之前建设的算力,相对而言利用率较低,跟不上现阶段大模型对算力指数级发展的需求。”艾瑞咨询产业数字化研究院负责人徐樊磊介绍,为提升整体算力效率和满足差异化需求,应建立支撑大模型万亿量级参数计算的“智算中心”。“智算中心”可利用现有高质量数据中心,通过提升组网能力、协同能力、软硬件适配能力等实现部署。当前,“万卡”级别的智算中心正在主要节点城市发展起来。
与会专家认为,推动现有算力融合创新将进一步提升当前算力使用效率。“1万块卡(AI芯片)应该怎么连?是不是每块卡和其他9999块直连?如果这样,中间的连接将需要1万乘以9999个连接卡,成本将非常高。”郑纬民说,通过最有效的连接支持模型并行、数据并行等不同的要求,是融合创新的关键。
大模型背后运行的是更加复杂的网络架构和智能算法。如何在降本增效的同时,促进大模型算力使用门槛的降低?“‘云’模式是打通供需不对称、达成算力普惠的有效路径。”周韡韡表示,通过共享、共融集结现有算力,万卡平台及配备高效网络交互机制的大模型训练与推理平台,可以开放给大企业、小微企业共用。通过搭载数据迁徙、训练数据库等工具,云平台等基础生态的搭建有望让算力像水和电一样随取随用。(记者 张佳星)
学会大咖谈|中国水产学会赵文武:着力打造五大特色平台,以学会优势推动水产科技创新
全国古树名木保护工作现场推进会25日在四川省广元市召开。记者在会上获悉,我国将每10年组织开展一次古树名木资源普查,适时开展补充调查,掌握资源底数和管理状况,对古树名木建档立卡。
国家航天局25日在京举行国家民用空间基础设施大气环境监测卫星、陆地生态系统碳监测卫星的投入使用仪式。这两颗卫星投入使用后,将对大气环境与陆地生态系统开展监测,为建设美丽中国,有力应对全球气候变化,实现“双碳”目标提供重要的数据支撑。
在很多人看来,塑料是不能导电的。但实际上很多塑料也能导电,这种塑料被称为导电聚合物。科学家们发现,让这种导电聚合物薄膜出现温差,它就可以发电,这就是聚合物热电材料。
近日,中国科学院高能物理研究所牵头的科研团队,利用自主研制的极目空间望远镜和国际上的费米卫星伽马射线监测器的观测数据,在伽马暴中发现能量高达37兆电子伏的伽马射线谱线,且谱线的能量和光度均以幂律形式演化,这是迄今观测到的宇宙天体产生的能量最高、证据最确凿的谱线,为破解伽马暴及相对论性喷流产生之谜提供了全新的重要线
资料显示,龙卷风属于局地性、小尺度、突发性的强对流天气,是在极不稳定的天气状况下,空气对流运动造成的强烈、小范围空气涡旋。当龙卷风袭来,如果身处户外,要观察龙卷风动态,及时避开其行进路径;远离大树、电线杆、天行体育平台广告牌、高围墙等,以免被砸、被压。
如今,科技已经成为体育竞技不可或缺的一部分。它不仅提升了运动员的表现,丰富了观众的观赛体验,还促进了体育产业的升级和发展。
记者24日从中国科学院云南天文台获悉,由该台研究员张居甲领衔的国际合作团队,近期成功捕捉到超新星的爆炸激波冲破其外围致密星周物质的壮观瞬间。
不少人在体检后,报告提示幽门螺杆菌感染呼气试验阳性。“幽门螺杆菌(Hp),是一种螺旋形、微厌氧、对生长条件要求很苛刻的细菌,可生存于胃部及十二指肠的各区域内。柴宁莉说:“目前Hp感染主要通过尿素呼气试验,也就是我们常说的C13呼气试验检测。
针对近年来网络诈骗手段快速翻新、迷惑性不断增强、严重侵害公众财产安全与合法权益的现象,国家金融监督管理总局金融消费者权益保护局24日发布防范新型电信网络诈骗风险提示,提醒广大群众警惕花样翻新的骗局,增强风险防范意识和识别能力,守护好自己的“钱袋子”。 据介绍,新型电信网络诈骗主要包括:一是“共享屏幕”类诈骗。
农林植保、电力巡检等通航作业稳步增长;空中游览、航空运动等消费新业态加速涌现;应急救援、气象探测等无人机新场景接续推出;中国民航局有关负责人介绍,近年来,民航局陆续出台《城市场景物流电动多旋翼无人驾驶航空器(轻小型)系统技术要求》《城市场景轻小型无人驾驶航空器物流航线划设规范》等相关标准,助力城市轻小型无人机物流应用场景落地。
“这是世界首台(套)300兆瓦压缩空气储能电站,类似‘超级充电宝’,每天可储能8小时、释能5小时,全年发电量约5亿千瓦时。压缩空气储能具备大功率、长寿命、深调峰、易选址等特点,单机功率可实现数百兆瓦甚至吉瓦级的储能容量,寿命通常可达30年以上。
记者23日从中国科学院物理研究所获悉,我国科研团队在嫦娥五号月球样品中,发现了一种富含水分子和铵的未知矿物晶体——ULM-1。(中国科学院物理研究所供图)“与易挥发的水冰不同,ULM-1这种水合矿物非常稳定。
近年,人工智能、虚拟现实、超高清等新科技对视听行业产生着显著而深入的影响。
当前,科技进步催生了一大批智慧养老“黑科技”产品,引领智慧养老新潮流:一键通呼叫、智能等设备,为老年人提供实时健康监测等服务;护理机器人、家务机器人等产品,给老年人的日常生活起居带来了极大的便利;智能升降沙发、防走失定位鞋、气囊防摔衣等产品,让老年人的安全多一份保障……
明确到2025年底,全国数据中心整体上架率不低于60%,平均电能利用效率降至1.5以下,可再生能源利用率年均增长10%等一系列目标。
这种传统评价模式忽视了学术评价的全面性和多样性,致使不少学生盲目追求论文发表速度,却牺牲了论文质量以及自身的综合研究能力提升。
我发现这个专项非常适合我,因为我希望在研究生期间能够更多地参与实际工程项目,未来投身国家航天事业。面试时,评委中有来自企业的专家提了不少理论如何应用于工程的问题,回答起来并不容易,让我印象深刻。
然而,唯论文、唯分数等陈旧的评价观念与评价模式对于学生拥抱这场学习的变革形成了显著制约,迫切需要进一步深化教育评价制度改革与创新。