中国电子云推出全链路AI解决方案,覆盖底层设施到应用

南方产业智库
+订阅

7月26日,中国电子云主办的“中国电子云人工智能创新发展论坛”在上海举办,并正式发布了中国电子云·新星,这是中国电子云面向国家关键行业推出的全链路AI解决方案。

推动客户将大模型“用起来”

中国工程院院士、清华大学教授郑纬民表示,我国人工智能产业在芯片、算力、数据、生态等领域都面临着挑战。在此挑战与机遇并存节点,他认为核心要聚焦两件事,研制低成本个人用推理机与提高国产智算系统的可用性和好用性。低成本个人用推理机,能够让更多人能用上AI、用得起AI,如KTransformers系统通过以存换算的方式,让AI变得触手可及。

在国产智算操作系统提升方面,郑纬民认为不仅要构建类CUDA系统,打破对国外生态的依赖,同时也要做好并行系统、编程框架等10个关键软件,让国产硬件的算力充分释放。

现场,中国电子云高级副总裁黄锋介绍,中国电子云·新星打造“3+3+N”产品服务体系,提供涵盖多模态数据治理平台、模型开发平台、应用开发平台3大核心产品支撑;构建了AI战略咨询、交付、课程3大服务体系;并提供涵盖多模态视觉融合、采购智能体在内的多个行业通用应用。从数据到模型到应用再到服务,让客户将大模型“用起来”。

黄锋表示,中国电子云目前与国内超过五家国家实验室和超过十家的央企达成了高质量数据集建立合作意向;AI创新应用方面,中国电子云与东航、南航共创航空领域智能体应用赋能航司智能化转型。

广州国家实验室助理研究员邵健围绕高质量可穿戴设备数据及AI数字标志物发掘展开分享,他表示,当前可穿戴设备数据质量仍有待提高,如心率误差可达28.7bpm,严重阻碍医疗级数字标志物发掘。为解决可穿戴设备“数据质量”问题,当前广州国家实验室正建设一个25万人规模的高质量多模态数据资源库,依托多模态数据和高质量可穿戴数据,希望发掘出能反映呼吸疾病早期进展的数字标志物,实现对于相关病症“预测风险”,而高质量数据集也将覆盖更广泛的健康场景,让数据真正走进每个人的生活,让“主动健康”从理念变成现实。

南航数智科技有限公司总经理何烽分享了南航数智化战略与实践。他介绍,以智慧出行管家场景为例,南航可为旅客提供行前个性规划、行中高效畅行、行后情感链接的全程便捷服务。

在论坛最后,中国电子云联合北京国家金融科技风险监控中心、中国信通院人工智能研究所、上海张江数学研究院、中国长城、飞腾信息、海光信息、清程极智、趋境科技等共同发起《加速中国自主人工智能高质量发展及产业落地倡议》。

大模型落地还有四重门槛

在接受南方+记者采访时,黄锋表示,大模型在行业深度应用方面,还存在一定欠缺,其中存在落地难等挑战。

一方面,虽然通用模型越来越强,但落到行业中,还是很难理解行业知识,特别是在政府、央国企,很多数据不太可能在公网上获得,高质量数据的缺乏,导致通用模型在行业落地还达不到使用要求。

另一方面,是性价比会限制应用落地。不管是训练还是推理,GPU依然比较贵,大规模的算力需求动辄几百万到上千万元投入。

黄锋还提到,应用场景本身也存在挑战。这些客群对效果要求是极致的,否则很难上线并真正进入生产阶段。

此外,场景落地很难标准化。由于AI是一个非常底层的基础设施,要想创造价值,必然是要在应用中体现,各行各业的知识有很深的壁垒,没有一个特别标准化的落地范式,而且落地过程离不开服务。

黄锋说,要解决通用模型难题,需要高质量数据集,训练出一些行业模型或者场景模型;解决性价比的问题,则需要软硬件深度适配和优化,提升训练、推理的效率,并提升性价比。针对应用场景,则需要有更好的应用开发工具链,做出更好的智能体。

提供全链路AI解决方案

成立AI新的产品线,也意味着中国电子云从底层的基础设施,再上到上层应用,推出全链路AI解决方案。

黄锋坦言,过去中国电子云主要做专属云,随着AI浪潮的逐步迭代,客户还对一揽子AI很感兴趣,但如何落地,做什么和不做什么,客户都有不同的诉求,而未来“云智一体”大势所趋,即云和人工智能分不开,做平台应用,离不开与算力之间的深度整合和优化;对于客户而言,需要也是云智一体。

黄锋谈到,长期来看,要往行业应用深处走,就意味着从技术层面一直到上层应用都要涉及。但中国电子云会对行业筛选,主要聚焦的是关键行业。

提到数据治理,国外数据标注公司Scale AI在2024年的营收为8.7亿美元,Meta出资143亿美元获得其49%股份,将它的估值一举推高到了290亿美元。

相比之下,国内也有几家专门做标注公司,但很难做大,甚至只是做一些“拉人头”服务,即帮政府建标注基地、解决就业,进而获取补贴。

黄锋说,今年以来,很多客户意识到数据的重要性,当应用越来越多,对数据的需求也越来越多,供给才能起量。需要指出的是,现有应用还比较浅,很多客户要上智能化,依然与业务存在脱节,甚至不少数据还简单存在个人电脑上。

Agent应用还有点早

当下,越来越多企业在加速布局AI Agent,黄锋认为,Agent同样是未来趋势——Agent更像一个人,模型就是大脑,调用工具就像人会使用工具,知识库的外挂就像人读一本书,不断接受外部知识。

“Agent要真正发挥作用,今天而言还有点早。”黄锋举例说,要给模型一个任务,它会拆解这个任务,比如要接待一个朋友,就要定会议室、预定展厅和车位等,但也意味着,Agent要登录到会议室系统中,或者展厅系统,才能找到合适的时间和位置。

然而,在各行各业里面,先意图理解和调用工具本身就会有一定折损。黄锋说,假如说签了三个指令,每个指令达到90%的准确率,三个连起来准确率只有72.9%,而有些复杂的任务再拆解下来,可能就难以用了。因此,Agent目前还只是在特定领域,或者是一些已经编排好的工作流中比较适用。

“纯靠模型、基于模型的自服务能力来规划智能体在限定领域应用,它是有可能应用的,但在偏开放的场景还是有挑战。工作中已经编排的智能体,是当前比较容易落地的方式。”黄锋说。

针对智能体可能存在的幻觉、导致识别不准确的现象,黄锋认为,智能体目前还只是一个辅助,最终还需要人员做一些修订。比如,中国电子云旗下“中电商务”,每年招采金额数千亿,如果能提升1%的效率,就是极大提升,智能体可以在一些标准方面提供辅助决策,比如个性化推荐供应商,招采了几个批次后,第二批和第一批到底变化在哪儿,有哪些是必备的资质,等等,有非常多的细节可以优化。

南方+记者  郜小平

编辑 马华
+1
您已点过

订阅后可查看全文(剩余80%)

更多精彩内容请进入频道查看

还没看够?打开南方+看看吧
立即打开