像逛超市一样选购算力资源 上海电信公共算力服务落地上海对外经贸大学
作者/ IT时报记者 孙永会
编辑/ 钱立富 孙妍
“今天天气预报可能有雨,出门记得带伞哦。”“充实忙碌的一天结束啦,早点睡觉吧,祝你有个好梦。”和生活中常见的唤醒式机器人不同,眼前的小型人形多模态智能陪伴机器人会主动关心并陪伴使用者。
在日前举行的中国国际大学生创新大赛(2024)总决赛上,上海对外经贸大学统计与信息学院的参赛项目“智械伴侣——首创多模态智能交互桌面机器人”(以下简称“智械伴侣”项目)获高教主赛道研究生创意组银奖。
“我们想打造一款以‘机器人+AI’为科技内核,融合新兴潮流与传统文化形象的智能伙伴,比如游戏角色、国潮动画形象等,以让喜爱的故事人物走出屏幕,真实陪伴在使用者身边。”上海对外经贸大学“智械伴侣”项目负责人黄斌介绍道,因为涉及多所高校之间的跨学科合作,项目成员包括哈尔滨工业大学、清华大学等高校的研究生,会用到端云协同多模态交互技术,所以选择上海电信算力服务,团队能根据项目需求灵活调整算力资源。
满足弹性算力需求
随着人工智能、大数据、云计算等前沿技术的蓬勃发展,算力已成为数字世界的核心能源,也成为竞争的新焦点。企业、高校等主体对算力的需求不断增长,但由于技术、资金等因素,也面临着一定的挑战。
以上海对外经贸大学统计与信息学院为例,该学院在大数据、人工智能等领域的科研、教学以及创新项目等方面都有算力需求,尤其是机器学习等场景。随着项目的增多、复杂性的提升,算力需求持续增加。
历时一年,“智械伴侣”项目完成了三代样机的迭代,历经了校赛、市赛、国赛,整体周期长。用项目带队教师孙强的话说,租用算力是为了让团队能更好地训练,以展示出更佳的效果。
据黄斌介绍,学院以往所面临的痛点、难点,以及对未来的考量主要有以下几点:一是算力需求是弹性的,比如大模型的训练阶段、多个项目并发时需要更多计算资源,在推理阶段则相对较少;二是算力使用有时是急需的,对应显卡的成本、规格选择、购买限制、使用方式和租赁方式,往往也会形成制约。再如算力的分散性、驱动器不兼容、高峰低谷算力的不足与闲置的有效平衡调度、运维等问题,而在算力在对外提供接口服务时,因为内部网络原因会增加一定的延迟。
基于上述考虑,该校决定寻找解决算力需求问题的新路径。自此,一段始于2023年初夏的合作之旅开启。
一次选购 按需取用
高校与服务商的协同分工往往如此,前者聚焦科研、教学和创新项目的应用层面,后者则提供技术支持、网络基础设施和算力资源的动态管理,以确保算力的稳定性和安全性。不过,合作过程需要不断打磨,“合作初期,技术对接、服务定制化等方面皆需要进行有效沟通。”据天翼云能力运营中心解决方案中心解决方案工程师朱程杰介绍,项目组通过建立售前支撑培训团队和售后运维保障团队解决难题。
“这项服务的使用是阶段性的,有紧急情况的时候就用一部分,不用的时候资源也不能浪费。”孙强坦承,选择租赁弹性算力方案后,学校能够对一些紧急和短期项目进行快速推进和验证,从而减少资源闲置,降低成本。在他看来,弹性算力方案由专业的服务提供管理,意味着校方可以减少在硬件维护和升级上的投入,专注于科研和教学工作。此外,该方案在“智械伴侣”项目中解决了解决了本校及合作院校的学生出校比赛时的网络延迟问题,让算力的端云协同呈现出更好的效果。
据悉,较之于校园网络,公共算力服务为该团队降低了40%~50%的网络延迟。
让算力不闲置
类似上海对外经贸大学的选购方式还只是开始,今后,像逛超市般选购算力资源已不再是想象中的图景。
对于各家云/算力服务商来说,让算力像水电一样,作为公共服务随取所用是追求的目标。但在逻辑层面,算力使用的逻辑和水电使用的逻辑是相反的,水属于分散式输出,从中心到每个家庭,而算力则是上传算力任务到云端。因此,目标的实现仍然面临着挑战。
2022年7月,上海电信在全国电信运营商中率先发布公共算力服务。2024年1月,上海电信宣布点亮“大规模算力集群暨人工智能公共算力服务平台”。
为进一步解决中小企业和相关单位获取算力资源时所面临的挑战,如资源分散、兼容性问题以及专业软件的搜索难度等,2024年11月,上海电信正式推出公共算力服务门户——算力超市,这是同时面向算力供应商、中小企业和公众用户算力需求市场的算力交易门户,并实施全新的“一户一卡”免费体验计划。
在功能方面,算力超市汇聚各类算力服务,支持算力在线磋商、算力交易,以公共惠普的算力供给,算、存、运一体的综合算力服务模式,促进算力资源有效疏通,此外也支持广大算力供应商入驻。值得一提的是,算力超市的算力规格多样,各品牌算力资源,多种算力规格,高校或者企业可以一站搜索所需算力资源,轻松实现算力资源选购、下单等操作。
“算力超市”是公共算力服务不断延展的成果。现阶段,上海对外经贸大学统计与信息学院已经建立了具有一定规模的算力基础设施和算力分配机制,即根据项目需求、优先级和资源情况,进行动态调整算力资源。在后续的合作中,校方希望能够深化算力租赁合作的领域,共同探索新的技术和应用层面。与此同时,期望能够用更好的形式利用算力资源,从而让项目动起来,让资源不闲置。
排版/ 潘璐
图片/ pixabay 上海电信
来源/《IT时报》公众号vittimes