软件定义AI算力,助推人工智能行业进步
发布时间:2023-05-10 来源:新华网 点击:(3092) 【 字体:大 中 小 】
编前语:面对新冠疫情的持续冲击、世界经济的持续疲弱,过去一年,我国经济仍然实现同比3%的增长,经济总量再上新台阶。这殊为不易的成绩,是我们开拓前进的信心所在。信心,比黄金更宝贵。2023年,我们面对的需求收缩、供给冲击、预期转弱三重压力仍然较大,动荡不安的外部环境给我国经济带来的影响也在加深。然而,中国经济韧性强、潜力大、活力足,长期向好的基本面依然未变,人民的信心正不断增强。
今年是全面贯彻党的二十大精神的开局之年,新华网推出融媒体栏目“强信心·走进百企”,通过深入的采访调研、丰富的融媒形式,与您一同见证广大企业开拓进取的蓬勃活力,见证中国人民拼搏奋斗的坚定信心。
新华网北京4月14日电(记者凌纪伟)算力就是生产力,无处不在的算力成为驱动数字化转型的新引擎。
在本轮数字化转型浪潮中,人工智能(AI)发挥出关键作用。如何用好AI算力资源,软件定义AI算力技术有何独特价值?近日,记者专访趋动科技创始人兼CEO王鲲。他表示,软件定义AI算力的重要性体现在能够实现数据中心级的算力资源池化管理和弹性调度,提升整个算力资源池的利用率和管理灵活度,最大化地发挥出每张GPU卡的价值,从而提高用户的物效和人效,达到降本增效、节能环保的效果。
图:趋动科技算力池化商业价值
软件定义提升AI算力利用效率
OCR、人脸识别、语音识别……AI技术催生出一系列新兴应用,各行各业也都积极拥抱AI,通过AI技术及应用提高生产、运营、销售等活动的效率。
新基建大潮下,算力作为AI发展的技术底座,已成为数字经济时代的关键生产力。“AI算力是推动AI应用发展的一个核心动力。”为何需要软件定义的AI算力呢?王鲲认为,这与当前AI算力利用率太低有关。
AWS公布的一项数据显示,企业GPU利用率大约在10%—30%;而国内的GPU利用率大多低于15%,损失严重。造成巨大浪费的原因是用户对GPU的使用和管理太粗放。“软件定义算力就是要去解决芯片利用率低的问题,趋动科技做的事情就是通过创新的下一代软件定义算力技术,来帮助客户高效利用算力资源。”王鲲说。
软件定义AI算力具体指什么,又是怎么解决算力利用率低的难题?王鲲打了个比方。
如果把芯片比作固定座位的大巴车,把AI任务比作旅行团,过去是来了一个13人的旅行团需要派一辆车,来3人旅游团还是派这辆车,从而导致大量座位(资源)浪费。软件定义算力,就是通过资源的池化,把大巴车的座位变成一个池子,根据对算力的不同需求,在池子中划出精确的需求部分,从而让用户对于算力的使用和管理,实现了从车辆级别的粗放型变成座位级别的精细化管理。
“我们在算力的硬件层和应用层之间,加入了一层算力池化层。”据王鲲介绍,用户可以按照应用的需求来精准分配算力,最大化的使用芯片的计算能力,这种方式还能够实现远程的分离部署。这可以给客户带来一些具体的好处,尤其是在降本增效、提升管理水平和节能减排等方面。
据了解,趋动科技现在平均每年可以将AI资源利用率提高4倍,将算法工程师的人效提高50%,让客户的总体运营成本下降55%,并减少75%的用电量,可以说是以软件的形式实现了硬件的功能。
打造各行业的通用“操作系统”
目前,AI算力已经在智能制造、智慧交通、金融科技、航空航天等多个领域得到广泛应用。在普通人看来,这些行业间存在一定差异,如何通过软件定义AI算力满足不同行业的需求?
“不同行业有自己的特点,但是跑在不同行业上的应用,在我们看来其实都是一样的,都是AI的应用。”王鲲表示,趋动做的软件定义算力本质上是兼容不同芯片的操作系统,而操作系统本身是没有行业限制的,它是一个通用的解决方案。
不同行业都有自己的AI应用,而这些上层的AI应用对算力的需求是不同的。
据王鲲介绍,有些应用在白天比较活跃,在夜晚对算力的需求很小,有明显的潮汐效应。有些应用对算力的需求较小,而有些AI训练任务则对算力需求较大,经常需要使用多张卡以及分布式部署。“我们针对客户应用的不同场景、不同行业,提供的是标准化的基础软件,客户应用无需改动。”
除软件业务,趋动科技也有自己的SaaS云服务。王鲲说,公司把客户分为两类,一类是有服务器、有算力的客户,另一类是需要租用算力的客户。针对前者,趋动科技提供软件服务,帮助它们提升算力利用效率;而针对后者,趋动利用在算力池化和开发训练平台领域的积累,面向企业、科研和个人的AI开发者,构建了开发和训练的服务。相比当前市场上已有的GPU算力服务,其优势是成本低、使用便捷。
趋动科技打造的是基础架构层的软件,这也为公司未来开启国际化奠定了基础。
“我们向各行各业提供的服务都一样,没有太多的定制化需求,是一个标准软件,所以未来我们的软件一定会走出去,帮助海外客户提升他们的算力使用效率,降低成本。”王鲲说。
合作共赢助推整个AI行业进步
如今,趋动科技服务的客户遍布金融、电信、互联网、自动驾驶等众多行业,这些领域对算力的需求旺盛,对提升算力使用效率的需求也非常迫切。
王鲲认为,中国市场对算力的需求存在巨大增长潜力,这个市场需要人工智能技术的加持,也需要创新的解决方案满足行业需求。“作为本土公司,我们了解这个市场,了解这些客户,所以我们的机会很多。”
之所以坚信软件定义AI算力的发展前景,坚定在这一领域创新创业,源于王鲲内心的三个核心“假设”。他认为,首先人工智能未来一定会进入千家万户,其次人类社会对于算力的需求一定会持续高速增长,第三任何一个用户都期望算力成本越低越好。正是基于这样的三个“假设”,王鲲坚守软件定义AI算力这条创业赛道不放弃,“从信息时代到AI时代,变化的是劳动生产率的提高,这个趋势不会停止”。
趋动的软件在整个AI行业处于一个相对特殊的位置,对下是芯片基础架构层,对上是AI技术、AI应用层。这就意味着趋动科技可以发挥自身优势,推动整个产业链协同创新。
王鲲说,AI是技术驱动的行业,各种前沿技术和应用层出不穷,建立企业间的战略伙伴关系,不仅可以在技术上紧密配合,还可以在商务上彼此互补,同时提高彼此的竞争力和营销能力,有效整合资源,达到双赢的局面,推动整个AI行业的进步。
图:算力池化技术在电网行业的应用
算力是数字经济发展的重要底座。“算力在我看来是新时代的电力,它是不可或缺的,它是一个核心的动能。而趋动的价值,是让用户充分用好每一度电,而不是说我有一度电,但我其实只用了其中的10%。我个人觉得其实未来这个意义可能会越来越大。”王鲲说。
早在2019年成立趋动科技之前,王鲲与公司核心成员先后在CPU虚拟化、FPGA虚拟化领域从事了十多年的相关工作,AI这股浪潮的到来,把他们推到了时代的浪尖。在王鲲看来,他们是一支有经验的登山队,之前已经攀登过CPU虚拟化、FPGA虚拟化的大山,现在进入人工智能时代,他们同样可以通过持续创新,成为勇立AI时代的弄潮儿。
猜你喜欢
第五届中国工业互联网大赛无锡赛站决赛举办
以“数字赋能 智创未来”为主题,由工业和信息化部、国务院国有资产监督管理委员会、中华全国工商业联合会等单位主办的第五届中国工业互联···网传:游戏大奖TGA2024将公布“重磅”消息
网传:游戏大奖TGA2024将公布“重磅”消息距离游戏大奖颁奖典礼还有不到一周的时间,这也意味着未来几天我们将看到一些游戏的新细节···复旦教授称中国退休年龄还是太早,建议推行延迟退休制···
在当今这个快速发展的时代,退休年龄问题成了一个热门话题。复旦大学的一位教授彭希哲,这位在学术界有着丰富成就的资深教授,近日就提出了···2024年AI领域五大趋势
人工智能(AI)的未来将是什么模样?美国《福布斯》双周刊网站在近日的报道中,列出了2024年AI领域发展的五大趋势,这些趋势有望赋···中国汽车提前布局智能赛道
这两天,“奥迪向中国车企低头”的词条霸榜热搜。据外媒报道,为了应对日益激烈的电动汽车竞争,奥迪正在考虑直接从中国的电动车企业购···荣耀赵明:Magic V2发布希望带动产业坚定折叠···
近日,全新折叠旗舰荣耀Magic V2正式发布,荣耀Magic V2系列用重构思维,从消费者需求原点思考产品设计,打破传统折叠···如何正确使用煤气罐 煤气罐安全使用常识
长城汽车申请停车场地图生成方法专利,无需用户手动进行触发,当满足激活条件时可自动激活地图建立功能
蓝色风信子的花语是什么 风信子是什么花
金昌特色小吃-羊杂碎
自考在省外可以考吗?只能考本省的学校吗?
什么是辛烷值
“数字藏经洞(国际版)”发布 向世界开启敦煌莫高窟沉浸之旅
银行卡超出单日限制多久解除
如何正确使用祛斑霜 祛斑霜的使用方法
有安全快乐过寒假的安全教育怎么写