你的位置: 九游会J9·(china)官方网站-真人游戏第一品牌 > 新闻中心 > 九游会J9·(china)官方网站-真人游戏第一品牌j9九游会官方网站激活异构集群算力资源-九游会J9·(china)官方网站-真人游戏第一品牌
热点资讯

九游会J9·(china)官方网站-真人游戏第一品牌j9九游会官方网站激活异构集群算力资源-九游会J9·(china)官方网站-真人游戏第一品牌

发布日期:2024-09-03 11:00    点击次数:135
]article_adlist-->

“芯片算力×优化统统(软硬协同)×集群限度(多元异构)=AI模子算力”。

本文为IPO早知谈原创

作家|Stone Jin

微信公众号|ipozaozhidao

]article_adlist-->

据IPO早知谈音讯,无问芯穹(Infinigence AI)日前完成近5亿元A轮融资。至此,在成立短短1年4个月内,无问芯穹累计已完成近10亿元融资。

无问芯穹本轮融资连络领投方为社保基金中关村自主篡改专项基金(君联成本担任照应东谈主)、启明创投和洪泰基金,跟投方包括逸想创投、小米、软通高科等计谋投资方,国开科创、上海东谈主工智能产业投资基金(临港科创投担任照应东谈主)、徐汇科创投等国资基金,以及顺为成本、达晨财智、德同成本、尚势成本、森若玉坤、申万宏源、正景成本等财务机构。无问芯穹的过往投资方还包括百度、智谱、同歌创投等计谋股东,以及红杉中国、砺念念成本、徐汇成本、北极光创投、真格基金、惠隆创投、经纬创投、无尽基金 SEE Fund、金沙江创投、星连成本、绿洲成本、南山成本、光源成本、七熹投资等宽绰闻明投资机构。

无问芯穹本次融资召募的资金将用于加强本事东谈主才吸纳与本事研发,保握软硬协同、多元异构的本事最初上风;深入推动产品交易化发展,保握Infini-AI异构云平台产品与市集间的良好嵌合;强化生态协作,激活异构集群算力资源,构建营救“M种模子”和“N种芯片”的AI算力底座,作念AI模子算力的“超等放大器”,尽力于于成为大模子时期首选的“算力运营商”。

无问芯穹连络创举东谈主、CEO夏立雪默示:“感谢多方成本对无问芯穹的舒缓,让咱们在‘天时、地利、东谈主和’的创业征程上多了一份不负厚望确实定。AI 2.0波涛带来的新‘二八定律’,Transformer 架构谐和了新的本事范式,意味着只需处置20%的枢纽本事问题即可营救80%的垂直场景泛化,给软硬件连络优化本事的标准化和限度化提供了贫瘠的机遇;中国算力生态正靠近的供需矛盾以及资源漫步不均的近况,为咱们拉动凹凸游合力结束多元异构算力的高效整合创造了时期机遇;而咱们源于清华电子系的深厚底蕴、十余年的本事积聚和丰富的产业劝诫所酿成的产研联结的‘复合型’团队,更成为AI鸿沟的东谈主才‘引力井’,组成了无问芯穹罕见的东谈主才竞争力。”

]article_adlist-->

依托软硬协同、多元异构本事上风

作念AI模子算力的“超等放大器”

大模子无意营救的本体产业限度,取决于AI模子的本体可用算力,是一个壁垒更高、玩家更稀缺、价值量更高的鸿沟。基于对AI行业的深化认知和耐久实际,无问芯穹超前判断大模子的本体可用算力不仅取决于芯片的表面算力,还可通过优化统统放大算力哄骗效力,通过集群限度放大全体算力限度,由此,无问芯穹建议“芯片算力×优化统统(软硬协同)×集群限度(多元异构)=AI模子算力”公式。恪守这一公式,无问芯穹将通过软硬件连络优化本事,握续提高芯片算力在大模子任务中的哄骗率,并通过多元异构算力适配本事,提高集群算力哄骗率,扩大行业全体算力供给。

在软硬件连络优化方面,无问芯穹通过自研的推理加快本事FlashDecoding++大幅提高主流硬件和异构硬件的哄骗率,超越在先SOTA,完成多个主流开源大模子在AMD、华为昇腾、壁仞、寒武纪、燧原、海光、天数智芯、沐曦、摩尔线程、NVIDIA等10余种计较卡上的适配,并在部分计较卡上结束了行业第一的推理加快效果,高效温存各行业愈发飞扬的大模子推理需求。基于这一有贪图赢得的优化效果,无问芯穹已与AMD签署计谋协作,联袂推动商用AI应用的性能提高。

在多元异构算力适配方面,无问芯穹也领有业界稀缺的异构适配与集群智力天禀,7月发布的大限度异构漫步式搀杂检修系统HETHUB,是业内初度在华为昇腾、天数智芯、沐曦、摩尔线程和AMD、NVIDIA共六种芯片“4+2”组合间结束了千卡限度的异构算力搀杂检修,集群算力哄骗率最高达到97.6%,平均高出基准有贪图约30%,这意味着,在探求的多元芯片机房条款或者集群条款下,无问芯穹可将检修总时长压缩30%。

]article_adlist-->

打造Infini-AI异构云平台

提供全栈式智力

连年来,海外上模子层与芯片层冉冉酿成“双头拘谨”花式,而中国的模子层与芯片层照旧握续呈现由“M种模子”和“N种芯片”组成的“M×N”花式。然则,不同硬件平台需要适配不同软件栈和器具链,异构芯片间长久存在着难以兼用的“生态竖井”表象。跟着越来越多国产异构算力芯片被应用于寰宇各场所算力集群,异构算力难以被有用哄骗的问题日益严峻,冉冉成为中国大模子产业发展的瓶颈。

无问芯穹依托软硬协同、多元异构本事上风,已基于多元芯片算力底座打造出Infini-AI异构云平台。该平台向下兼容多元异构算力芯片,可有用激活寰宇各地千里睡异构算力,现已运营的算力遮盖寰宇15座城市。此外,Infini-AI异构云平台还包含一站式AI平台(AIStudio)和大模子服务平台(GenStudio)。其中,AIStudio一站式AI平台为机器学习开辟者提供高性价比的开辟调试、漫步式检修与高性能推理器具,遮盖从数据托管、代码开辟、模子检修、模子部署的全人命周期。GenStudio大模子服务平台则为大模子应用开辟者提供高性能、易上手、安全可靠的多场景大模子服务,全面遮盖了从大模子开辟到服务化部署的全历程,有用裁减了开辟成本和门槛。自平台上线以来,已有Kimi、LiblibAI、猎聘、生数科技、智谱AI等多个大模子行业头部客户在Infini-AI异构云平台上谨慎使用异构算力,并享受无问芯穹提供的大模子开辟器具链服务。

]article_adlist-->

作念大模子时期首选的算力运营商

闹热异构算力生态、加快AGI普惠进度

无问芯穹构建的 Infini-AI异构云平台不仅可匡助下搭客户庸碌屏蔽硬件各别,无感高效地使用底层异构算力的雄壮智力,还将有劲冲破国内异构算力的生态逆境,加快表层应用冉冉向异构算力基座迁徙,有用整兼并扩大国内大模子产业可用算力的限度,确切将异构算力赈济为能用、够用、好用的大算力,助力构建具有中国特点的原土化异构算力生态。恪守算力哄骗率提高念念路,联结软硬件连络优化实力,无问芯穹在端侧大模子和LPU IP鸿沟亦有超前布局,尽力于打造“端模子+端芯片”闭环智力。无问芯穹敬佩端侧场景快速增长和应用爆发的势必趋势,AI PC、AI手机将成为改日东谈主机交互的弥留接口,将助力每一个终局结束AGI级别的智能知道。

以“开释无穹算力,让AGI垂手而得”为职业,无问芯穹尽力于于成为大模子时期首选的“算力运营商”,当今正在强力鼓励和产业链中最具价值的客户建造计谋协作,再推论到更平日的市鸠合结束标准化、批量化复制,建造限度上风。通过激活多元异构算力和软硬件连络优化,无问芯穹有贪图让大模子的落地成本裁减10000倍,如同“水电煤”一般,成为行业垂手而得、平日受益的新质坐褥力,加快AGI的普惠进度。

君联成本总裁李家庆默示:“君联成本承袭‘事为先,东谈主为重’的投资形而上学支握科技企业,推动科技突出和产业发展。AI 基础法式是国度东谈主工智能计谋的枢纽组成部分,君联成本弥远对该鸿沟密切防范。君联合计,无问芯穹领有一支行业稀缺且具有深厚学术积淀和丰富产业劝诫的‘复合型’戎行,以行业独到的大限度异构算力软硬连络优化本事,极地面推动了国产异构算力生态发展,构建中邦原土化AI 基础法式竞争力。这次通过社保基金中关村自主篡改专项基金(君联成本担任照应东谈主)投资无问芯穹,是君联成本在东谈主工智能鸿沟的弥留布局,咱们深感走时无意参与无问的成长过程,与无问芯穹团队良好协作,助力一产物有中枢本事、深度服务市集需求的企业一谈成长。”

启明创投摆布合资东谈主周志峰默示:“启明创投在科技鸿沟弥远坚握‘快半步’的投资理念,即预判趋势、提前布局。无问芯穹是行业少有对AI基础法式的发展头绪和行业花式领有预知性和尖锐性的企业,在AI 2.0时期基于‘推理加快、多元异构’的中枢智力,快速结束了中枢本事的价值赈济,为芯片硬件、智算中心、大模子和AI应用等产业凹凸游的每一个智力王人提供了多快好省的处置有贪图,为大模子的降本增效带来更好的效果,在本事、产品和交易模式上王人具有独到上风。启明创投敬佩,无问芯穹是一家无意创造行业拐点的企业,将在AI 2.0的时期波涛中驭浪而行。”

洪泰基金实际董事虞扬默示:“无问芯穹是咱们在生成式AI鸿沟的计谋布局。自Transformer架构谐和了模子结构以来,巨匠算力需求剧增,而硬件性能的提高速率却难以匹配计较需求的增长速率,使开辟者受限于腾贵的推理成本。在中国,算力异构问题以及不同硬件结构和软件的各别性给用户带来了更多挑战。无问芯穹打造了AI 2.0时期的异构云平台,谐和了异构芯片与算法框架之间的接口,并在云表构建了一系列经过软硬件优化的中间件,结束了行业SOTA的性能表现。团队自创立以来一直专注于计较效力提高,并具备全栈本事智力,改日咱们敬佩无问芯穹无意构建最出色的AI Native基础法式。”

本文由公众号IPO早知谈(ID:ipozaozhidao)原创撰写,如需转载请相关C叔↓↓↓

]article_adlist-->

]article_adlist-->

]article_adlist-->锅圈|十月稻田|优必选|货拉拉

节卡机器东谈主|爱科百发|艾柯医疗|北芯

知行科技|一脉阳光|瑞浦兰钧|科伦博泰九游会J9·(china)官方网站-真人游戏第一品牌j9九游会官方网站

]article_adlist-->

]article_adlist--> 海量资讯、精确解读,尽在新浪财经APP

----------------------------------