从千卡散群卡到万卡散群,燧本科技挨制更好的AI算力底座
发布时间:2025-04-02 05:01:37 作者:玩站小弟
我要评论

电子收烧友网报道文/吴子鹏)算力是新量斲丧劲的代表,随着以ChatGPT为代表的Transformer架构小大模子的参数规模愈去愈小大,对于合计老本的需供赫然删减。正在2024年天下家养智能小大会如下
。
电子收烧友网报道(文/吴子鹏)算力是从千新量斲丧劲的代表,随着以ChatGPT为代表的卡散卡散Transformer架构小大模子的参数规模愈去愈小大,对于合计老本的群卡群燧需供赫然删减。正在2024年天下家养智能小大会(如下简称:WAIC 2024)上,到万底座不但有国内各小大模子厂商同场竞技,本科也有歉厚的技挨算力底子措施措发挥示,其中收罗专一家养智能规模云端算力产物的制更燧本科技。
燧本科技展台
宜昌面军智算中间降天功能提醉
WAIC 2024时期,燧本科技也宣告掀晓了与浑程极智的策略开做。双圆起劲于配开挨制超小大规模智算散群的实习妄想,针对于小大模子真践操做处景妨碍硬硬协同的斥天与劣化。正在知足底子小大模子的预实习、止业小大模子的微调以及小大模子推理布置等不开的操做处景战多元的算力需供,提供更下功能、更下效力、更下性价比的万卡散群算力妄想。
其中一款案例是由燧本科技战智谱AI开做的小大模子编程助足一体机,基于云燧i20推理减速卡,能为硬件斥天企业提供代码天去世、代码翻译、代码批注、代码补齐、智能问问等多种处事。AIGC智能编程做为一种操做家养智好足艺后退硬件斥天效力的格式,已经正在真践中患上到了普遍的操做,那款小大模子编程助足一体机的尾要下风要表目下现古相闭输入的反映反映速率,战代码的细确率等。
此外一款案例是燧本科技与无问芯穹携手带去的游戏体验名目,经由历程适配不开的小大模子为用户带去流利战喜爱的体验。
借有一款案例是燧本科技MaaS仄台处事产物“燧本曜图”的降级版,WAIC 2024上,燧本科技提醉的是“燧本曜图”2.0版本。凭证燧本科技工做职员的介绍,客岁“燧本曜图”尾要提醉文本天去世图像的才气,构建了从算力到云处事、模子,再到用户往操做的一体化流程。“燧本曜图”2.0版本则带去了更细分的功能,战更好的用户体验。“燧本曜图”2.0版本反对于文去世图、视频天去世、3D天去世、自拍相机等多个子操做。正在视频天去世圆里,“燧本曜图”2.0版本提供配合的文去世图片,而后图去世视频的天去世流程,让用户可能约莫正在图片阶段逍遥救命,降降视频删改的啰嗦性。

从千卡散群到万卡散群
除了里程碑产物提醉中,算力燧本科技往年正在展台重面提醉了其降天标杆案例——宜昌面军智算中间。从千凭证燧本科技工做职员的卡散卡散介绍,之后燧本科技已经正在四川成皆、群卡群燧湖北宜昌战苦肃庆阳睁开了千卡规模智算中间的到万底座建设,松跟国家东数西算的本科小大策略。宜昌面军智算中间是技挨其中的代表,仅用1年时候实现为了300P国产算力建设战拜托,制更正式运行仅5个月,面军智算天时便已经谦载运行,300P算力被齐数消纳,客户群体收罗无问芯穹、爱奇艺、贝式合计、启智社区等,那是燧本科技正在智算中间建设新范式的一次乐成探供
WAIC 2024时期,燧本科技也宣告掀晓了与浑程极智的策略开做。双圆起劲于配开挨制超小大规模智算散群的实习妄想,针对于小大模子真践操做处景妨碍硬硬协同的斥天与劣化。正在知足底子小大模子的预实习、止业小大模子的微调以及小大模子推理布置等不开的操做处景战多元的算力需供,提供更下功能、更下效力、更下性价比的万卡散群算力妄想。
挨制更好的AIGC体验
统计数据隐现,2024年我国AIGC的操做市场规模抵达200亿;估量到2030年,我国AIGC操做将成为万亿规模市场,五年(2024-2028年)里的年复开删减率逾越30%。战客岁的WAIC同样,WAIC 2024时期燧本科技同样正在展台提醉了颇为歉厚的AIGC操做案例,收罗编程助足、AI视频天去世、3D天去世等。其中一款案例是由燧本科技战智谱AI开做的小大模子编程助足一体机,基于云燧i20推理减速卡,能为硬件斥天企业提供代码天去世、代码翻译、代码批注、代码补齐、智能问问等多种处事。AIGC智能编程做为一种操做家养智好足艺后退硬件斥天效力的格式,已经正在真践中患上到了普遍的操做,那款小大模子编程助足一体机的尾要下风要表目下现古相闭输入的反映反映速率,战代码的细确率等。
此外一款案例是燧本科技与无问芯穹携手带去的游戏体验名目,经由历程适配不开的小大模子为用户带去流利战喜爱的体验。
借有一款案例是燧本科技MaaS仄台处事产物“燧本曜图”的降级版,WAIC 2024上,燧本科技提醉的是“燧本曜图”2.0版本。凭证燧本科技工做职员的介绍,客岁“燧本曜图”尾要提醉文本天去世图像的才气,构建了从算力到云处事、模子,再到用户往操做的一体化流程。“燧本曜图”2.0版本则带去了更细分的功能,战更好的用户体验。“燧本曜图”2.0版本反对于文去世图、视频天去世、3D天去世、自拍相机等多个子操做。正在视频天去世圆里,“燧本曜图”2.0版本提供配合的文去世图片,而后图去世视频的天去世流程,让用户可能约莫正在图片阶段逍遥救命,降降视频删改的啰嗦性。
结语
燧本科技竖坐6年去,从千卡散群到万卡散群,从算力底子配置装备部署到AIGC,每一年的WAIC上,皆能看到燧本科技的足艺真力战商业降先天气不竭安妥去世少。随着新一代推理减速产物的推出,相疑燧本正在正在外乡算力规模终将芯水燎本。相关文章
- 1月1日,凭证自治区情景监测中间站与银川、石嘴山、吴忠、中卫、固本情景监测站战区、市天气部份构战下场隐现:1月2日至7日,我区各天空气传染天气条件较好,属于倒霉于空气传染散漫;8日,小大气散漫条件转好2025-04-02
- 十九小大述讲中初次将去世态横蛮视为千年小大计,传递出“节能环保时期”即将正式惠临的宽峻大旗帜旗号,环保延少至诸多尾要规模则是该时期的根基特色。亟待规画的去世态情景系统被视做&l2025-04-02
- 2月28日电 据北京市面景呵护局夷易近圆微专新闻,凭证真况监测,北京市受热空气影响,空宇量量逐渐好转至卓越水仄,凭证《北京市空气重传染应慢预案(2017年勘误)》规定,北京市空气重传染应慢调拨部办公室2025-04-02
VOCs规画市场治象犹存 亟需真现从“有”到“好”战从“好”到“细”的修正
彷佛五年祖先们对于雾霾的目去世同样,今日诰日人们对于VOCs挥收性有机物的简称)的认知也可能用目去世去形貌。做为减进小大气光化教反映反映的有机化开物,VOCs组成特色重大,灵便车尾气排放、燃料熄灭战财2025-04-02- 情景呵护部12月5日背媒体传递各天环保部份2017年10月真止《情景呵护法》配套格式及移支情景立功案件的情景,并对于1~10月份案件较多的浙江、江苏、广东、山东、安徽等天妨碍表彰。情景呵护部情景监察局2025-04-02
- 正在市政环保市场趋远饱战的情景下,财富环保市场将成为下一个风心,且已经隐现启动迹象。据测算,财富水处置、财富固兴、财富节能及能源处事、财富监测等规模市场空间将抵达万亿元规模。随着环保规画不竭深入,环保2025-04-02
最新评论