万亿增漫空间！全球AI智能算力发展趋势深度分析 2024

1 发展近况及挑战

1.1发展近况

1.1.1 政策上：政策导向日益明确

全球列国通过政策支握、计策打算等妙技，加速构建当先的算力竞争力。好意思国公布 2024 财年政府预算，包括国防部、动力部、国土安全部等多个机构，累计向 AI 领域研究干与非凡 2511 亿好意思元，以推动 AI 研究和软硬件干事；欧洲不绝发布《塑造欧洲的数字改日》、《欧洲芯片法案》等文献，围绕数字化转型进行算力产业布局；日本连年来平庸强调振兴半导体产业，坚握以应用、绿色为导向发展算力，不休扩大国内顶端半导体坐褥。这些政策的实验加速了全球产业升级和科技转换，并晋升了这些国度的算力竞争地位。

我国以算力基础设施开发为锚点，全面推动算力高质料发展。二十届三中全会提议，高质料发展是全面开发社会主义当代化国度的首要任务。我国通过加强算力基础设施开发，推动算力工夫与产业的转换发展，为经济社会的高质料发展注入新动能。

在国度层面，《数字中国开发举座布局打算》、《深化实验“东数西算”工程 加速构建宇宙一体化算力网的实验主张》、《算力基础设施高质料发展行动研究》、《数据中心绿色低碳发展专项行动研究》等提议我国算力高质料发展的具体条目；在地方层面，浙江、北京、上海、广东、贵州、山西等省市也纷繁发布关系政策明确改日几年算力高质料发展行动研究。

表 1 我国算力中心关系政策打算

1.1.2 工夫上：生成式 AI 轻松发展

东说念主工智能以生成式 AI 工夫为中枢快速发展。以 ChatGPT 为代表的 AIGC 工夫加速成为 AI 领域的最新发展所在，对经济社会发展产生了紧要的影响。跟着东说念主工智能预试验大模子的不休高出、AIGC 算法的握续转换，以及多模态 AI 工夫的日益普及，AI 也曾大要生成包括文本、代码、图像、语音和视频在内的种种化内容。

这些工夫的发展晋升了 AIGC 模子的通用性和工业化水平，AIGC 的买卖后劲变得愈加显耀，如今大模子已成为企业在 AI 领域竞争的核蹙悚点。

算力成为推动生成式 AI 发展的枢纽。在大模子试验和生成式 AI应用的推动下，GPU 和异构研究资源需求显耀增长，算力的晋升直快单的硬件扩展发展为涵盖算法优化、系统设想、资源调换和收集通讯等多个层面的系统优化，算力性能和效率对模子推理、试验至关重要。

宽饶和蔼

在大模子试验中，平庸接受多机多卡构建的算力集群进行溜达式试验，而领有无数的研究节点并不等同于领有苍劲的研究智商。在溜达式试验环境中，领稀有千亿至万亿参数的高大模子通讯时间可能占据扫数试验过程的一半，收集通讯和数据缓存等瓶颈问题会显耀裁汰试验效率。

另外，跟着模子参数目增多，传统的试验姿色可能会导致试验过程中算力运用率的裁汰。在大模子试验中，Checkpoint 机制常用于在试验中按时保存模子参数，可是关于参数目极大的模子，该试验姿色可能会导致显耀的写入蔓延，如 GPT-3（1750 亿参数），以 15GB/s 的文献系统写入速率研究，完成一次 Checkpoint 需要 2.5 分钟，这不仅增多了试验时间，也裁汰了 GPU 的运用率。

1.1.3 市集上：算力投资握续加码

国度以告成投资或补贴姿色推动算力产业投资开发。好意思国研究 5年内投资 2800 亿好意思元以保握好意思国在芯片工夫领域的当先地位；中国全面启动““东数西算”工程，扬弃 2024 年 6 月底，““东数西算”八大国度关节节点告成投资非凡 435 亿元，拉动投资非凡 2000 亿元；欧盟研究提供 12 亿欧元的人人资金用于“欧洲共同利益重要研究——下一代云基础设施和干事”；日本经济产业省拟为 5 家日本企业提供总和 725 亿日元的补贴，用于打造东说念主工智能超等研究机。跟着全球列国在算力领域的竞争愈发利害，算力关系产业市集领域将呈现握续增长态势。以 AI 干事器为例，据 IDC 预测，改日几年全球东说念主工智能干事器市集领域将握续增多。

图 1 全球东说念主工智能干事器市集领域预测

科技巨头发力智能算力，万卡算力集群布局加速。2023 年以来东说念主工智能市集握续保握高增长态势，成为推动列国经济增长和工夫转换的枢纽成分。据 IDC 研究，瞻望 2022 年至 2032 年全球东说念主工智能产业领域的复合增长率高达 42%，2032 年将达到 1.3 万亿好意思元。基于东说念主工智能的广袤远景，全球科技巨头纷繁加大对 AI 基础设施布局以保管行业竞争力。海外上 Meta、微软&OpenAI、xAI 等多家 AI 巨头不绝晓示或者完成 10 万卡集群开发，国内通讯运营商、头部互联网、大型 AI 研发企业等均发力超万卡集群的布局。

图 2 全球 AI 产业领域预测（单元：十亿好意思元）

表 2 全球科技巨头智算布局

1.1.4 领域上：智算领域增速清亮

全球算力领域稳步彭胀，智算同比翻倍增长。以 AIGC 为代表的智能应用、大模子试验等新需求、新业务的崛起，推动全球智算领域呈现高速增长态势。据中国信通院测算，扬弃 2023 年底，全球算力总领域约为 910EFLOPS1“，同增增长 40%，智能算力领域达到335EFLOPS，同增增长达 136%，增速远超算力举座领域增速。

我国智能算力占增显耀增多，智算中心集离合步。据中国信通院测算，扬弃 2023 年底，智能算力领域占举座算力领域的增例近 30%，增效清亮。国度及地方层面积极鞭策智算中心开发，北京、广东等多地提议2025 年智算领域方针。从区域溜达上来看，智算中心呈集群开发趋势，过半溜达在我国东部地区。

图 3 全球算力领域（单元：EFLOPS）

1.1.5 发展水平上：算力发展由“量”向“质”

我国算力发展正处在由“量的彭胀”转向“质的提高”这一重要关隘。我国算力产业领域彭胀下运转以应用为导向，推动往常的重钞票、重硬件形式向软硬协同、干事驱动转型等高质料发展所在转型升级，算力发展从领域速率型粗疏增长转向质料效率型集约增长。在应用导向下，宇宙各地增多智能算力坐褥以晋升算力在东说念主工智能领域的适配水平，开发超大领域算力中心集群，以匹配大模子试验需求。

跟着集群开发领域越来越大，算力效率问题引起和蔼。算力中心开发、运营运转嗜好超大领域组网互联、集群灵验研究效率、试验高褂讪性与可用性等算力处理效率关系的性能。

另外，双碳方针日益热切，能耗条目日趋严格，算力行业的高耗能和碳排放问题引起诸多和蔼。我国出台了一系列政策对算力产业节能降碳提议愈加严格的条目，关系企业通过工夫转换、绿色料理等挨次不休开展节能降碳行动，绿色低碳成为算力产业重要发展所在。

与此同期，算力中心行为算力的主要载体，承载功能徐徐多元化。算力中心可为干事购买方提供多元化业务守旧和种种化算力干事，不再仅仅提供研究、存储等干事的场面，数据、算力、算法、生态相助等干事内容不休拓宽算力中心智商鸿沟。

算力提供方越来越刺目晋升算力干事的品性，整合种种算力资源，为用户提供一站式干事，裁汰用户获得算力资源的老本，推动算力普适普惠。

1.2 濒临挑战

1.2.1 挑战一：算力供给不及，供需匹配顽抗衡

一方面，AIGC 带动算力需求总量不休增长，大模子试验亟需无数 AI 算力守旧。从举座需求领域上看，模子试验引起 AI 算力需求暴增。据《新一代东说念主工智能基础设施白皮书》标明，往常几年，大模子参数目以年均 400%复合增长，AI 算力需求增长也非凡 15 万倍，远超摩尔定律。

在单个大模子试验需求上，模子越大算力需求越大，以参数领域达到 4050 亿的 Llama3.1 大模子为例，其单次试验算力需求相较于 700 亿的 Llama2 翻了 50 倍。

另外陪同模子不休迭代，试验数据集领域将不休增大，改日的大模子的算力需求将呈现指数级爆发式增长。

另一方面，现存供给结构与用户本色的算力需求不匹配变成资源蹧跶。

一是供需错位问题，国内算力产业链企业相对辩认，繁密芯片厂商和大模子企业工夫旅途不同容易变成芯片和模子之间不适配，且大多数智算干事仍是‘裸金属租出’的粗疏式经营姿色，无法精确欢欣不同企业的多元化需求。

二是资源运用率不及问题，据清华大学研究标明，大模子在处理无数数据时，由于算力调换、系统架构、算法优化等诸多问题，好多大模子企业的 GPU 算力运用率低于 50%，变成了巨大的资源蹧跶。

1.2.2 挑战二：算力智能水平较低，难以欢欣多元应用场景

东说念主工智能、大数据、物联网等数字工夫不休发展，多元应用场景对算力的智能水善良研究智商条目不休晋升。从需求上看，算力应用场景的复杂化导致数据量和算法复杂度急剧增多，这条目算力具备更高的智能化水平。

算力是算法自主学习的基础，大要天真处理和分析大领域的数据集，有助于欢欣更大参数目模子的试验需求，不休晋升模子的自主学习和泛化智商。

从工夫上看，传统芯片架构濒临着““存储墙”和““功耗墙”的问题，难以欢欣现阶段东说念主工智能应用的低时延、高能效、高可扩展性的需求，需要先进的研究架构将更多算力单元高密度、高效率、低功耗地相连在全部，提高异构多核之间的传输速率，从而为东说念主工智能大模子提供苍劲研究智商保险。

1.2.3 挑战三：算力濒临动力进修，节能降碳刻退却缓

双碳方针下，算力产业濒临节能降碳挑战。算力中心是算力的主要载体，是公认的高耗能基础设施。据中国信通院数据标明，扬弃2023年底，我国算力中心耗电量达 1500 亿千瓦时，瞻望到 2030 年将非凡4000 亿千瓦时，若不加大可再生动力运用增例，2030 年宇宙算力中心二氧化碳排放或将超 2 亿吨。

东说念主工智能模子试验的能耗远高于旧例研究能耗，凭据 Digital Information World 数据，试验 AI 模子产生的能耗是旧例云责任的三倍。

OpenAI 曾发布证明称，自 2012 年以来，AI 试验的电力需求每 3-4 个月就会翻一倍。

据波澜信息测算，一个10 万亿参数大模子试验需要 10 万卡 H100 集群，试验 1193 天，所消耗的电量约 40 亿千瓦时，约 1.4 亿好意思国度庭 1 天用电量。

面对东说念主工智能对算力的茂盛需求，算力产业如安在高速发展的同期结束“碳中庸”，是当下扫数行业需要治理的重要问题。

图 4 近 5 年我国算力中心耗电量（单元：亿千瓦时）

1.2.4 挑战四：种种化算力需求晋升，普适普惠水平较低

算力资源获得老本有待裁汰，多元算力匹配智商有待加强。

一是算力资源获得上，据斯坦福《2024 年东说念主工智能指数证明》估算，OpenAI的 GPT-4 瞻望使用了价值 7800 万好意思元的研究资源进行试验，而谷歌的 Gemini Ultra 滥用了高达 1.91 亿好意思元的研究资源老本。当今大模子研发已进入万卡期间，一家企业若是念念领有我方的大模子，至少需要几十亿投资，关于中小企业来说算力老本过高。

二是算力应用上，大模子试验、推理等业务场景的出现促使企业业务对种种化算力需求晋升，如今产业界无论是模子如故算力芯片，正处于百花皆放、转换并存的阶段，算力资源多元并用，多元算力与多种模子及框架的适配难度较大。另外，大模子应用大要匡助企业更高效率的结束买卖方针，但关于绝大多数企业而言，大模子的应用开发进程繁琐，模子设想、试验、调优等方法需要专科开发东说念主员，自研大模子老本高且研发门槛过高。

1.2.5 挑战五：供应链完备性不及，生态构建待完善

算力供应链完备性不及，亟需强化算力保险智商。

一是跟着多元异构算力的发展，不同 OS、固件、整机、芯片平台兼容性问题凸起，不同硬件生态系统紧闭且互不兼容，给算力使用方带来一系列工夫挑战。

二是算力干事商资源采购受各厂商芯片生态影响，存在应用与硬件紧耦合、难迁徙问题。如一些芯片厂商为了崇拜自己利益，会构建相对紧闭的生态系统，抵制其他厂商或第三方开发者的接入。这种紧闭性导致应用开发者只可针对特定厂商的芯片进行优化和定制，进一步加重了应用与硬件之间的紧耦合关系。

1.2.6 挑战六：性能评价简便，算力实测性能欠缺

现存算力评估体系评估场景简便，无法全面、深化地反应算力应用的本色后果。如今算力基础设施濒临着更高的开发与发展条目，冒失算力质料进行系统评估，保险算力安全褂讪运行和资源高效运用。

在万亿参数模子的试验过程中，软硬件组件需精密配合，一朝出现问题，其定界与定位过程极为复杂。凭据公开尊府清楚，业界在硬件故障定位上平庸需要 1-2 天，复杂应用类故障的定位时间则更长。

节点故障不仅会导致试验时间大幅延长，还会对算力资源变成巨大蹧跶。可是，现时算力评估体系由于评估场景相对单一，无间难以全面、深化地揭示算力应用在本色复杂环境中的信得过后果，测试评估方针主要以单芯片性能测试为主，测试收尾偏表面，参考价值有限，关于多场景下算力的性能评估也枯竭深化研究与嗜好，这严重抵制了评估体系在带领高效率、多元化算力资源成立中的应用广度和后果。

公众号【巴特星球】输出优质的AI资讯、前沿政策动向、AI工夫，宽饶和蔼！学问星球付费社区【巴特星球学习换取】尊府1000+份，握续上新行业最新尊府，加入社区寻找更多志同说念合的小伙伴，同期享受6大中枢职权。1、和蔼公众号免费获得AI学习尊府，获得AI最新资讯2、进微信群即免费领福利《AI免费学习资源》，内稀有百份行业证明、AI学习资源免费下载3. 参加学问星球付费社区，不按时刻享学习最新行业精选尊府，需求接洽和工夫换取4. 参与社区开源技俩开发和运营，共建分享AI社区免责声名： 尊府开始互联网公开数据，仅限社群个东说念主学习，如需它用请接头版权方。如有其他疑问请接头社区助手微信：byteverse888微信群：巴特星球AI学习分享换取群QQ群：AI大模子学习换取群和AI大模子培训，兼职，创业