今年是大模型迅猛發(fā)展的一年，從 Generative AI 邁向 Agentic AI，大模型已能勝任日益復(fù)雜的邏輯推理與任務(wù)規(guī)劃。技術(shù)架構(gòu)持續(xù)演進，從 Dense 模型轉(zhuǎn)向 MoE，DiT 在多模態(tài)與生成領(lǐng)域嶄露頭角，強化學(xué)習(xí)（RL）也在多個行業(yè)加速落地。Agentic AI 帶來的長上下文、多輪交互與動態(tài)決策，顯著提升了算力需求與推理延遲，對 AI Infra 的算力、穩(wěn)定性和調(diào)度能力提出更高要求。

在本次云棲大會人工智能平臺分論壇上，阿里云智能集團計算平臺事業(yè)部人工智能平臺 PAI & DataWorks 負責(zé)人林偉為大家?guī)戆l(fā)布年度重磅升級，覆蓋訓(xùn)練、推理、開發(fā)與 Agent 搭建等多個方面，并貼合 MoE 架構(gòu)、DiT 架構(gòu)、強化學(xué)習(xí)和分布式推理等新趨勢帶來計算范式變革分享。此外，通義實驗室、廣汽集團、創(chuàng)維等團隊也帶來相關(guān)最佳實踐分享。

人工智能平臺 PAI 年度發(fā)布，面向Agentic AI的一站式開發(fā)平臺

1.  paiMoE：專為大規(guī)模 MoE 模型訓(xùn)練而生的引擎

在 MoE 架構(gòu)大模型預(yù)訓(xùn)練場景，PAI 團隊全新發(fā)布專為大規(guī)模 MoE 模型訓(xùn)練而生的引擎 paiMoE。paiMoE 核心技術(shù)含 MoE 高性能訓(xùn)練優(yōu)化 Tangram 和 長序列訓(xùn)練優(yōu)化 ChunkFlow，通過統(tǒng)一調(diào)度機制、自適應(yīng)計算通信掩蓋、EP計算負載均衡和計算顯存分離式并行等方面深度優(yōu)化，有效解決工作負載不同、稀疏 MoE 通信占比高等問題，實測達到 Qwen3 訓(xùn)練端到端加速比提效 3 倍。

●MoE 高性能訓(xùn)練優(yōu)化 Tangram

Tangram 支持支持多樣化細粒度 MoE 訓(xùn)練任務(wù)，一套機制支持不同的計算、通信、顯存與負載均衡需求，基于 Multi-Objective Multi-Level Scheduling 的架構(gòu)設(shè)計，滿足不同的 Fine-grained MoE 任務(wù)的性能與可編程性要求。Tangram 在 QWen3 多個場景下提升 CPT 訓(xùn)練效率達 3.04 倍。

●長序列訓(xùn)練優(yōu)化 ChunkFlow

ChunkFlow 針對處理變長和超長序列數(shù)據(jù)的性能問題，提出了以 Chunk 為中心的訓(xùn)練機制。變長序列數(shù)據(jù)重新組織為等長 Chunk 并且結(jié)合調(diào)度，有效提升訓(xùn)練效率。ChunkFlow 做為阿里云在變長和超長序列數(shù)據(jù)集上高效訓(xùn)練解決方案，支撐著通義千問 Qwen 全系列模型的長序列續(xù)訓(xùn)練和微調(diào)任務(wù)。Qwen2.5 系列模型性能測試結(jié)果表明，ChunkFlow 訓(xùn)練的端到端性能有最高4.53倍的提升。研究成果被 ICML 2025 收錄，《Efficient Long Context Fine-tune with Chunk Flow》（https://arxiv.org/pdf/2503.02356）。

2. PAI-DLC 超大規(guī)模分布式訓(xùn)練服務(wù)全面升級

人工智能平臺 PAI 訓(xùn)練服務(wù) PAI-DLC 支持一鍵提交 Ray、VeRL、ChatLearn 等強化學(xué)習(xí)任務(wù)框架，支持 GRPO、GSPO 等多種訓(xùn)練方式和 Qwen、DeepSeek 等主流模型，依托大規(guī)模分布式訓(xùn)練能力和極致性能優(yōu)化，數(shù)十萬卡異構(gòu)算力高效管理和調(diào)度，為用戶提供靈活、穩(wěn)定、易用、高性能的 AI 數(shù)據(jù)處理、預(yù)訓(xùn)練、后訓(xùn)練環(huán)境。

●結(jié)合專為大規(guī)模 MoE 模型訓(xùn)練而生的引擎 paiMoE、專為 DiT 架構(gòu)模型預(yù)訓(xùn)練優(yōu)化引擎 paiFuser、強化學(xué)習(xí)引擎 PAI-RL 等加速工具，顯著提升訓(xùn)練效率及 MFU；

●通過AI統(tǒng)一調(diào)度引擎對異構(gòu)算力高效管理和使用，支持排隊&搶占策略和混合異構(gòu)算力，實現(xiàn)多級算力拓撲和智能網(wǎng)絡(luò)拓撲調(diào)度，數(shù)十萬卡算力集群增長 3.3 倍；

●通過支持全 RL 學(xué)習(xí)框架、數(shù)據(jù)處理框架 DataJuicer，具備自動容錯和預(yù)熱加速功能，PAI-DLC 訓(xùn)練服務(wù)實現(xiàn) 15 倍增長，月均訓(xùn)練任務(wù) 4000萬+。

3.  PAI-EAS 性能優(yōu)化，加速Agent推理服務(wù)落地

●企業(yè)級專家并行（EP）解決方案發(fā)布

PAI-EAS 重磅推出企業(yè)級 EP 解決方案，助力千億參數(shù) MoE 模型以更低的成本、更高的效率服務(wù)于線上業(yè)務(wù)。PAI-EAS 生產(chǎn)級 EP 的部署支持，將 PD 分離、大規(guī)模 EP 、計算-通信協(xié)同優(yōu)化、MTP 等技術(shù)融為一體，形成多維度聯(lián)合優(yōu)化的新范式，實現(xiàn)極致顯存優(yōu)化、超高性能表現(xiàn)和顯著成本降低。

專業(yè)級EP部署模版：通過提供專業(yè)級 EP 部署模板和自動壓測工具，PAI EP 服務(wù)大幅降低復(fù)雜分布式部署門檻，實現(xiàn)一鍵式高效部署與性能調(diào)優(yōu)；

智能資源調(diào)度與編排：基于智能資源調(diào)度與編排技術(shù)，優(yōu)化 EPLB 負載均衡與專家遷移開銷，結(jié)合 LLM 智能路由實現(xiàn) PD 分離下的集群資源均勻分配，整體利用率大幅提升；

企業(yè)級穩(wěn)定性保障：涵蓋全面的監(jiān)控、算力健康檢查、自動故障隔離與自愈容錯機制，確保服務(wù)高可用；

靈活的生命周期管理：支持靈活的生命周期管理，實現(xiàn) Prefill / Decode 獨立擴縮容、資源配置動態(tài)調(diào)整及一體化服務(wù)的灰度發(fā)布，兼顧性能、穩(wěn)定性與成本最優(yōu)。

●面向 Agentic-AI 的推理引擎

PAI-EAS 通過模型權(quán)重服務(wù)、LLM 智能路由和大規(guī)模 EP 與 PD / AF 分離部署等產(chǎn)品能力，從服務(wù)部署擴容、實例請求調(diào)度、推理引擎內(nèi)核等多個維度加速 Agent 推理服務(wù)落地，實現(xiàn)更快部署（冷啟動時長降低 89.8%，擴容時長降低 97.6%）、更低時延（ TTFT 降低 20.3%，TPOT 降低 70.6%）和更高吞吐（ TPS 提升 71.0%）。

4.PAI–DSW 支持 Agent、具身智能等場景 AI 開發(fā)

PAI-DSW 集成 JupyterLab、PAI-NextIDE、VSCode、Qwen Code  等多種云端應(yīng)用，支持 Agent 與具身智能場景，開發(fā)者可使用 PAI-DSW 一站式完成微調(diào)模型、部署管理模型以及快速搭建 WebUI 等任務(wù)。同時，PAI-DSW 通過 Notebook Gallery 案例集、NextIDE 輕量編輯、小 PAI 智能輔助和開發(fā)機實例高級連接等新功能，為開發(fā)者和企業(yè)用戶提供完整、靈活、智能的全鏈路 AI 開發(fā)體驗。

通過 PAI-Notebook Gallery 開發(fā)者快速啟動具身智能項目的數(shù)據(jù)合成、模仿學(xué)習(xí)、強化學(xué)習(xí)和測試驗證。

●使用 Isaac 仿真系統(tǒng)、Cosmos 系列模型進行數(shù)據(jù)生成；

●基于 Mimic-Gen、Mobility-Gen、Dream-Gen 等算法進行數(shù)據(jù)擴增；

●對 BR-CNN、Gr00t Nx 模型進行模仿學(xué)習(xí)訓(xùn)練和評估；

●使用 Isaac Cortex 系統(tǒng)對模型進行軟件在環(huán)測試；

●使用 Isaac Gym&Lab 進行機器人強化學(xué)習(xí)。

5.更多重磅發(fā)布

5.1 安全的、可信賴的AI安全治理體系

隨著大模型能力持續(xù)進化，安全問題日益受到關(guān)注。PAI 從系統(tǒng)層、數(shù)據(jù)層到應(yīng)用層構(gòu)建全方位防護：保障訓(xùn)練與推理環(huán)境安全，防止模型與敏感數(shù)據(jù)泄露，識別并過濾違規(guī)內(nèi)容。全新發(fā)布的 AI 安全護欄能力，提供完整的安全治理體系、靈活的策略配置和高效的模型保護機制，全面守護 AI 模型與數(shù)據(jù)安全，助力企業(yè)構(gòu)建安全、可控、機密的 AI 應(yīng)用與智能體。

5.2 開箱即用的模型工具鏈 PAI-Model Gallery 

PAI-ModelGallery 集成豐富的預(yù)訓(xùn)練模型，提供一站式零代碼的模型訓(xùn)練、壓縮、評測、部署服務(wù)功能，憑借極致易用的低門檻模型工具鏈，為開發(fā)者和企業(yè)用戶帶來了更快、更高效、更便捷的 AI 開發(fā)和應(yīng)用體驗。

5.3 PAI-ArtLab 全新發(fā)布 AI Design Agent

AI Design Agent 通過自然語言指令，輕松實現(xiàn)高質(zhì)量的圖像生成、視頻制作及精細化圖片編輯，極大降低了創(chuàng)意實現(xiàn)的門檻。深度融合通義萬相和Qwen-Image等頂尖模型，內(nèi)置聯(lián)網(wǎng)搜索與 ComfyUI 集成，兼顧創(chuàng)意與專業(yè)需求，同時提供企業(yè)級安全隔離，為企業(yè)級用戶提供高效、安全的設(shè)計解決方案。

5.4 一站式大模型蒸餾工具庫 PAI-Easydistill 

PAI-EasyDistill 有效簡化大型語言模型的知識蒸餾過程，助力參數(shù)量更小但性能卓越的大模型的實際應(yīng)用。助力企業(yè)實現(xiàn)高性能、低成本的大模型應(yīng)用。在 Deep Search 等 Agentic 場景下，8B 蒸餾模型效果顯著超越 72B 教師模型，模型規(guī)模減小88.9%。

5.5 NL2SQL 框架 PAI-DataSurfer Agent 

PAI-DataSurfer Agent 是面向復(fù)雜真實場景的 NL2SQL 框架，采用“總—分—總”的協(xié)同架構(gòu)，專為超大規(guī)模、高復(fù)雜度的數(shù)據(jù)庫查詢?nèi)蝿?wù)設(shè)計，大幅提升了自然語言到SQL查詢轉(zhuǎn)換的準確性和效率。在被譽為"最接近真實企業(yè)場景"的 Spider 2.0-Snow 評測中，以 61.24 % 的執(zhí)行準確率榮獲榜單第一。PAI-DataSurfer Agent 技術(shù)已深度集成至大數(shù)據(jù)開發(fā)治理平臺 DataWorks 的 Copilot， 在 DataWorks 界面的頂部導(dǎo)航欄點擊 Copilot 圖標即可開始體驗。

PAI 助力通義大模型 MaaS 新范式

阿里云百煉攜手通義大模型，基于阿里云人工智能平臺 PAI 打造 MaaS（模型即服務(wù)）新范式，引領(lǐng)AI普惠化進程。阿里云百煉提供覆蓋大語言、多模態(tài)、代碼、數(shù)學(xué)等全場景的 SOTA 模型 API 服務(wù)，基于 PAI 的統(tǒng)一資源管理、快速模型加載和訓(xùn)推一體調(diào)度，為用戶提供高性能、低延時、高并發(fā)的極致體驗。

廣汽智能輔助駕駛模型開發(fā)訓(xùn)練全面上云

廣汽集團攜手阿里云人工智能平臺 PAI 實現(xiàn)智能輔助駕駛模型開發(fā)和訓(xùn)練全棧上云?；?PAI 的節(jié)點自愈及 AIMaster 容錯訓(xùn)練引擎，實現(xiàn)千卡規(guī)模任務(wù)穩(wěn)定訓(xùn)練不中斷；基于 PAI 的任務(wù)調(diào)度策略及閑時任務(wù)等資源精細化管理，資源利用率高達90%以上；基于 PAI Turbo-X 的模型訓(xùn)推加速方案，億級訓(xùn)練樣本千兆模型按天迭代。

PAI支撐創(chuàng)維媒資大模型后訓(xùn)練

依托 PAI 平臺，創(chuàng)維構(gòu)建了從數(shù)據(jù)管理、模型訓(xùn)練到輕量化推理的全鏈路技術(shù)體系，通過高質(zhì)量數(shù)據(jù)清洗、增強與自動化標注，顯著提升媒資信息提取、意圖識別和多路召回精度。通過大模型蒸餾工具 PAI-EasyDistill，支撐創(chuàng)維酷開壓縮模型體積，保留模型精度，提升推理速度；通過推理服務(wù) PAI-EAS，支撐創(chuàng)維酷開高效且高性價的模型部署。