簡介： 3月21日，2022英偉達 GTC 大會即將拉開帷幕。此次 GTC 22 大會上，阿里云將帶來有關推理優化/部署、深度學習編譯器、大模型部署、訓練優化、云手游等主題的內容，分享云端機器學習平臺最新的創新實踐。
3月21日，2022英偉達 GTC 大會即將拉開帷幕。此次 GTC 22 大會上，阿里云將帶來有關推理優化/部署、深度學習編譯器、大模型部署、訓練優化、云手游等主題的內容，分享云端機器學習平臺最新的創新實踐。
GTC 22 阿里云精彩演講提前看
[S41068] PaiSparse：面向深度學習的稀疏加速庫
· 李與超，阿里云，高級算法工程師
· 朱斐文，NVIDIA, 高級算法專家
· 3 月 23 日 星期三 | 3:00 PM - 3:25 PM 北京時間
隨著超大語言模型的流行， 如何部署超大模型正在成為迫切需要解決的問題。非結構化剪枝可以將模型規模縮小99%，讓超大語言模型在單卡上部署成為可能。然而超大模型稀疏后會呈現不同的非零分布，而這些分布會直接影響硬件的計算量并影響最終的執行時間。同時與傳統的 HPC 任務不同的是，基于訓練后的稀疏矩陣分布的 tuning 在深度學習推理中是可以進行的。因此我們提出一個面向深度學習的稀疏加速庫：PaiSparse，可以自動生成更高效的稀疏算子。實驗表明，與 cuSparse 相比，PaiSparse 可以提速1.5~5倍。
話題鏈接：https://www.nvidia.com/gtc/session-catalog/#/session/1634303703593001XjhX
[S41501] PTXC：使用 XLA 編譯器通過云 GPU 擴展 PyTorch 訓練
· 劉小勇，高級主任工程師
· 3 月 23 日 星期三 | 9:00 PM - 9:25 PM 北京時間
在工業界實踐中，模型訓練和部署的效率、規模和適配性關系到最終的應用效果。為滿足PyTorch eager-first 的 GPU 編譯流程，Lazy Tensor 架構被提出來。通過采用實踐驗證過的產品化 XLA 編譯器和分布式引擎，PTXC 能在阿里云 GPU 集群中以基于編譯優化的方式一鍵快速搭建易用、彈性且高效的 PyTorch 模型訓練系統。
話題鏈接：https://www.nvidia.com/gtc/session-catalog/#/session/1637553159784001rkUB
[S41395] 通過 PAI-Blade 更易用、更可靠地使用 TensorRT
· 邱俠斐，阿里云，主任工程師
· 郭天佑，阿里云，高級工程師
· 李瀾博，阿里云，高級工程師
· 3 月 24 日 星期四 | 9:00 AM - 9:25 AM 北京時間
TensorRT 是英偉達推出的業界領先的推理加速器，在深度學習推理場景應用廣泛，但是通過 TensorRT 來優化深度學習模型仍有一定門檻。首先，通過 TensorRT 解析模型時會遇到轉換失敗或表現不理想的情況。其次，從零開始搭建網絡比較耗時且難以擴展。此外，在生產環境里增加新的推理框架需要嚴謹的評估。本次演講將介紹如何通過一站式 AI 加速器 PAI-Blade 解決上述問題。PAI-Blade 能夠實現 TensorRT 后端上的自動圈圖和自動化運行。同時還可以與 TensorRT Plugin 協同工作，以實現更好的性能。目前 PAI-Blade 提供對 TensorFlow 和 PyTorch 的產品化支持。
話題鏈接：https://www.nvidia.com/gtc/session-catalog/#/session/1635516028378001Pxlx
[S41604] 未來游戲趨勢：通過阿里云彈性云手機解決方案打造云游戲
· 楊銘，阿里云，高級工程師
· 3 月 24 日 星期四|11:00 AM - 11:25 AM 北京時間
基于英偉達 T4 及原生的 ARM 平臺，阿里云設計研發了高性能的云手游解決方案——彈性云手機，可實現虛擬化渲染及顯存隔離，在確保隔離的情況下充分發揮 T4 性能。此外，彈性云手機無縫對接阿里巴巴云游戲流媒體平臺，該平臺兼容多種流媒體協議，并具備完整的“渲染-編碼-串流”云手游架構。
話題鏈接：https://www.nvidia.com/gtc/session-catalog/#/session/1638429961776001IhJm
[S41383] 云端 Triton 生產實踐
· 李文鵬，阿里云，主任工程師
· 邱俠斐，阿里云，主任工程師
· 李瀾博，阿里云，高級工程師
· 3 月 24 日 星期四 | 1:00 PM - 1:25 PM 北京時間
Triton 推理服務器是一款功能全面、可擴展且功能強大的推理解決方案，在邊緣設備和云上皆可部署。在云上將 Triton 部署到生產環境中時，應考慮效率、可擴展性以及與 Triton 自身外的云上基礎設施的集成。我們將介紹在阿里云中通過 PAI- EAS 提供 Triton 作為云服務的關鍵見解：1) 一鍵部署 Triton 集群；2) 根據請求吞吐量擴展 Triton 集群；3) 與 OSS（對象存儲服務）原生集成；以及 4) Triton 和 GPU 共享調度。
話題鏈接：https://www.nvidia.com/gtc/session-catalog/#/session/1635349148436001gNSE
[S41073] 阿里云基于 AI 編譯器的通用透明性能解決方案
· 朱凱，阿里云，主任工程師
· 3 月 24 日 星期四 | 2:00 PM - 2:50 PM 北京時間
本次演講將從云服務廠商的視角，分享在云端和機器學習平臺上大規模部署 AI 編譯器的實戰經驗。我們將詳細介紹近期剛剛開源的動態 shape 深度學習編譯器 BladeDISC，包括它的背景和主要特性，具體設計架構和實現細節，動態 shape 語義下的性能優化經驗，未來計劃以及在 NVIDIA 設備上的應用等。
話題鏈接：https://www.nvidia.com/gtc/session-catalog/#/session/1634431966251001JhrZ
GTC 22 阿里云精彩演講鎖定攻略！
1. 點擊訪問 GTC 22 官網 https://www.nvidia.cn/gtc-global/?ncid=GTC-NVMAGGIEJ
2. 注冊 GTC 22
3. 登錄后可將會議添加至會議日程如下圖
4. 開始后登錄即可觀看會議，若錯過直播時間，可登錄查看會議點播，隨時觀看會議
掃描下方海報二維碼，即刻注冊 GTC 22，了解阿里云關于推理優化/部署、深度學習編譯器、大模型部署、訓練優化、云游戲等主題的精彩分享。
星空人工智能技術網 倡導尊重與保護知識產權。如發現本站文章存在版權等問題，煩請30天內提供版權疑問、身份證明、版權證明、聯系方式等發郵件至1851688011@qq.com我們將及時溝通與處理。！：首頁 > 新聞 » GTC22精彩看點|鎖定阿里云硬核分享