青云科技聚焦 AI 算力調(diào)度等能力,通過開放生態(tài),聯(lián)合 AI 硬件及軟件供應商、算法模型服務商、各地不同規(guī)模的算力服務商以及行業(yè)應用服務商等,深度融合算力、算法、行業(yè)數(shù)據(jù)以及場景應用能力,讓 AI 真正能釋放出業(yè)務價值。
因此，青云科技 AI 算力發(fā)布會邀請了生態(tài)合作伙伴共同分享對于 AI 落地應用的技術與實踐。無問芯穹商業(yè)化副總裁李楓以《加速大模型落地的最后一公里》為主題發(fā)表精彩演講，分享了無問芯穹在大模型落地方向的探索和進展，以下為演講全文，經(jīng)整理：
最近大模型在文本對話、圖像生成等 AI 內(nèi)容生成領域上取得優(yōu)異的性能，標志著 AI 2.0 時代的來臨。
如上圖所示的例子：微軟 Copilot 顯著提升辦公軟件 Office 的效率。比如我們輸入一個話題，程序可以自動生成相關的問題描述與日程安排；Midjourney 的圖像生成功能，使我們可以給給出描述文字得到自動生成圖片，同時能實現(xiàn)圖中所示的縮放功能。
在 AI 2.0 時代，大模型正引導了一輪巨大的技術變革，這幾個視頻都展示了大模型已經(jīng)能服務生產(chǎn)對話、代碼生成，而這些能力未來將賦能千行百業(yè)的技術。然而面對大模型這樣的重要技術突破，我國卻在算法層和算力層都受到了限制，包括最先進的模型調(diào)用被攔截、最先進的芯片被美國限制出口，因此國產(chǎn)化是 AI 2.0 時代突圍的必經(jīng)之路。
我們可以看到國內(nèi)外生態(tài)差異非常明顯，國外針對不同的算法模型，英偉達提供了統(tǒng)一的算力平臺和 Cuda 的軟件生態(tài)。反觀國內(nèi)的多種大模型、多套硬件平臺導致用戶難以實現(xiàn)高效統(tǒng)一部署，因此，算法模型和硬件平臺的適配成為生態(tài)和落地的最大瓶頸。
為了解決模型和算力之間的瓶頸，無問芯穹致力于提供大模型軟硬一體化自動化優(yōu)化方案。向上，我們服務多家大模型算法企業(yè)。向下，我們聯(lián)動多家國產(chǎn)芯片公司。產(chǎn)品上，我們實現(xiàn)了大模型在多種硬件上的 M×N 一鍵部署平臺，降低大模型的使用門檻，讓模型部署越快越好，真正成為 AI 2.0 時代大模型的基礎設施。
最后，為了助力 AI 2.0 時代大模型落地，無問芯穹著力于解決四個痛點需求：
1、支持長文本或大輸入
比如之前支持 2K token 的模型，我們可以用快速推理和訓練，使它支持 32K token，我們就可以做好例如專業(yè)長文本的信息檢索、生成、會議聊天助手等應用。
2、提升性價比
我們把語言和多模態(tài)生成模型部署到消費級顯卡，甚至手機等終端設備上，讓廣大客戶用得起。
3、垂直領域適配
用大模型通用能力幫助各行各業(yè)的人們提升體驗和效率。
4、一鍵式部署
讓大模型能低人力成本被部署到各種場景，讓每個工廠、學校、家庭甚至個人都能用到它的能力。
希望無問芯穹能真正滿足客戶的實際需求，解決好大模型落地的最后一公里。再次感謝青云科技的邀請，無問芯穹希望攜手青云科技共創(chuàng) AI 新紀元。
星空人工智能技術網(wǎng) 倡導尊重與保護知識產(chǎn)權。如發(fā)現(xiàn)本站文章存在版權等問題，煩請30天內(nèi)提供版權疑問、身份證明、版權證明、聯(lián)系方式等發(fā)郵件至1851688011@qq.com我們將及時溝通與處理。！：首頁 > 星空人工智能產(chǎn)業(yè) > AI大模型 » 青云 QingCloud合作伙伴無問芯穹分享：加速大模型落地的最后一公里