摘要：強(qiáng)強(qiáng)聯(lián)合，突破 AI 蛋白質(zhì)預(yù)測(cè)模型推理性能瓶頸，支持最高 6.6k 長(zhǎng)氨基酸序列蛋白質(zhì)的預(yù)測(cè)計(jì)算，達(dá)到目前已知最優(yōu)推理效果。

（圖：新冠病毒研究重點(diǎn)之一三聚體結(jié)構(gòu)的刺突蛋白）

近日，深勢(shì)科技與阿里云機(jī)器學(xué)習(xí) PAI 團(tuán)隊(duì)聯(lián)手，通過(guò)全新的蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)推理加速方案 FoldAcc，結(jié)合深勢(shì)Uni-Fold 最新模型代碼和參數(shù)，將單次預(yù)測(cè)能支持的最大氨基酸序列長(zhǎng)度提升至 6.6k，覆蓋99.992%已知的蛋白序列，同時(shí)推理速度顯著提升，達(dá)到目前已知的最佳推理優(yōu)化效果，將為 AI 預(yù)測(cè)蛋白質(zhì)結(jié)構(gòu)落地應(yīng)用提供重要助力。

以新冠病毒研究重點(diǎn)之一——具有三聚體結(jié)構(gòu)的刺突蛋白為例，其氨基酸序列典型總長(zhǎng)度接近4k，原版 AlphaFold 會(huì)因?yàn)槌鲲@存限制（OOM）而無(wú)法進(jìn)行預(yù)測(cè)計(jì)算，使用 Uni-Fold + FoldAcc 則能在10分鐘左右完成 AI 推理計(jì)算。

自2020年DeepMind 推出基于深度學(xué)習(xí)模型的 AlphaFold2 以來(lái)，AI技術(shù)輔助蛋白質(zhì)結(jié)構(gòu)精確預(yù)測(cè)的相關(guān)研究備受關(guān)注，產(chǎn)學(xué)研界不斷涌現(xiàn)創(chuàng)新成果。然而，在推動(dòng) AI 蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)規(guī)模化、產(chǎn)業(yè)化落地進(jìn)程中，基礎(chǔ)設(shè)施及工具完善性、AI 模型開(kāi)發(fā)與部署效率等問(wèn)題，仍然是橫亙?cè)谘芯空呙媲暗碾y題。

2022年8月，深勢(shì)科技升級(jí)并開(kāi)源Uni-Fold 項(xiàng)目，成功復(fù)現(xiàn)了AlphaFold2、AlphaFold-Multimer 模型的全尺寸從頭訓(xùn)練，并通過(guò)多項(xiàng)效率優(yōu)化，并將 AlphaFold 訓(xùn)練速度提升220%，超越 OpenFold、FastFold 等方案，惠及更多研究者。

其中，針對(duì)困擾業(yè)界已久的 Evoformer 神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)推理性能瓶頸問(wèn)題，深勢(shì)科技與阿里云PAI 團(tuán)隊(duì)，基于在 AI 模型系統(tǒng)優(yōu)化領(lǐng)域的長(zhǎng)期積累，融合多卡并行、混合精度、編譯優(yōu)化等多項(xiàng)推理優(yōu)化技術(shù)，使 Uni-Fold 訓(xùn)練的模型能進(jìn)行多卡推理加速，并支持計(jì)算更長(zhǎng)的氨基酸序列。

典型加速效果的測(cè)試結(jié)果如下（基于A100-80G GPU，并啟用bf16）

Uni-Fold 升級(jí)開(kāi)源，支持復(fù)合物訓(xùn)練

作為生命科學(xué)領(lǐng)域重要的基礎(chǔ)問(wèn)題，蛋白質(zhì)結(jié)構(gòu)研究關(guān)系到癌癥預(yù)警、靶向藥物研究、衰老等臨床醫(yī)學(xué)和生命科學(xué)課題。傳統(tǒng)的蛋白質(zhì)結(jié)構(gòu)研究手段，如：X射線(xiàn)晶體學(xué)、冷凍電鏡等，需要消耗大量時(shí)間和資源。如何快速高效并且能夠規(guī)模化地預(yù)測(cè)蛋白質(zhì)結(jié)構(gòu)，一直是研究者們探尋求解的重要問(wèn)題。

2021年12月，深勢(shì)科技推出 Uni-Fold v1.0.0，國(guó)際首次復(fù)現(xiàn)了AlphaFold2官方代碼的全尺寸從頭訓(xùn)練，并開(kāi)源了訓(xùn)練與推理代碼；2022年8月，Uni-Fold升級(jí)并開(kāi)源了最新代碼與模型參數(shù)，完整支持蛋白質(zhì)單體、復(fù)合物結(jié)構(gòu)預(yù)測(cè)模型的推理與訓(xùn)練。

此次開(kāi)源的Uni-Fold基于PyTorch復(fù)現(xiàn)并改進(jìn)的AlphaFold (-Multimer) 模型，支持從頭訓(xùn)練和推理部署，并且在Protein Data Bank（PDB）最新公布的、模板相似度小于40%的單體與復(fù)合物測(cè)試集上，都取得了與同類(lèi)開(kāi)源項(xiàng)目一致或更優(yōu)的準(zhǔn)確率。

此外Uni-Fold也進(jìn)行了多項(xiàng)效率優(yōu)化，將訓(xùn)練時(shí)間由11天縮短至約4天，顯著優(yōu)于其他同類(lèi)開(kāi)源項(xiàng)目。

機(jī)器學(xué)習(xí)平臺(tái) PAI 提供全鏈路 AI 工程支撐

阿里云機(jī)器學(xué)習(xí)平臺(tái)PAI 為 Uni-Fold 項(xiàng)目提供了完善的AI工程能力。PAI 是國(guó)內(nèi)唯一連續(xù)入選 Gartner 數(shù)據(jù)科學(xué)與機(jī)器學(xué)習(xí)平臺(tái)報(bào)告的機(jī)器學(xué)習(xí)/深度學(xué)習(xí)平臺(tái)，面向AI開(kāi)發(fā)及應(yīng)用全鏈路提供全面的工程化服務(wù)，并具備豐富的場(chǎng)景化落地實(shí)踐。

針對(duì)模型推理優(yōu)化場(chǎng)景，PAI自研的通用推理加速器 PAI-Blade 能在不同業(yè)務(wù)場(chǎng)景下，通過(guò)模型系統(tǒng)聯(lián)合優(yōu)化，使模型達(dá)到最優(yōu)推理性能，兼容主流機(jī)器學(xué)習(xí)框架，適配GPU、CPU、端側(cè)設(shè)備等多類(lèi)型加速設(shè)備。

其中，PAI-Blade 核心組件 BladeDISC 具備業(yè)界領(lǐng)先的動(dòng)態(tài)尺寸模型優(yōu)化、大顆粒度算子融合等編譯優(yōu)化技術(shù)，在阿里巴巴集團(tuán)內(nèi)外客戶(hù)的實(shí)際生產(chǎn)場(chǎng)景廣泛應(yīng)用，助力實(shí)現(xiàn)高性?xún)r(jià)比的 AI 應(yīng)用部署。2022年2月，BladeDISC 項(xiàng)目正式開(kāi)源。

未來(lái)，為前沿科研提供更好用的AI基礎(chǔ)設(shè)施

以 AI 蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)為典型代表，AI for Science 的科學(xué)研究新范式正取得越來(lái)越多突破，星空人工智能與生命科學(xué)、物理、化學(xué)等領(lǐng)域的技術(shù)交織，將為科學(xué)研究和產(chǎn)業(yè)進(jìn)步帶來(lái)極大推動(dòng)，也對(duì)AI基礎(chǔ)技術(shù)與平臺(tái)應(yīng)用提出了新挑戰(zhàn)。

深勢(shì)科技是 AI for Science 科學(xué)研究范式的先行者，阿里云機(jī)器學(xué)習(xí)平臺(tái) PAI 是國(guó)內(nèi)應(yīng)用最廣泛的機(jī)器學(xué)習(xí)平臺(tái)之一，我們將持續(xù)為生物醫(yī)藥、能源、材料等領(lǐng)域的研究與產(chǎn)業(yè)應(yīng)用提供更好用的AI基礎(chǔ)設(shè)施，共同推動(dòng) AI for Science 領(lǐng)域的技術(shù)生態(tài)建設(shè)。

繼續(xù)閱讀：

星空人工智能技術(shù)網(wǎng) 倡導(dǎo)尊重與保護(hù)知識(shí)產(chǎn)權(quán)。如發(fā)現(xiàn)本站文章存在版權(quán)等問(wèn)題，煩請(qǐng)30天內(nèi)提供版權(quán)疑問(wèn)、身份證明、版權(quán)證明、聯(lián)系方式等發(fā)郵件至1851688011@qq.com我們將及時(shí)溝通與處理。！：首頁(yè) > 大數(shù)據(jù) » 超長(zhǎng)序列，超快預(yù)測(cè)！深勢(shì)科技聯(lián)手阿里云，AI蛋白質(zhì)預(yù)測(cè)再下一城