繼上月發(fā)布"虛擬顯存"技術(shù)引發(fā)行業(yè)對GPU資源靈活分配的關(guān)注后，范式智能近日再次發(fā)布GPU動態(tài)調(diào)度新進展——基于Kubernetes動態(tài)資源分配(DRA)的GPU動態(tài)調(diào)度能力，實現(xiàn)對GPU算力與顯存的一體化精細調(diào)度。該技術(shù)不僅是對用戶關(guān)于"算力能否像顯存一樣動態(tài)切分"疑問的深入回應(yīng)，更標志著GPU資源管理從容量擴展邁向多維資源協(xié)同調(diào)度的新階段。

隨著Kubernetes v1.34的正式發(fā)布，其核心特性——動態(tài)資源分配(DRA)已穩(wěn)定啟用，標志著云原生資源調(diào)度進入更智能、更靈活的時代。

在這一背景下，范式智能基于長期在AI基礎(chǔ)設(shè)施領(lǐng)域的積累，率先完成了HAMi-Core與DRA的深度適配，并推出GPU動態(tài)資源驅(qū)動(DRA Driver)，讓GPU像CPU一樣被靈活共享與調(diào)度，推動云原生算力管理體系不斷完善與升級，為人工智能算力管理帶來新的可能。

讓GPU更靈活 讓算力更高效

在AI任務(wù)中，GPU是模型訓(xùn)練和推理的"引擎"，但長期以來，傳統(tǒng)使用方式常導(dǎo)致GPU資源浪費：要么"使用不滿"，要么"獨占浪費"。

HAMi-Core結(jié)合DRA能力，實現(xiàn)了GPU的動態(tài)切分與多任務(wù)并行。簡單來說，不同的任務(wù)可以同時使用同一塊GPU，各自占用合適的算力與顯存，就像多個應(yīng)用共享CPU一樣高效。

這帶來了兩大改變：

1.任務(wù)分發(fā)調(diào)度：同一個GPU節(jié)點上，由原來的串行分配變?yōu)椴⑿姓{(diào)度，顯著提升整體效率

如果用發(fā)牌來比喻這一變化，就是從"一人發(fā)完再發(fā)下一人"到"同時發(fā)牌給所有玩家"

過去：GPU節(jié)點上的任務(wù)必須串行執(zhí)行，就像發(fā)牌員一張一張發(fā)，前一個任務(wù)不結(jié)束，后一個只能等待

現(xiàn)在：GPU可同時為多個任務(wù)"發(fā)牌"，實現(xiàn)真正的并行調(diào)度，任務(wù)等待時間大幅縮短，集群吞吐效率顯著提升

2.任務(wù)申請資源：可以根據(jù)需求選擇不同配置的GPU，更精細、更靈活

還是用打牌來理解這個變化，就是選牌方式從"固定套餐"到"自由組合"

過去：申請GPU像點套餐，只能選固定規(guī)格，比如申請三張數(shù)值相同的"10"牌，不管任務(wù)需要多強的算力，都只能用這一檔配置

現(xiàn)在：用戶可以"自選組合"，根據(jù)任務(wù)需求自由搭配不同性能等級的GPU，就像同時選擇"5、9、A"等不同數(shù)字的牌——量體裁衣，既精準匹配計算需求，又避免資源浪費

這種能力的提升，讓GPU的調(diào)度更智能、利用更充分。在大規(guī)模集群場景下，系統(tǒng)復(fù)雜度明顯降低，性能提升體現(xiàn)在調(diào)度效率和任務(wù)處理速度上，為企業(yè)帶來更流暢的算力體驗和更高的運維效率。

推動云原生AI基礎(chǔ)設(shè)施的進化

HAMi-Core 作為由范式智能主導(dǎo)貢獻的開源項目，致力于提升GPU在容器化和云原生環(huán)境下的利用率。此次適配工作讓HAMi-Core與Kubernetes的動態(tài)資源調(diào)度能力實現(xiàn)了結(jié)合，讓算力資源的申請、分配和釋放都能通過標準化方式自動完成，大幅降低了使用門檻。

這一成果不僅體現(xiàn)了范式智能在AI基礎(chǔ)設(shè)施層面的技術(shù)深耕，也展示了其對開源生態(tài)的持續(xù)投入。

開源共建 釋放更大的創(chuàng)新力

目前范式智能已將該演示項目開源至GitHub(Project-HAMi/k8s-dra-driver)，并將與HAMi社區(qū)持續(xù)推進相關(guān)特性和生態(tài)建設(shè)，歡迎更多開發(fā)者和企業(yè)參與共建，共同推動 GPU 調(diào)度技術(shù)走向更智能、更開放的未來。

本文來自和訊財經(jīng)，更多精彩資訊請下載“和訊財經(jīng)”APP