北京，2020年12月10日/prnewsweel/-深圳大學計算機與軟件學院(以下簡稱“深大軟件學院”)借助Inspur人工智能資源平臺AIStation，巧妙地解決了AI計算能力資源配置與管理問題，GPU資源利用率提高到60%以上，整體開發效率提高75%，AI科研教學工作進入快車道。

深圳大學是廣東省重點建設的高水平大學，培養了馬、張之洞、史玉柱等優秀校友。依托國家戰略、地理優勢和校友資源，深圳軟科學研究院于2012年率先開展AI科研和人才培養。在人工智能領域取得多項科研成果，承擔多項國家自然科學基金項目。在芯片、算法、競賽、論文等方面也取得了顯著的成績。在2017-2019 csranks范圍內，深圳大學的計算機圖形學在亞洲高校中排名第一，進入世界領先水平。近年來，學院大力推進產學結合，積極開展人工智能教學的探索與實踐，與騰訊等領先AI企業合作制定人工智能人才培養計劃，在課程體系、資源銜接、師資培訓、課程內容建設等方面進行深入合作，建立了廣東省第一所人工智能學院。

為了支持人工智能的教學和研究工作，軟件工程學院投入巨資建設AI計算平臺。然而，隨著人工智能應用場景的增加和用戶數量的增加，人工智能計算資源的調度和管理問題日益突出。

人工智能計算能力資源管理拖累教學和研究的進展

2018年之前，深圳軟件工程學院AI計算資源的獲取主要由研究所/研究團隊自己解決。相關研究人員購買了大量不同品牌的AI服務器，新舊不一，型號不一，性能參差不齊，操作系統版本多樣。這些服務器都托管在學院的公共服務器機房，但都是由各個團隊維護。故障和維護停機是常見的情況，大多數AI服務器的MTBF(平均故障間隔時間)小于150小時。同時相關服務器只在團隊內部共享，利用率低，而機房的散熱能力、電源等資源消耗高。截至2018年底，學院公共服務器機房托管AI服務器近90臺。機房服務負荷(三相交流電)總供電電流峰值超過110A，服務器機房開通僅一年半就超過接入線路設計最大供電容量的50%。但是各種研究團隊的采購和托管應用還是層出不窮，機房管理人員都很苦惱。

從2018年開始，深圳軟件工程學院下定決心為學院搭建統一的公共AI計算平臺，同時收緊研究團隊自行購買和托管AI服務器，以提高資源利用率來解決研究者對AI計算資源的需求與機房動力系統的約束之間的矛盾。學院購買16臺8卡AI服務器組成服務器集群，安裝虛擬化軟件對服務器進行虛擬化，分發給學院師生。同時在其他6臺AI服務器上安裝了PBS系統，每個研究團隊可以根據需要應用，用于長期模型訓練、調優等短期使用需求。然而，傳統虛擬化軟件對GPU資源的虛擬化支持較差，只能通過PCIe設備手動分配給虛擬機，無法根據用戶的計算需求動態調度GPU資源。然而，傳統的并行計算集群管理系統如PBS不能滿足公共AI計算平臺對GPU加速卡等異構計算資源的監控和調度需求。同時，當多人共享時，運行環境

Inspur AIStation是面向企業用戶的集成人工智能開發資源平臺，可以支持數據處理、AI算法開發、模型訓練、模型管理、模型部署等AI全鏈運營管理。Inspur AIStation可支持大規模計算集群擴展和CPU、GPU、FPGA等各種系統架構。在行業內，可以做到“管資源”、“管人”、“管調度”三管齊下。在部署了Inspur AIStation后，解決了人工智能計算能力的資源管理問題。目前深圳軟件工程學院AI計算平臺GPU資源利用率在高峰期提高到60%以上，同時開發效率也有了很大提高，人工智能教學與研究進入快車道。

通過AIStation平臺，集群管理員可以清楚地了解每個用戶的資源使用和培訓任務提交情況，有效管理閑置的計算資源，靈活配置用戶資源配額，防止過度占用和浪費資源。

深圳大學的師生可以通過AIStation根據自己的需求申請資源，AIStation自動為用戶分配GPU資源。其GPU共享策略可以實現多人共享一臺機器和一張GPU卡，開發環境相互隔離，互不影響，大大縮短了過去的排隊等待時間，大大降低了任務相互干擾造成停機和數據丟失的風險。

此外，AIStation還支持任務排隊和托管，并定義任務優先級。深圳大學的老師和學生現在可以同時提交多個培訓任務，資源不足時可以排隊等候，完成一個任務的培訓后可以自動將資源釋放給排隊等候的任務，這樣可以更好地利用夜晚和節假日執行培訓任務，同時設置優先級優先處理重要任務。

AIStation還提供了一個基于網絡的用戶界面。教師和學生可以通過瀏覽器快速訪問實驗平臺，無需安裝任何插件。疫情期間，AIstation用于遠程教學和科研實驗，使軟科院迅速恢復正常的教學和科研工作，更好地應對疫情帶來的挑戰。

“借助AIStation，我們可以將更多的精力投入到教學和研究中，不再需要尋找計算資源。”深圳軟件工程學院的一位老師說：“同時，AIStation采用了帶有多種主流深度學習框架和開發組件的圖形界面，可以快速部署開發環境，大大降低了學生的學習難度和使用門檻，提高了學生的實驗效率。也為AI開發和教學提供了極大的便利，幾乎讓我們開發工作的整體效率翻倍。”

深度策劃軟學院借勢AIStation擺脫了AI算力資源難題，將繼續堅守“視野寬廣、素質優良、注重實踐、創新創業”的人才培養原則，加速推進AI科研創新與人才培養，打造人工智能教研標桿高校。