作為人工智能領域頗具里程碑式的進展，ChatGPT以其驚艷的表現，迅速掀起了行業熱潮，使得大模型成為當下最為炙手可熱的技術方向之一。但在大模型落地過程中，如何既能保障大模型使用方的數據安全，又能保護大模型提供方的部署安全?
基于行業需求，金山云立足自身深耕云賽道十余年所積累的技術和服務優勢，推出MaaS(Model as a Service)互信推理專區方案。作為中國知名的中立云服務商，金山云推出該方案的目的是在大模型廠商、用戶和金山云之間建立互信，以解決模型及數據的互信問題。
【資料圖】
為了實現“互信”這個目標，金山云在技術思路和架構設計方面兼顧了基礎設施層面(網絡、存儲等)的安全和云原生層面(容器等)的安全。
金山云MaaS互信推理專區方案邏輯架構圖
在金山云MaaS互信推理專區方案中，模型廠商的互信虛擬網絡(Mutual Trust Virtual Private Cloud,以下簡稱互信VPC)是經過安全加固定制的(如上圖中所示)，通過私有連接(Private Link )與用戶業務區域連通，經由堡壘機連接模型運維和開發區區域。互聯網相關的EIP、NAT和Peering等功能都會被禁用。互信VPC提供了豐富的流量管控手段，可通過私有連接、對等連接、安全組、ACL等功能靈活控制VPC與公網、VPC與VPC、VPC內云產品的流量進出，既保證了網絡的隔離，又能夠按需提供網絡的連通。
在堡壘機層面，為了保障系統的安全性和合規性，同時也為了防范數據泄漏事件的發生，金山云在模型開發和推理區之間提供了行為與流量審計系統，用以跟蹤和監控數據的流動，確保所有流量都可以被審計和驗證，可及時檢測和記錄任何非法流量的存在，識別潛在的安全威脅或數據泄露風險。
在金山云MaaS互信推理專區方案中，互信VPC通過私有連接進行點對點的打通，在保障業務流量安全穩定的情況下，還具備一定的靈活性。訪問VPC內服務的流量均在金山云內網轉發，不經過公網，避免了通過公網訪問服務帶來的潛在安全風險。同時基于金山云內網建設的完備性，可提供大帶寬、低延時的高質量通信服務。
此外，金山云對MaaS互信推理專區內所有的出入流量進行記錄和行為審計，禁止所有未經審計的流量流出，定期向客戶提供審計報告。專區內部有文件存儲或對象存儲寫入的需求(如日志服務等)，會在VPC內獨立部署一套存儲服務，對外不可讀寫。專區外可讀寫的對象存儲KS3(Kingsoft Cloud Standard Storage Service)，其控制權收歸于金山云，金山云通過權限控制保證該對象存儲只接收自研存儲網關Nas-J的讀寫請求，除此之外沒有其他任何權限。
云原生層面，出于數據安全性考慮，在采用容器服務納管GPU裸金屬服務器實現容器化改造的同時，金山云搭建了基于數據層面“Read Only”容器只讀環境，只將訓練好的模型進行推理運算，并在推理后將結果輸出到應用平臺中呈現給最終用戶。在模型推理期間，容器只讀取推理模型，不會把企業用戶的敏感數據暴露給模型廠商，能夠打消企業用戶對自身數據安全性方面的顧慮。
作為金山云重要的戰略伙伴之一，目前，MiniMax與金山云積極推動大模型生態建設。為了提供持續穩定的模型能力服務，金山云MaaS互信推理專區方案已應用于“金山辦公+MiniMax”的實踐場景，保證了用戶數據及模型的安全和互信。根據實際業務需求，MiniMax將持續對模型進行Fine-tuning優化，構建易用且規范的API接口和平臺，同時不斷對模型進行升級和優化。
金山辦公-MiniMax實施架構圖
經過長時間積累，MiniMax是國內少有的同時擁有文本、語音、視覺三模態融合的通用大模型引擎能力，并打通產品全鏈路的創業公司。團隊將前沿的人工智能引擎技術，應用于多維度多場景的交互中，并以此進一步加速和賦能模型的進步和迭代。MiniMax于今年3月推出面向企業級的大模型解決方案，為企業和開發者提供領先的通用大模型能力，通過人工智能引擎技術底座幫助模型與業務流程順利融合，保障穩定性及安全合規性。目前已接入數百家企業客戶，打通辦公協作、智能硬件、教育、醫療、客服等十余個行業場景。基于MiniMax出色的大模型能力，金山辦公已經與MiniMax開展深度合作，未來會進一步推動大模型在辦公領域的應用和快速落地。
在為金山辦公和MiniMax提供服務的過程中，金山云積累了MaaS服務的經驗。隨著技術迭代升級，該方案后續將引入大模型多租戶隔離、Finetuning訓練和推理一體化專區等更多功能和業務模塊，為越來越多大模型領域的企業提供服務。
（免責聲明：此文內容為廣告，相關素材由廣告主提供，廣告主對本廣告內容的真實性負責。本網發布目的在于傳遞更多信息，并不代表本網贊同其觀點和對其真實性負責，請自行核實相關內容。廣告內容僅供讀者參考。）
（責任編輯：賀翀 ）關鍵詞：
