?
                        解決方案

                        以客戶為中心,提供定制化或一站式的全棧解決方案,賦能千行百業

                        寶德人工智能管理平臺 PLStack
                        產品概述

                        寶德依托強大的研發能力以及豐富的行業經驗,針對機器/深度學習科研、實訓教學等場景提供一站式解決方案?;谛碌脑O計理念,打造出一款功能完善的PLStack人工智能管理平臺,平臺能提供端到端的流程化管理,涵蓋數據標注、算法開發、模型訓練、模型管理、模型服務等AI完整生命周期流程支持。

                        PLStack平臺采用容器輕量級虛擬化方式作為基礎,實現對多集群多節點的GPU、CPU、內存、存儲等基礎設施資源池化;基于Kubernetes定制化開發的編排調度工具,實現資源高效靈活調度;同時企業級設計理念使平臺具備多租戶多層級用戶管理、權限管理、資源管理、vGPU等豐富的平臺能力,全方位滿足用戶對AI開發平臺高可用、高可靠、高穩定要求。大大緩解深度學習算法訓練的瓶頸,從而釋放人工智能的全新能力,讓用戶不再因為GPU的昂貴望而卻步。

                        平臺為用戶提供簡潔的WEB界面,豐富的功能以及多樣化工具。如開發模塊提供一鍵式環境生成、在線交互式開發工具Mlab;模型訓練提供參數調優、分布式并行訓練等;模型服務提供在線模型部署推理、模型服務調用;平臺同時集成數據標注工具、鏡像倉庫等,實現一站式AI開發。

                        同時深度學習框架鏡像以插件的方式接入系統,集成了多種業界常用框架,如 Tensorflow,PyTorch ,Caffe和 MXnet等,支持自定義擴展,極大提升整體系統的擴展性和可維護性。

                        產品架構

                        PLStack AI平臺整體分為三層:基礎設施層、資源調度層、平臺功能層,架構如下圖:

                        基礎設施層主要包括物理機、虛擬機、存儲設備、網絡設備、一體機等資源,為業務提供基礎算力支撐。

                        資源調度層借助Docker引擎實現CPU、GPU、內存、存儲等資源的輕量級虛擬化,基于Kubernetes 定制化研發實現對任務和資源的靈活編排調度,具有多租戶隔離、任務資源邏輯隔離等特點,結合高可靠的存儲服務、分布式并行訓練服務等功能組件,為上層業務功能模塊提供堅實的基石。

                        平臺功能層提供端到端 AI科研流程支撐,其中用戶端包含了開發模塊、AI框架、訓練模塊、數據管理模塊、模型服務模塊、鏡像倉庫、工單管理等;管理端包含計量計費、多租戶管理、告警監控設置、平臺運營運維等。

                        PLStack平臺由管理端和業務端兩個系統組成。管理端為平臺管理員視圖,包括資源總覽、業務管理、產品管理、運維管理、配置管理、財務管理、安全中心等7個模塊;業務視圖為普通用戶視圖,包括賬號中心、資源總覽、開發環境、模型訓練、存儲管理、模型服務、模型管理、鏡像倉庫等八個模塊。如下圖所示。

                        方案架構圖

                        寶德人工智能集群方案通過分析用戶的研究方向和實際需求,利用PLStack AI管理軟件平臺再結合寶德最新一代服務器,打造了一套計算能力強、資源利用率高、管理便捷和具有超高安全性的AI集群平臺。

                        產品功能特性

                        1、提供對容器+鏡像的管理,支持網頁端容器全生命周期管理,對異構資源進行高效管理、調度、監控。

                        2、多數據中心管理,用戶可以選擇使用某一數據中心的資源;同時具備3層組織架構管理,如管理員、組織管理員、成員等,通過設定對組織及用戶進行資源配額;

                        3、平臺集成多種深度學習各種框架(如TensorFlow,pytorch,caffe,keras等)用戶模型開發、模型訓練等;支持自定義框架擴展;

                        4、平臺具備多種計費模式;提供完整的計量計費功能,管理可通過計費模塊對GPU、CPU、內存等資源進行費用設定,根據用戶使用時長進行計費;

                        5、支持多個物理區域的GPU卡資源統一納管,統一分配;支持單機單卡,單機多卡,多機多卡以及單GPU卡多用戶共享方式分配資源;以任務方式分配計算資源;任務完成計算資源回收;

                        6、支持管理集群中GPU服務器及GPU卡的運行狀況,資源使用情況,包含GPU總數/使用數,GPU核心平均利用率,GPU顯存平均利用率等

                        7、支持用戶按需設置深度學習環境,包括深度學習框架,網絡模型,GPU及CPU資源;訓練完成銷毀運行環境,釋放計算資源;支持快速創建深度學習環境,應用程序及硬件資源相互隔離,獨立運行;

                        8、內置上百種各種優化AI算法,可滿足多個業務場景需求,降低用戶門檻,提升AI開發效率

                        9、提供web端高效協同AI算法模型開發工具,提供Jupyter lab和jupyter notebook的集成,支持AI相關數據集成到Jupyter中;。

                        10、支持web及shell提交訓練任務,支持用戶可以實時查看自己任務的運行結果;

                        11、支持可視化作業管理、版本管理、克隆任務(參數管理)等功能,基于參數管理可以快速創建任務,提升模型訓練任務的迭代效率;

                        12、支持基于常用的AI算法框架及準備好的算法可以進行多版本任務參數調優,優化并增強機器學習全生命周期管理流程;

                        13、集群可實現分布式并行訓練功能;支持動態申請分布式訓練所需要的GPU數量和節點數量,且平臺可以實時監控每個節點的運行情況;

                        14、具備本地鏡像倉庫,支持鏡像分組管理及分享,允許用戶上傳自定義鏡像,支持將用戶環境一鍵打包至鏡像倉庫,且支持將權限設置為公有或者私有;

                        15、支持對多版本的模型統一管理功能,可以集中管理所有在模型訓練中得到的模型,導入并管理在本地開發的模型,滿足模型需要不斷迭代和調試的管理需求;

                        16、提供scp訪問/Web訪問/擴容/重命名/修改密碼/共享存儲/刪除等功能;能支持個人用戶上傳數據集之后可由多用戶同時調用

                        產品優勢
                        • 開放融合

                          異構硬件融合和算力優化,支持多種CPU和GPU卡,同時集成多種主流的深度學習框架和交互式IDE開發環境。

                        • 極致性能

                          借助容器、K8S等云計算技術打造的AI平臺再結合超強算力的 GPU 集群,提供高并行、高吞吐、低時延的極致性能,在科學計算表現中性能比傳統架構提高 50 倍以上。

                        • 彈性靈活

                          彈性計算資源和算力優化管理,vGPU技術、GPU共享、多機多卡分布式并行訓練、多層級組織架構、組織及用戶資源配額等。

                        • 開箱即用

                          平臺預置TensorFlow 、 PyTorch、Caffe 等多種深度學習開源框架,無需安裝配置環境,一鍵快速提交訓練任務。同時數據模型分析交互式開發工具 MLab,還支持一鍵添加代碼和數據集。

                        • 節約成本

                          高效的資源優化調度和管理顯著地降低資源使用和運維成本,多種計費模式極大地降低前期投入。

                        • 安全服務

                          平臺完善的環境隔離及網絡監控服務,保障用戶數據和服務安全無虞。

                        RM新时代正规网址-首页

                                          
                                          

                                              RM新时代手机版 RM新时代官网网址 RM新时代反波胆app网址

                                                                
                                                                

                                                                    新时代rm平台入口 RM新时代有PAGCOR认证 RM新时代APP官网 rm体育平台 RM反波胆平台网址