在线亚洲欧美中文精品,亚洲第一页在线视频,手机在线国产精品,欧美在线小视频,欧美色视频日本高清在线观看,色婷婷日日网,日韩免费小视频

分享到:
 
 
當前位置: 首頁>>綜合頻道>>綜合>>正文
大模型訓推一體機:“開箱即用”的人工智能
2024年05月22日 09時46分   新華網(wǎng)

新華社北京5月21日電 自美國開放人工智能研究中心(OpenAI)發(fā)布聊天機器人程序ChatGPT及其背后的GPT系列大語言模型以來,人工智能大模型熱潮持續(xù)蔓延,全球科技企業(yè)競相宣布研發(fā)或推出自己的大模型,數(shù)量迅速增長的大模型如何實現(xiàn)商業(yè)化落地成為行業(yè)關注焦點。

圖為2023年7月7日,華為技術有限公司在華為開發(fā)者大會2023上正式發(fā)布人工智能(AI)大模型華為云盤古大模型3.0。(新華社記者陳宇軒攝)

除了OpenAI、谷歌等公司采取的提供云端大模型應用程序編程接口(API)的商業(yè)模式之外,另一條備受關注的商業(yè)化路徑是銷售“軟硬件結(jié)合”的大模型訓推一體機。這種商業(yè)模式在中國市場上熱度較高,特別是多家中小型科技企業(yè)都推出了大模型訓推一體機產(chǎn)品。這類“開箱即用”的人工智能產(chǎn)品可以在企業(yè)內(nèi)進行本地化部署,使最新人工智能技術能夠方便地在工業(yè)場景中落地應用,實現(xiàn)從人工智能技術到生產(chǎn)力的轉(zhuǎn)化,加速人工智能與產(chǎn)業(yè)深度融合。

大模型訓推一體機一般指集成了大模型訓練和推理功能的“全棧式”人工智能設備,通常包含中央處理器(CPU)、圖形處理器(GPU)、存儲器、操作系統(tǒng)、深度學習模型等軟硬組件,能通過大規(guī)模數(shù)據(jù)訓練掌握數(shù)據(jù)處理和預測等能力。

與通過應用程序編程接口使用大模型功能相比,企業(yè)利用訓推一體機實現(xiàn)大模型部署具有多方面優(yōu)勢。首先,訓推一體機可以針對企業(yè)的特定業(yè)務需求提供“開箱即用”的定制化大模型解決方案,并通過軟硬件協(xié)同優(yōu)化提高性能,降低大模型部署、業(yè)務方案建設和調(diào)適的門檻。例如,佳都科技基于華為“昇騰AI”基礎軟硬件平臺推出了“佳都知行交通行業(yè)大模型訓推一體機”,可面向軌道交通、城市交通、城市安全等智慧城市重點建設領域,提供智能化、高效實時的解決方案和決策支持。

其次,由于訓推一體機將所有計算資源集中到一臺設備上,在大規(guī)模數(shù)據(jù)訓練中可大幅減少數(shù)據(jù)傳輸時間,提高計算速度和模型訓練效率,使企業(yè)能夠更快捷地使用和管理資源。

此外,本地化部署的訓推一體機能最大程度保障數(shù)據(jù)隱私和模型安全可控,滿足企業(yè)對數(shù)據(jù)安全監(jiān)管的需求。英國《金融時報》日前報道說,在企業(yè)內(nèi)部署的大模型訓推一體機產(chǎn)品正在對一些大型科技企業(yè)提供的基于公共云的人工智能服務形成沖擊。

該報道說,近期曝出的人工智能企業(yè)安全漏洞加劇了用戶對數(shù)據(jù)安全的擔憂。例如,ChatGPT將用戶的搜索歷史分享給他人,以及韓國三星的員工在使用ChatGPT處理工作時無意間泄露了公司的商業(yè)機密等。報道援引中國科大訊飛董事長劉慶峰的話說,機構需要能夠保護他們的數(shù)據(jù),而建立私有云是防止有價值數(shù)據(jù)泄露的方法。

但也有觀點認為,訓推一體機的性能會受到硬件技術限制,這提高了技術持有和更新的成本?!督鹑跁r報》的報道援引半導體行業(yè)研究機構SemiAnalysis的首席分析師迪倫·帕特爾的話說,相比于公共云服務或使用應用程序編程接口接入大模型,訓推一體機的效率更低下。該模式對人工智能大模型的使用非常零散,這意味著企業(yè)持有的昂貴人工智能硬件沒有得到充分利用。

許多企業(yè)在衡量利弊后選擇了訓推一體機,這正在成為中國算力行業(yè)的趨勢之一。2023年7月,華為聯(lián)合多家伙伴共同發(fā)布“昇騰AI”大模型訓推一體化解決方案,加速大模型在各個行業(yè)落地應用。目前,科大訊飛等多家中國科技企業(yè)都發(fā)布了基于華為“昇騰AI”基礎軟硬件平臺的訓推一體機產(chǎn)品。

華為董事、ICT(信息與通信技術)產(chǎn)品與解決方案總裁楊超斌在今年3月舉行的華為中國合作伙伴大會上表示,2024年中國區(qū)人工智能訓推一體機市場規(guī)模有望達到168億元人民幣。

(責任編輯:蔡文斌)

關閉窗口

    主辦單位:忻州日報社 晉ICP10003702 晉新網(wǎng)備案證編號:14083039 晉公網(wǎng)安備 14090202000008號

    律師提示:本網(wǎng)站所刊登的各種信息,均為忻州在線版權所有,未經(jīng)協(xié)議授權,禁止下載使用,凡不注明出處的將追究法律責任。

    地址:山西省忻州市長征西街31號 熱線:0350-3336505 電子郵箱:sxxzrbw@163.com