在线精品免费,大香线中文字幕,图片区视频区小说区,天天骑夜夜操,人人插人人射,国产亚洲精品女人久久久久久,7777久久久国产精品

李開復(fù):AI大模型產(chǎn)業(yè)如何找到“算力”最優(yōu)解

2024-06-17 07:23 來源:經(jīng)濟(jì)參考報
查看余下全文
(責(zé)任編輯:劉朋)
手機(jī)看中經(jīng)經(jīng)濟(jì)日報微信中經(jīng)網(wǎng)微信

李開復(fù):AI大模型產(chǎn)業(yè)如何找到“算力”最優(yōu)解

2024年06月17日 07:23   來源:經(jīng)濟(jì)參考報   □記者 熊琳

  “隨著AI從1.0進(jìn)入2.0大模型技術(shù)階段,我們迎來了有史以來最重要的科技革命和平臺革命?!绷阋蝗f物CEO、創(chuàng)新工場董事長李開復(fù)日前在接受記者采訪時表示,算力作為AI 2.0發(fā)展的關(guān)鍵環(huán)節(jié),需要采用更務(wù)實(shí)、更統(tǒng)籌優(yōu)化的方法來應(yīng)對當(dāng)前的挑戰(zhàn)。未來,期待著人工智能尖端企業(yè)能夠更廣泛、深入?yún)⑴c到國家AI算力建設(shè)中來,各方優(yōu)勢資源充分融合,更好賦能AI大模型產(chǎn)業(yè)發(fā)展。

  “多地正在積極建設(shè)超算中心,打造國家級的算力底座,促進(jìn)超算算力一體化運(yùn)營,是非常好的探索和嘗試?!崩铋_復(fù)認(rèn)為,超算中心匯聚云計算、大數(shù)據(jù)和人工智能研發(fā)等多重功能及要素,聚集了豐富的AI發(fā)展資源和動能,未來可期。如何更好發(fā)揮各方優(yōu)勢構(gòu)建超強(qiáng)AI算力,或可從以下四個方面入手:

  首先,遵循規(guī)模定律(Scaling Law),提升計算效率。大模型規(guī)模定律的重要性在這個時代得以凸顯——人類能夠用更多計算和數(shù)據(jù)不斷增加大模型的智慧,這條被多方驗(yàn)證的路徑還在推進(jìn)中,還遠(yuǎn)沒有觸達(dá)天花板。

  同時,大模型的智慧來自于接近無損的壓縮,這點(diǎn)也非常重要。因?yàn)橐?guī)模定律過程中不能盲目堆更多的GPU,所以需要有一個方法評估大模型企業(yè)有沒有越做越好或者哪個方法做得更好。遵循規(guī)模定律也成為當(dāng)前諸多大模型企業(yè)規(guī)?;瘧?yīng)用大模型時嘗試突破算力限制,將計算效率最優(yōu)化的有效途徑之一。

  零一萬物內(nèi)部有嚴(yán)謹(jǐn)?shù)南嚓P(guān)方法論,且用壓縮的理念去評估,讓以往漫無目的訓(xùn)模過程變得更系統(tǒng)、更科學(xué)并有數(shù)學(xué)根據(jù),較大提升了自身大模型的計算效率。

  第二,加強(qiáng)“?;步ā?,尋找算力最優(yōu)解。目前,發(fā)達(dá)國家AI領(lǐng)域GPU的數(shù)量和規(guī)模是我國的數(shù)倍左右,面對這樣的差距,我們需要采取更務(wù)實(shí)有效的舉措——自研AI Infra(AI Infrastructure人工智能基礎(chǔ)架構(gòu)技術(shù))。AI Infra主要涵蓋大模型訓(xùn)練和部署提供各種底層技術(shù)設(shè)施。在國外一線大廠,最高效訓(xùn)練模型的方式是算法與Infra共建,不僅關(guān)注模型架構(gòu),而是從優(yōu)化底層訓(xùn)練方法出發(fā)。零一萬物自成立起便將自研AI Infra設(shè)立為重要方向,選擇跟國際一線梯隊(duì)齊平的“模基共建”戰(zhàn)略,模型團(tuán)隊(duì)和AI Infra團(tuán)隊(duì)高度共建,人數(shù)比為1:1。零一萬物在此基礎(chǔ)上自研了人工智能基礎(chǔ)架構(gòu)技術(shù),從底層優(yōu)化訓(xùn)練方法,較大節(jié)省成本,找到了當(dāng)前條件下算力運(yùn)用的優(yōu)質(zhì)路徑。從零一萬物國際領(lǐng)先的千億參數(shù)大模型“Yi-Large”訓(xùn)練過程來看,經(jīng)優(yōu)化后,Yi-Large千億參數(shù)模型的訓(xùn)練成本同比大幅下降。

  第三,打造“模應(yīng)一體”,探尋TC-PMF(Product-Market-Technology-Cost Fit,技術(shù)成本×產(chǎn)品市場契合度)。在大模型時代,模型訓(xùn)練和推理成本構(gòu)成了幾乎每個創(chuàng)業(yè)公司都必須要面對的增長陷阱。用戶增長需要優(yōu)質(zhì)的應(yīng)用,而優(yōu)質(zhì)應(yīng)用離不開強(qiáng)大的基座模型,強(qiáng)大基座模型的背后往往是高昂的訓(xùn)練成本,接著還需要考慮隨用戶規(guī)模增長的推理成本。能夠率先察覺、并達(dá)到 TC-PMF這一普惠點(diǎn)的企業(yè)無疑會占盡先機(jī)。要做到這一點(diǎn),模型、AI Infra、應(yīng)用這“三位一體”的優(yōu)異能力缺一不可。基于此,零一萬物將“模應(yīng)一體”與“?;步ā币煌袨楣镜捻攲雍诵膽?zhàn)略,在人才密度和協(xié)作方式上,也快速打磨出一整套能夠融合不同專業(yè)的優(yōu)秀人才跨界共創(chuàng)的組織體系?;P?、AI Infra、API、C端應(yīng)用AI助手“萬知”,這些全棧式業(yè)務(wù)部署,使得零一萬物能夠以更全面的視野來看待大模型時代的增長陷阱,也為其在應(yīng)用層的商業(yè)落地帶來了更大發(fā)揮空間。

  第四,充分發(fā)揮尖端AI企業(yè)示范優(yōu)勢。李開復(fù)認(rèn)為,我國在發(fā)展AI算力等領(lǐng)域具有一定優(yōu)勢。除了豐富的大數(shù)據(jù)資源外,我國的社會資源動員力、融合度較高,在科研、應(yīng)用領(lǐng)域的研發(fā)效率、落地效果較好。同時,我國有非常多卓越的互聯(lián)網(wǎng)企業(yè)和現(xiàn)象級App應(yīng)用,比如抖音、美團(tuán)等等,這些企業(yè)在AI算力、算法領(lǐng)域的探索有用戶支持作為基礎(chǔ),企業(yè)更易研發(fā)出更具有前瞻性、應(yīng)用性的應(yīng)用,是AI大模型產(chǎn)業(yè)發(fā)展的重要推力?!拔磥?,希望國家級超算中心、國內(nèi)可靠尖端AI企業(yè)、多領(lǐng)域企業(yè)間能夠增強(qiáng)資源的整合利用,充分發(fā)揮各方優(yōu)勢,更好融合發(fā)展,為AI更好賦能千行百業(yè)發(fā)展再添新動能。”

(責(zé)任編輯:劉朋)

精彩圖片