1. 創(chuàng)業(yè)頭條
  2. 前沿領(lǐng)域
  3. 大數(shù)據(jù)
  4. 正文

“多云多模型”時(shí)代到來(lái),火山引擎的數(shù)字化升級(jí)“刀法”

 2023-04-24 18:06  來(lái)源:A5專欄  我來(lái)投稿 撤稿糾錯(cuò)

  域名預(yù)訂/競(jìng)價(jià),好“米”不錯(cuò)過(guò)

2023年,幾乎可以被定義為中國(guó)互聯(lián)網(wǎng)公司的“大模型元年”。

ChatGPT的全球爆紅,徹底點(diǎn)燃國(guó)內(nèi)的大模型賽道,曾經(jīng)的“創(chuàng)業(yè)英雄”、如今的商業(yè)領(lǐng)袖們親自下場(chǎng),接連發(fā)布生成式人工智能產(chǎn)品與大模型布局。

大模型火了,沉寂許久的互聯(lián)網(wǎng)行業(yè)又有了新的“戰(zhàn)事”。同時(shí),大模型的快速發(fā)展也改變了云市場(chǎng)的現(xiàn)狀,企業(yè)對(duì)算力的需求急劇增長(zhǎng),技術(shù)層面從單一云架構(gòu)向“多云架構(gòu)”轉(zhuǎn)變的趨勢(shì)日益顯著。

2022年,字節(jié)跳動(dòng)旗下云服務(wù)品牌“火山引擎”對(duì)4000多家在云上消耗超過(guò)100萬(wàn)的企業(yè)客戶進(jìn)行調(diào)研,他們發(fā)現(xiàn),目前有88%的企業(yè)采用多云架構(gòu),平均每家企業(yè)會(huì)使用“五朵云”。

在多云架構(gòu)趨勢(shì)與大模型持續(xù)迭代的背景下,火山引擎總裁譚待認(rèn)為,未來(lái)將是“多云多模型”的時(shí)代。

不難理解,如今國(guó)內(nèi)云服務(wù)市場(chǎng)呈現(xiàn)多元化趨勢(shì),企業(yè)從不同廠商采買云服務(wù)已是常態(tài),而大模型也不會(huì)一家獨(dú)大,最終會(huì)形成多模型共生甚至協(xié)作的生態(tài)。

“在多云方面的實(shí)踐,字節(jié)可以說(shuō)是經(jīng)驗(yàn)最豐富的一家。”譚待說(shuō)。

具體到技術(shù)與業(yè)務(wù)層面,在“多云多模型”時(shí)代下,火山引擎如何為企業(yè)提供針對(duì)性的解決方案?

做好大模型的“基礎(chǔ)設(shè)施”

大模型是人人都想摘得的“玫瑰枝”,但在國(guó)內(nèi)落地實(shí)現(xiàn)的壁壘依然很高。

大模型的訓(xùn)練與迭代是對(duì)算力和數(shù)據(jù)的雙重考驗(yàn),也是對(duì)企業(yè)資金儲(chǔ)備與戰(zhàn)略定力的挑戰(zhàn);有業(yè)內(nèi)人士估算過(guò),OpenAI 訓(xùn)練 GPT-3 一年,算力成本就高達(dá) 2000 萬(wàn)美元。

尤其對(duì)中小科技企業(yè)或初創(chuàng)公司而言,建設(shè)大模型更具體的挑戰(zhàn)在于,企業(yè)缺乏足夠的應(yīng)用場(chǎng)景實(shí)踐和行為分析數(shù)據(jù),在訓(xùn)練和迭代升級(jí)上也存在壁壘。

譚待也認(rèn)為,國(guó)內(nèi)很多科技公司投入到大模型建設(shè)中,他們有優(yōu)秀的技術(shù)團(tuán)隊(duì)、豐富的行業(yè)知識(shí)和創(chuàng)新想法,但往往缺乏經(jīng)過(guò)大規(guī)模場(chǎng)景實(shí)踐的系統(tǒng)工程能力。

對(duì)此,火山引擎的解法是:為大模型客戶提供高穩(wěn)定性和高性價(jià)比的AI基礎(chǔ)設(shè)施。

如何為大模型提供基礎(chǔ)設(shè)施?據(jù)譚待透露,國(guó)內(nèi)大模型領(lǐng)域七成以上企業(yè)是火山引擎客戶,火山引擎將為他們提供關(guān)鍵的算力支持和技術(shù)平臺(tái),并為消費(fèi)者帶來(lái)更豐富的AI應(yīng)用。

具體到產(chǎn)品端,近日,火山引擎發(fā)布新版機(jī)器學(xué)習(xí)平臺(tái):支持萬(wàn)卡大模型訓(xùn)練、微秒級(jí)延遲網(wǎng)絡(luò),讓大模型訓(xùn)練更穩(wěn)更快。

同時(shí),火山引擎發(fā)布了基于自研DPU的Intel CPU計(jì)算實(shí)例、AMD CPU計(jì)算實(shí)例、NVIDIA GPU計(jì)算實(shí)例,以其中“DPU+AMD Genoa CPU平臺(tái)的計(jì)算實(shí)例”為例,整機(jī)性能最高提升138%,單核性能最高提升39%。

算力是實(shí)現(xiàn)大模型迭代的關(guān)鍵一環(huán),而火山引擎通過(guò)與字節(jié)跳動(dòng)國(guó)內(nèi)業(yè)務(wù)并池,將抖音等業(yè)務(wù)的空閑計(jì)算資源極速調(diào)度給火山引擎客戶使用,確保企業(yè)在大模型建設(shè)中的數(shù)據(jù)支持與算力保障。

字節(jié)跳動(dòng)副總裁楊震原表示,“并池”意味著可以調(diào)度一些資源,去錯(cuò)峰互用,把運(yùn)力提上去,“比如其實(shí)也有波峰和波谷,凌晨用的人少,這種資源就很適合科學(xué)計(jì)算的能力。”

字節(jié)跳動(dòng)副總裁楊震原分享抖音的機(jī)器學(xué)習(xí)實(shí)踐

基于字節(jié)系的算力資源和生態(tài)能力,火山引擎所提供的大模型基礎(chǔ)設(shè)施,在運(yùn)算效率和性價(jià)比方面更有優(yōu)勢(shì)。

以火山引擎的合作客戶MiniMax為例,這是一家已經(jīng)推出自研大模型產(chǎn)品的獨(dú)角獸公司,其與火山引擎合作建立的超大規(guī)模推理平臺(tái),擁有萬(wàn)卡級(jí)算力池,支撐單日過(guò)億次調(diào)用。

再比如抖音的推薦系統(tǒng),在火山引擎的算力支持下,工程師用15個(gè)月的樣本訓(xùn)練某個(gè)模型,5小時(shí)就能完成訓(xùn)練,成本只有5000元。

“火爆全網(wǎng)的抖音’AI繪畫’特效,從啟動(dòng)到上線只用一周多,模型由一名算法工程師完成訓(xùn)練。”楊震原介紹說(shuō)。

楊震原還認(rèn)為,業(yè)務(wù)創(chuàng)新需要試錯(cuò),試錯(cuò)要大膽、敏捷,但試錯(cuò)也一定要控制成本。

效率更優(yōu)、算力資源豐富、成本可控的大模型訓(xùn)練與迭代方式,往往是初創(chuàng)型科技公司最為看重的模式,也是火山引擎努力實(shí)現(xiàn)的目標(biāo)。

譚待指出,火山引擎要服務(wù)好那些立志做好大模型的公司,為其提供基礎(chǔ)算力支持和技術(shù)平臺(tái)。“如何在工程上幫它們優(yōu)化,提高效率,穩(wěn)定性,都是我們關(guān)注的重點(diǎn)。”

當(dāng)然,不同企業(yè)在不同應(yīng)用場(chǎng)景下,對(duì)云服務(wù)和大模型的需求千差萬(wàn)別,火山引擎又如何做好個(gè)性化的企業(yè)級(jí)解決方案?

數(shù)據(jù)驅(qū)動(dòng),升級(jí)企業(yè)解決方案

從2020年成立至今,火山引擎基于內(nèi)部業(yè)務(wù)的技術(shù)生態(tài),已經(jīng)向外開放機(jī)器翻譯、視覺智能等能力,業(yè)務(wù)覆蓋金融、汽車、消費(fèi)、文娛等行業(yè)場(chǎng)景。

不過(guò),事情正在起變化,“多云多模型”時(shí)代對(duì)云廠商提出更復(fù)雜的挑戰(zhàn)。

一方面,企業(yè)加速搭建“多云架構(gòu)”,以實(shí)現(xiàn)算力的快速增長(zhǎng);另一方面,多模型意味著多場(chǎng)景應(yīng)用,企業(yè)在不同的業(yè)務(wù)場(chǎng)景中需要差異化的AI應(yīng)用。

早在2022年,火山引擎就提出“體驗(yàn)創(chuàng)新、數(shù)據(jù)驅(qū)動(dòng)、敏捷迭代”的云上增長(zhǎng)三要素,基于企業(yè)不同的應(yīng)用場(chǎng)景,利用數(shù)據(jù)驅(qū)動(dòng)搭建云增長(zhǎng)模型。

譚待認(rèn)為,“過(guò)去很多企業(yè)花費(fèi)了大量時(shí)間構(gòu)建數(shù)據(jù)中臺(tái),但最后失敗了,找不到數(shù)據(jù)應(yīng)用的場(chǎng)景,價(jià)值也沒有發(fā)揮出來(lái)。其本質(zhì)在于,企業(yè)沒有將數(shù)據(jù)驅(qū)動(dòng)整個(gè)體系設(shè)計(jì)好。”

火山引擎總裁譚待宣布支持“多云多模型”的未來(lái)架構(gòu)

火山引擎非??粗?cái)?shù)據(jù)驅(qū)動(dòng)為企業(yè)降本增效、技術(shù)升級(jí)所帶來(lái)的作用,內(nèi)部對(duì)數(shù)據(jù)使用的價(jià)值也有一個(gè)明確標(biāo)準(zhǔn)——“0987”,即零事故、滿足90%的需求、80%的需求能夠通過(guò)技術(shù)優(yōu)化實(shí)現(xiàn)秒級(jí)調(diào)用、通過(guò)業(yè)務(wù)部門評(píng)價(jià)達(dá)到70分以上。

堅(jiān)持以數(shù)據(jù)驅(qū)動(dòng)為增長(zhǎng)核心,火山引擎能在內(nèi)容、營(yíng)銷等領(lǐng)域提供更多個(gè)性化的企業(yè)級(jí)應(yīng)用,比如在內(nèi)容領(lǐng)域通過(guò)算法和AI平臺(tái)幫助創(chuàng)作更優(yōu)質(zhì)內(nèi)容、在內(nèi)部運(yùn)營(yíng)方面通過(guò)數(shù)據(jù)平臺(tái)優(yōu)化供應(yīng)鏈和庫(kù)存管理等。

如今,火山引擎的解決方案已經(jīng)在各行各業(yè)落地,進(jìn)一步帶動(dòng)產(chǎn)業(yè)的數(shù)字化升級(jí)。

2022年卡塔爾世界杯期間,火山引擎就用AI的方式做出窄帶高清,一方面提升視頻幀率,另外還能降低帶寬。

同時(shí),針對(duì)網(wǎng)絡(luò)觀眾收看比賽最頭疼的直播延時(shí)問(wèn)題,火山引擎通過(guò)RTM超低時(shí)延直播技術(shù),將直播畫面的端到端延遲最低降到1s,電視觀眾和網(wǎng)絡(luò)觀眾幾乎都能“同頻”觀看賽事直播。

此外,在公益領(lǐng)域,火山引擎與字節(jié)跳動(dòng)公益將聯(lián)合推出公益版的電子票據(jù)服務(wù)與公有云服務(wù),為符合條件的公益組織提供為期3年的免費(fèi)服務(wù)。

據(jù)地歌網(wǎng)了解,字節(jié)跳動(dòng)公益電子票據(jù)服務(wù)已于今年2月上線,目前中華社會(huì)救助基金會(huì)、中國(guó)聽力醫(yī)學(xué)發(fā)展基金會(huì)已申請(qǐng)使用該服務(wù)。

中華社會(huì)救助基金會(huì)相關(guān)負(fù)責(zé)人表示,該基金會(huì)2022年開票量超過(guò)1萬(wàn)張,電子開票可以節(jié)約0.5個(gè)財(cái)務(wù)人力成本。

從直播體驗(yàn)升級(jí)到公益票據(jù)服務(wù),火山引擎通過(guò)數(shù)據(jù)驅(qū)動(dòng),努力在不同行業(yè)的不同業(yè)務(wù)場(chǎng)景中落地?cái)?shù)字化應(yīng)用。

火山引擎所處的云計(jì)算領(lǐng)域是大市場(chǎng),專業(yè)機(jī)構(gòu)估算,國(guó)內(nèi)云計(jì)算市場(chǎng)規(guī)模預(yù)計(jì)在今年突破3000億元。

但,“多云多模型”時(shí)代逐步變?yōu)楝F(xiàn)實(shí),企業(yè)對(duì)云服務(wù)的差異化能力提出更高要求,并且需要將云計(jì)算與大模型賦能到實(shí)際業(yè)務(wù)中,帶來(lái)整體業(yè)務(wù)升級(jí)。

行業(yè)正在起變化,云計(jì)算企業(yè)“不得不變”。

在海外,亞馬遜AWS于日前為企業(yè)客戶推出生成式 AI(AIGC)工具“全家桶”,包括用于生成文本、分類、開放式問(wèn)答和信息提取等任務(wù)的生成式大語(yǔ)言模型等。

在國(guó)內(nèi),云計(jì)算領(lǐng)域競(jìng)爭(zhēng)激烈,阿里云、華為云等均在行業(yè)內(nèi)深耕多年,火山引擎作為“后發(fā)之人”,依托于字節(jié)生態(tài)“溢出”的2B能力,持續(xù)升級(jí)企業(yè)數(shù)字化解決方案。

當(dāng)然,為適應(yīng)“多云多模型”時(shí)代,為大模型客戶提供AI基礎(chǔ)設(shè)施,火山引擎有著“任重道遠(yuǎn)”的目標(biāo)。好在,基于多年的資源儲(chǔ)備和場(chǎng)景實(shí)踐,火山引擎已經(jīng)摸索出了一條自己的云增長(zhǎng)道路。

申請(qǐng)創(chuàng)業(yè)報(bào)道,分享創(chuàng)業(yè)好點(diǎn)子。點(diǎn)擊此處,共同探討創(chuàng)業(yè)新機(jī)遇!

相關(guān)標(biāo)簽
數(shù)字化技術(shù)

相關(guān)文章

  • 九四智能創(chuàng)始人劉嗣平榮獲2023金瑞獎(jiǎng)“數(shù)字服務(wù)年度人物”

    7月5日,由艾瑞咨詢主辦的第15屆2023iResearchAwards金瑞獎(jiǎng)獲獎(jiǎng)名單正式揭曉。廣州九四智能科技有限公司(簡(jiǎn)稱:九四智能)創(chuàng)始人、CEO劉嗣平憑借在企業(yè)服務(wù)領(lǐng)域創(chuàng)新的智能用戶運(yùn)營(yíng)方法論及細(xì)致的場(chǎng)景解決方案,從眾多候選人中脫穎而出,榮獲本屆金瑞獎(jiǎng)“數(shù)字服務(wù)年度人物”。金瑞獎(jiǎng)于2006年

    標(biāo)簽:
    數(shù)字化技術(shù)
  • 2023MWC上海 | 釋放產(chǎn)業(yè)數(shù)字化平臺(tái)服務(wù)價(jià)值,賦能產(chǎn)業(yè)新未來(lái)

    2023年上海世界移動(dòng)通信通信大會(huì)(簡(jiǎn)稱“MWC上?!保┥希继仄嬉浴爸菃⑷f(wàn)物數(shù)轉(zhuǎn)賦能”為主題,通過(guò)300m2超大展位、8大展臺(tái)板塊,全面呈現(xiàn)公司自主創(chuàng)新原生技術(shù)和應(yīng)用案例,賦能千行百業(yè)數(shù)智化轉(zhuǎn)型。產(chǎn)業(yè)數(shù)字化是指以數(shù)字技術(shù)為引領(lǐng)、數(shù)據(jù)賦能為主線、平臺(tái)為支撐,對(duì)產(chǎn)業(yè)鏈上下游全要素?cái)?shù)字化升級(jí)改造的過(guò)程,

    標(biāo)簽:
    數(shù)字化技術(shù)
  • 思特奇智慧城市:創(chuàng)新構(gòu)筑城市級(jí)數(shù)字中樞平臺(tái) 助推城市轉(zhuǎn)型升級(jí)

    6月28-30日,2023上海世界移動(dòng)通信大會(huì)(MWC)在上海新國(guó)際博覽中心舉辦,作為行業(yè)領(lǐng)先的數(shù)字化轉(zhuǎn)型產(chǎn)品及解決方案服務(wù)商,北京思特奇信息技術(shù)股份有限公司(簡(jiǎn)稱:思特奇;股票代碼:300608.SZ)以“智啟萬(wàn)物數(shù)轉(zhuǎn)賦能”主題強(qiáng)勢(shì)亮相展會(huì),從運(yùn)營(yíng)商服務(wù)升級(jí)、政企產(chǎn)業(yè)服務(wù)創(chuàng)新、科技創(chuàng)新引領(lǐng)、數(shù)字生

    標(biāo)簽:
    數(shù)字化技術(shù)
  • MAXHUB 2023年新品品鑒會(huì)圓滿落幕:再掀企業(yè)數(shù)字化升級(jí)新風(fēng)向

    在過(guò)去的兩個(gè)多月時(shí)間里,MAXHUB2023全國(guó)新品品鑒會(huì)已先后走進(jìn)廣州、北京、西安、重慶、武漢、上海、杭州、深圳、石家莊、鄭州、長(zhǎng)沙、成都、呼和浩特、南京、哈爾濱、烏魯木齊等城市,舉辦121個(gè)場(chǎng)次,吸引超一萬(wàn)名嘉賓參加,構(gòu)建產(chǎn)業(yè)人士與MAXHUB三大空間數(shù)字化解決方案近距離體驗(yàn)的平臺(tái),打造令眾人眼

    標(biāo)簽:
    數(shù)字化技術(shù)
  • 企企通創(chuàng)始人&CEO徐輝:數(shù)字生態(tài)與數(shù)字化供應(yīng)鏈如何連通

    描述:2023年華映資本年度大會(huì)以“無(wú)限新成皆繁星”為主題。企企通作為數(shù)字化采購(gòu)與供應(yīng)鏈領(lǐng)域的專家,受邀出席本次大會(huì),其創(chuàng)始人&CEO徐輝作為華映資本的被投企業(yè)代表進(jìn)行了數(shù)字生態(tài)與數(shù)字化供應(yīng)鏈等核心內(nèi)容進(jìn)行了精彩分享。6月16日,2023年華映資本年度大會(huì)在杭州成功舉辦。2023年華映資本年度大會(huì)以

    標(biāo)簽:
    數(shù)字化技術(shù)