(相關(guān)資料圖)

21世紀(jì)經(jīng)濟(jì)報(bào)道記者董靜怡 上海報(bào)道

8月9日消息，AI應(yīng)用“妙鴨相機(jī)”已連續(xù)多日火爆出圈，上線不到一個(gè)月，算力需求暴漲數(shù)百倍。不過，通過在阿里云上緊急擴(kuò)容后，其因用戶暴增導(dǎo)致的排隊(duì)情況有所緩解，排隊(duì)時(shí)長已大幅減少，用戶體驗(yàn)得到改善。

自7月17日正式上線以來，“妙鴨相機(jī)”就以9塊9價(jià)格和高質(zhì)量“寫真”照獲得了大量關(guān)注，成千上萬的用戶涌進(jìn)應(yīng)用中，高峰期一度有4000-5000人排隊(duì)，需要等待10多個(gè)小時(shí)才能出片。

某資深I(lǐng)T人表示，“妙鴨相機(jī)”的相片生成需要龐大的GPU算力進(jìn)行計(jì)算，按上述高峰期的量級至少需要幾千臺GPU服務(wù)器才能滿足，線下部署不切實(shí)際，云上部署能為創(chuàng)業(yè)公司節(jié)省大量成本和時(shí)間，但目前僅有少數(shù)云計(jì)算大廠具備這樣的算力儲備。

“此前大家對大模型訓(xùn)練需要的算力關(guān)注較多，尤其是GPT類的模型訓(xùn)練，動(dòng)輒需要上萬張顯卡。”上述資深人士稱，隨著Llama2等開源大模型的流行，大模型應(yīng)用推理端的算力需求更值得關(guān)注，當(dāng)AIGC進(jìn)入生產(chǎn)力時(shí)代，推理算力需求可能遠(yuǎn)高于訓(xùn)練算力。

隨著各個(gè)行業(yè)的AIGC開發(fā)逐步完成，對業(yè)務(wù)開展階段使用的推理算力需求開始大幅增長，未來幾個(gè)月推理的算力需求總量可能遠(yuǎn)高于訓(xùn)練算力。

以目前國內(nèi)算力規(guī)模最大的阿里云為例，其提供最大十萬卡GPU規(guī)模集群的擴(kuò)展性，同時(shí)可承載多個(gè)萬億參數(shù)大模型同時(shí)在線訓(xùn)練和推理。此外，阿里云還提供了AI加速套件AIACC，大幅提升計(jì)算效率，大模型Finetune的訓(xùn)練效率可提升60%，推理效率可提升100%以上。

據(jù)相關(guān)負(fù)責(zé)人透露，“妙鴨相機(jī)”已在阿里云上進(jìn)行緊急擴(kuò)容，應(yīng)對暴漲數(shù)百倍的算力需求。雖然算力一邊加，另一邊用戶也在漲，但高峰期排隊(duì)現(xiàn)象已經(jīng)有了緩解。

關(guān)鍵詞：