當(dāng)?shù)貢r(shí)間周六(4月5日)，美國(guó)科技巨頭Meta推出了其強(qiáng)大的開(kāi)源人工智能(AI)模型Llama 4，Llama 4目前有兩個(gè)的版本，名為Scout和Maverick。
Meta表示，Llama 4是一個(gè)多模態(tài)大模型，它能夠處理和整合各種類(lèi)型的數(shù)據(jù)，包括文本、視頻、圖像和音頻，并且可以在這些格式之間轉(zhuǎn)換內(nèi)容。
Llama 4系列首次采用了混合專(zhuān)家(MoE)架構(gòu)的模型，這種架構(gòu)在訓(xùn)練和回答用戶(hù)查詢(xún)時(shí)的效率更高，可以將模型劃分為多個(gè)專(zhuān)注于特定任務(wù)的“專(zhuān)家”子模型。
據(jù)Meta介紹，Scout和Maverick不僅是其“迄今為止先進(jìn)的模型”，也是“多模態(tài)領(lǐng)域中先進(jìn)的模型”。
據(jù)悉，Scout有170億個(gè)活躍參數(shù)、16個(gè)“專(zhuān)家”模型、1090億個(gè)總參數(shù)；Maverick也有170億個(gè)活躍參數(shù)，但有128個(gè)“專(zhuān)家”模型，總參數(shù)量高達(dá)4000億。
除了Scout和Maverick之外，Meta還在訓(xùn)練功能更加強(qiáng)大的Behemoth，稱(chēng)其為世界上智能的大模型之一，是“新模型中的教師”。
所有這些模型都經(jīng)過(guò)了 “大量未標(biāo)注的文本、圖像和視頻數(shù)據(jù)” 的訓(xùn)練，以使它們具備 “廣泛的視覺(jué)理解能力”。
Scout 和Maverick模型在Llama.com網(wǎng)站以及Meta的合作伙伴處均可公開(kāi)獲取，也可以在WhatsApp、Messenger、Instagram Direct上獲取。
Meta表示，其人工智能助手Meta AI已在40個(gè)國(guó)家更新為使用Llama 4模型。目前，多模態(tài)功能僅在美國(guó)以英語(yǔ)提供。
該公司首席執(zhí)行官扎克伯格周六發(fā)表講話(huà)稱(chēng)：“我們的目標(biāo)是建立世界領(lǐng)先的人工智能，將其開(kāi)源，并使其普遍可用，以便世界上每個(gè)人都能受益。”
“我很久以前就說(shuō)過(guò)，我認(rèn)為開(kāi)源人工智能將成為領(lǐng)先的模型，而隨著Llama 4的推出，這一切已經(jīng)開(kāi)始發(fā)生。”他說(shuō)，“Meta AI今天得到了一次重大升級(jí)。”
Meta首席產(chǎn)品官Chris Cox上個(gè)月表示，Llama 4的推出將讓AI智能體變得更強(qiáng)大，使其具備更高水平的推理和行動(dòng)能力。
據(jù)知情人士透露，Llama 3已經(jīng)推出一年了，而Llama4之所以遲遲未能發(fā)布，是因?yàn)樵陂_(kāi)發(fā)過(guò)程中，該模型在技術(shù)基準(zhǔn)上沒(méi)有達(dá)到Meta的預(yù)期，尤其是在推理和數(shù)學(xué)任務(wù)方面。此外，Meta也擔(dān)心其模型在模擬人類(lèi)語(yǔ)音對(duì)話(huà)方面不如OpenAI的模型。
Meta計(jì)劃今年斥資高達(dá)650億美元擴(kuò)大其人工智能基礎(chǔ)設(shè)施，然而投資者正向大型科技公司施壓，要求它們展示投資帶來(lái)的實(shí)際回報(bào)。
本文鏈接：http://www.7280.com.cn/news-134070.htmlMeta發(fā)布開(kāi)源大模型Llama 4：首次采用“混合專(zhuān)家”架構(gòu)
