玉林实硕医疗科技有限公司

Meta發力AI:官宣訓練和推理芯片項目,首款定制AI芯片超低功耗-環球快看

繼利用人工智能(AI)提升廣告效果后,Meta又在芯片上發力。

美東時間5月18日Meta披露了旗下數據中心項目支持AI工作的細節,提到已經打造一款定制芯片,簡稱MTIA,用于加快生成式AI模型的訓練。這是Meta首次推出AI定制芯片。Meta稱,MTIA是加快AI訓練和推理工作負載的芯片“家族”的一分子。


(資料圖)

MTIA全稱為Meta訓練和推理加速器。所謂推理是指運行經過訓練的模型。MTIA是一種ASIC,也就是將不同電路集成在一塊板上的芯片,可以將它進行編程,執行一項或多項任務。

Meta介紹,MTIA采用開源芯片架構RISC-V,它的功耗僅有25瓦,遠低于英偉達等主流芯片廠商的產品功耗。

Meta稱,2020年設計了第一代MTIA芯片,采用7納米工藝,那是同名MTIA項目的部分工作。打造第一代芯片的目的是提高推薦模型的效率,那些模型服務于廣告和其他新聞推送內容。一代MTIA可以將內部128MB的內存擴展到高達128GB。在Meta設計的基準測試中,它處理了低等和中等復雜度的AI模型,效率比GPU高。

Meta的軟件工程師Joel Cohurn介紹新芯片時稱,Meta最初用圖形處理單元(GPU)執行推理任務,發現GPU不太適合這種工作。用GPU固然可以大幅優化軟件,但對真實模型的效率很低,現實配置時難度大、成本高。所以Meta需要MTIA。

Meta承認,MTIA芯片在處理高復雜度AI模型時遇到了問題,但指出,它比競品芯片能更有效地處理中低復雜度的模型。

Meta表示,芯片在內存和網絡領域的工作還未完成,隨著AI模型發展,這些工作會出現瓶頸。目前,MTIA 的重點放在Meta應用家族的推理,而不是訓練。不過Meta 強調,MTIA“大大”提高了單位瓦特的推薦負載運行效率,讓公司能運行加強版的、更尖端的AI工作負載。

Meta本周四并未披露配置新芯片的時間表,也未說明具體有什么計劃開發可能訓練模型的芯片。

Meta同時介紹,計劃針對以AI為核心的網絡和冷卻系統,重新設計其數據中心,今年內,首個相關數據中心的設施將破土動工。Meta的員工演示時稱,新設計的成本將降低31%,而且建造速度是公司目前數據中心的兩倍。

Meta還介紹了旗下的一種AI驅動系統,它可幫助Meta的工程師編寫電腦代碼。Meta的AI助力代碼工具名為CodeCompose,目前沒有對外公開。公司團隊內部用它獲取Python 和其他語言的代碼建議。

今年ChatGPT掀起AI的熱潮后,Meta正在努力追趕其他硅谷巨頭加速開發AI功能的腳步。

2月Meta推出針對研究社區的大型語言模型LLaMA ,不同于ChatGPT和必應這類聊天機器人,它是開源的“研究工具”,可以在非商業許可下提供給政府、社區和學術界的研究人員和實體工作者。當月有報道稱,Meta將AI率先用于廣告功能,推出名為Advantage+的廣告產品,針對不同的用戶,讓AI根據算法自動生成廣告。

上月初傳出Meta年底前推出AI廣告工具的消息。Meta首席技術官Andrew Bosworth當時說,Meta將推出生成廣告圖像的AI工具,幫助公司針對不同的受眾制作不同的圖像。

上月末Meta公布了優于預期的一季度業績,并承諾要對火爆的AI領域加大押注。Meta的CEO扎克伯格評價一季度業績時稱,AI推動App和業務取得良好成果,還在業績電話會上說,對AI和元宇宙要兩手抓。

在Meta本周四官宣之前,其他科技巨頭已有定制AI芯片的動作。

谷歌用簡稱TPU的處理器訓練PaLM-2等旗下大型生成式AI系統。亞馬遜為云服務AWS的客戶提供訓練和推理的專屬芯片。上月媒體稱,微軟在與AMD合作開發名為Athena的自有AI芯片。

風險提示及免責條款 市場有風險,投資需謹慎。本文不構成個人投資建議,也未考慮到個別用戶特殊的投資目標、財務狀況或需要。用戶應考慮本文中的任何意見、觀點或結論是否符合其特定狀況。據此投資,責任自負。

關鍵詞: