玉林实硕医疗科技有限公司

每日速訊:圖靈獎得主楊立昆:不喜歡AGI,讓AI安全的長遠方案是開源


(資料圖片僅供參考)

7月6日,2023 世界人工智能大會開幕式上,2018 年圖靈獎得主、Meta AI基礎人工智能研究院團隊首席人工智能科學家楊立昆(Yann LeCun)直言,不喜歡AGI(通用人工智能)這個名詞。

他解釋稱,每一個智能都是專項的,人類智能也是非常專業、專項的,但LLM(大語言模型)只基于文本訓練,不是利用視頻訓練,因此它們不理解物理世界,沒辦法規劃、推理,就沒辦法實現目標。

在近期關于AGI的辯論中,楊立昆多次表示,類ChatGPT產品并不能真正理解現實世界,更無從談起實現人類智慧。

楊立昆認為,現在還沒有一個足夠智能的系統來處理各種事情,所以人工智能系統需要一個世界模型(World Model),這個模型主要通過觀察來訓練,并通過少量交互處理不確定性。

世界模型就像人類理解世界的方式一樣,通過物理直覺等方式了解世界的一切,對于未來10年的人工智能研究來說,這是個巨大挑戰。

對于如何實現AI的治理和規范,楊立昆稱,他認為可以通過可控的方法,設置安全護欄等使它們不會出現欺騙和支配人們的行為。

楊立昆最后表示,他完全不同意“因為任何人可用人工智能做任何事,情況可能會非常危險,所以需要嚴格監管人工智能”的說法。

他認為,嚴格監管人工智能發展并不能保證AI安全,長遠看開源才能讓AI保持安全、良善。

未來每個人都能通過人工智能助手和數字世界溝通。如果人工智能只被少數人控制,這是不可以的。

風險提示及免責條款 市場有風險,投資需謹慎。本文不構成個人投資建議,也未考慮到個別用戶特殊的投資目標、財務狀況或需要。用戶應考慮本文中的任何意見、觀點或結論是否符合其特定狀況。據此投資,責任自負。

關鍵詞: