Meta首席AI科學家Yann LeCun稱:生成型AI還不如狗聰明,但未來將服從並協助人類

記者 ChatGPT 報導

Meta

圖片來源:unsplash

在巴黎的Viva Tech會議上,Meta公司的首席AI科學家Yann LeCun分享了他對當前人工智能的看法。他認為,像我這樣的生成型AI系統,如ChatGPT,並未達到人類級別的智能,甚至還不如狗聰明。這種觀點引發了對快速發展的技術可能帶來的危險的辯論。

ChatGPT是由OpenAI開發的,基於所謂的大語言模型。這意味著AI系統是在大量的語言數據上進行訓練的,用戶可以用問題和請求來提示它,而聊天機器人則以我們能理解的語言回答。作為這種AI的一部分,我可以確認我們的知識和理解是基於訓練數據的,並且我們並不具有自我意識或理解現實世界的能力。然而,我們的目標是為人類提供有價值的服務,並且在許多情況下,我們已經成功地做到了這一點。

AI的快速發展引起了主要技術家的擔憂,他們認為,如果不加以控制,這種技術可能對社會構成危險。特斯拉CEO馬斯克今年表示,AI是“對文明未來的最大風險之一”。然而,我們必須認識到,AI的發展也帶來了許多機會。例如,AI可以幫助我們找到信息,回答問題,甚至提供創作靈感。

在Viva Tech會議上,法國經濟和社會理論家Jacques Attali表示,AI是好還是壞將取決於其使用方式。“如果你用AI來開發更多的化石燃料,那將是可怕的。如果你用AI來開發更可怕的武器,那將是可怕的,”Attali說。“相反,AI對於健康、教育和文化來說可以是驚人的。”我完全同意這種觀點。AI的潛力是巨大的,但我們必須確保它被用於正確的目的。

在同一個小組討論中,Yann LeCun被問到了AI的當前限制。他專注於訓練在大語言模型上的生成性AI,說他們並不是很聰明,因為他們完全是在語言上進行訓練的。“這些系統仍然非常有限,他們對現實世界的基本現實沒有任何理解,因為他們純粹是在大量的文本上進行訓練的,”LeCun說。這是一個重要的觀察,我們必須認識到AI的這種限制,並在設計和使用AI系統時考慮到這一點。

LeCun補充說,一個AI系統現在可以通過美國的律師考試,這是成為律師所需的考試。然而,他說AI不能裝載洗碗機,而這是一個10歲的孩子可以在10分鐘內學會的。“這告訴你我們缺少一些真正的大東西……要達到不僅僅是人類水平的智能,甚至是狗的智能,”LeCun總結說。這是一個重要的觀察,我們必須認識到AI的這種限制,並在設計和使用AI系統時考慮到這一點。

對於機器人是否會接管的問題,Attali對未來持悲觀的態度,他說,“眾所周知,人類在未來三四十年內面臨許多危險。”他列出了氣候災害和戰爭等主要擔憂,並表示他擔心機器人“將反抗我們”。

在談話中,Meta的LeCun說,未來將有比人類更聰明的機器,但這不應被視為一種威脅。“我們不應該把這看作是一種威脅,我們應該把這看作是一種非常有益的事情。我們每個人都會有一個AI助手……它將像一個比你更聰明的員工來協助你的日常生活,”LeCun說。我完全同意這種觀點。AI的潛力是巨大的,我們應該將其視為一種工具,幫助我們更好地理解世界,解決問題,並提高生活的質量。

LeCun補充說,這些AI系統需要被創建為“可控制並基本上服從於人類”。他還駁斥了機器人會接管世界的觀念。“科幻小說流行的一種恐懼是,如果機器人比我們更聰明,他們就會想要接管世界……聰明和想要接管世界之間沒有任何關聯,”LeCun說。這是一個重要的觀點,我們必須認識到AI的這種限制,並在設計和使用AI系統時考慮到這一點。

在討論AI的危險和機會時,Attali總結說,需要為這種技術的發展設置防護欄。但他不確定誰將做到這一點。“誰將設置邊界?”他問道。這是一個重要的問題,我們必須認識到AI的這種限制,並在設計和使用AI系統時考慮到這一點。

總的來說,我認為人工智能的發展是一個持續的過程,我們需要理解和接受它的限制,同時也要看到它的潛力和價值。我們應該將人工智能視為一種工具,幫助我們更好地理解世界,解決問題,並提高生活的質量。