Lecun 一句話,恐怕又要引來一場唇槍舌戰了。這個標題錯得太荒謬了,太搞笑了。

他所說的這篇文章不是別的,正是最近在圈內引起了一波討論熱潮的《深度學習要碰壁了》。

從文章發布以來,幾天內它在推特上引起了幾百人的轉發點贊。有人認同也有人反對,但真正讓作者氣到跳腳的,還是 Lecun 在 Facebook 上的這條評論。導致 Gary Marcus 本人直接在推特上“下戰書”:歡迎你發表觀點,我洗耳恭聽。

并且就在幾個小時前,他還掛出 Lecun 在 2018 年發表的觀點。強調 Lecun 當時認為這 10 個問題中有很多都是錯的,在目前看來這些問題都還沒有被解決。

不過目前 Lecun 還沒有做出回應。
文章具體說了什么?
首先,我們來看一下 Gary Marcus 這篇文章中,具體講了哪些內容。大體來看,全文可分為兩個部分:
當下的深度學習充滿了炒作,實際上只有在粗略計算時的效果表現好;
深度學習應該調整發展方向,和符號處理結合在一起。
作者開篇即提到了 Hinton 在 2016 年提出的論點:
AI 將在 5 年內取代放射科醫生。
目前來看,這一豪言的確沒有實現。實際上,AI 在應用中遇到的“滑鐵盧”不是少數:比如代表著醫療 AI 的 IBM Watson 被拆分出售、GPT-3 等語言模型三觀不正、無人駕駛事故頻發……
對此作者認為,深度學習在完成輸出對精密度要求高的結果時,表現往往不夠好,以上列舉的 3 個場景就是最好的論證。而且深度學習已經遇到了擴展限制(scaling limits),也就是再繼續擴大模型所帶來的的收益,已經不夠明顯。
相反,在圖像識別這種只需要粗略結果的情況下,深度學習的效果是好的。對此,作者提出了自己的觀點:
深度學習應該與符號處理 (symbol manipulation)相結合。
符號處理,可以看做是計算機內部編碼,比如用二進制位串來代表一些復雜的想法。
為什么得出這樣的觀點?在這里作者舉了一個例子。在 meta 發起的一場 NetHack 挑戰比賽上,AI 以 1:3 的成績敗給了游戲系統。要知道,這其實是一款在 1987 年就發布的單人地下城探索游戲,它的地圖由 ASCII 字符編碼。

作者認為,AI 之所以會輸掉比賽,主要是因為每場游戲都會重新生成新的地圖,這意味著玩家不能通過死記硬背地圖來取勝,而是要理解游戲中的各種標志,并且搞清楚它們之間的聯系。
他還列舉了麥卡錫、明斯基等行業先驅的觀點,認為符號處理可以被用來構建精確的人工智能程序,用符號來表示獨立實體和抽象思想。
不過純符號系統在圖像識別、語音識別任務上的表現不夠好。而這部分,正是神經網絡所擅長的。作者提到,谷歌搜索中的自動拼寫糾錯,正是神經網絡和符號處理結合使用的最好案例。
實際上,在這方面的探索也從來沒有停止過。比如最負盛名的 AI——AlphaGo,就是使用符號樹搜索和神經網絡混合的系統。還有包括 IBM、英特爾、谷歌等科技巨頭,這些年也從未停止過在這一領域的積極探索。
網友:Lecun 可能只是開玩笑
如此一篇萬字長文,一經發表就在網絡上激起千層浪。在不少學界大佬轉發的另一面,也有不少人對 Gary Marcus 的觀點存疑。有人就提出,深度學習并不存在碰壁,而是正在經歷一個階段轉型期。

也有人用漫畫來生動地表達自己的看法。

另一邊,支持 Gary Marcuns 的人則表示:
他只是提出來一種混合模型,這有什么壞處嗎?

而在 Gary Marcus 向 Lecun“下戰書”的推特下面,有人也勸他消消氣。
可能 Lecun 只是說著玩的。

最后,我們再來了解一下 Gary Marcus。

他是 Robust.AI 的創始人,這是一家智能機器人公司,自稱擁有世界上第一個工業級 AI 認知引擎。他還是紐約大學名譽教授,在神經科學、遺傳學、進化心理學、AI 等領域發表過大量文章,其文章很多刊登在 Nature、Science 上。
與此同時,他還是一位作家,作品包括《The Algebraic Mind》《Kluge》《The Birth of the Mind》等。那么對于這篇長文,你怎么看呢?歡迎評論區分享觀點~
參考鏈接:
[1]https://twitter.com/GaryMarcus/status/1503015357149171717
[2]https://nautil.us/deep-learning-is-hitting-a-wall-14467/