深度學(xué)習(xí)系統(tǒng)不擅長處理新奇的情況，它們需要大量的數(shù)據(jù)來訓(xùn)練，它們有時(shí)會(huì)犯一些奇怪的錯(cuò)誤，甚至?xí)屗鼈兊膭?chuàng)造者感到困惑。

一些科學(xué)家認(rèn)為，這些問題將通過創(chuàng)建越來越大的神經(jīng)網(wǎng)絡(luò)并在越來越大的數(shù)據(jù)集上訓(xùn)練它們來解決。也有人認(rèn)為AI領(lǐng)域需要的是一點(diǎn)點(diǎn)人類的“常識(shí)”。。

好的人工智能系統(tǒng)會(huì)犯奇怪的錯(cuò)誤。

在過去的10-12年里，隨著人們對深度學(xué)習(xí)表現(xiàn)出非凡的熱情，有很多關(guān)于基于深度學(xué)習(xí)的系統(tǒng)能夠做我們最初希望人工智能系統(tǒng)做的一切事情的談?wù)摗?/p>

在人工智能的早期，愿景是創(chuàng)造一個(gè)獨(dú)立自主的系統(tǒng)，可能是機(jī)器人的形式，它可以在世界上做事情，幾乎不需要或不需要人類干預(yù)。

今天，孔徑已經(jīng)縮小了很多，因?yàn)楹芏嗳硕紝ι疃葘W(xué)習(xí)能夠完成的事情感到興奮，特別是，在工業(yè)中巨額資金和人才收購在推動(dòng)了對基于經(jīng)驗(yàn)或訓(xùn)練有素的系統(tǒng)的強(qiáng)烈關(guān)注后，我們正在接近的大量索賠人工通用智能，或者說“老式人工智能”(GOFAI)或象征性方法已經(jīng)完全過時(shí)或沒有必要。"

但是很清楚的是，盡管令人印象深刻，深度學(xué)習(xí)系統(tǒng)正遭受著尚未解決的令人困惑的問題。神經(jīng)網(wǎng)絡(luò)傾向于敵對攻擊，其中對輸入值的特制修改會(huì)導(dǎo)致模型對其輸出進(jìn)行突然的錯(cuò)誤更改。深度學(xué)習(xí)也在努力理解簡單因果關(guān)系而且很不擅長構(gòu)思和組合概念。大型語言模型，最近已經(jīng)成為一個(gè)特別關(guān)注的領(lǐng)域，被發(fā)現(xiàn)有時(shí)會(huì)犯非常愚蠢的錯(cuò)誤同時(shí)生成連貫且令人印象深刻的文本.

如果你想一想，這些系統(tǒng)中明顯缺少的是我們?nèi)祟愃^的常識(shí)，這是一種看到對許多人來說似乎顯而易見的事情的能力，能夠快速簡單地得出顯而易見的結(jié)論，并且能夠在你決定做一些你立即意識(shí)到是荒謬或糟糕的選擇的事情時(shí)阻止自己。

什么是常識(shí)?

AI界從早年就開始講常識(shí)。事實(shí)上，關(guān)于人工智能的最早的論文之一，在1958年寫的，標(biāo)題是有常識(shí)的程序。

這不是新的，我們也沒有發(fā)明它，但這個(gè)領(lǐng)域已經(jīng)忽視了人工智能先驅(qū)們對它的定義。“如果你進(jìn)一步尋找關(guān)于什么是常識(shí)，擁有常識(shí)意味著什么，以及對我們來說重要的是，常識(shí)如何工作以及如何實(shí)施常識(shí)的指導(dǎo)，你會(huì)在心理學(xué)文獻(xiàn)中發(fā)現(xiàn)很少的東西。”

在…里像我們一樣的機(jī)器，將常識(shí)描述為“有效利用普通的、日常的、經(jīng)驗(yàn)的知識(shí)來實(shí)現(xiàn)普通的、日常的、實(shí)際的目標(biāo)的能力。”

常識(shí)對生存至關(guān)重要。人類和高等動(dòng)物已經(jīng)進(jìn)化到通過經(jīng)驗(yàn)學(xué)習(xí)，并發(fā)展出例行程序和自動(dòng)駕駛技能，可以處理他們每天面臨的大多數(shù)情況。但是日常生活不僅僅是我們反復(fù)看到的套路。我們經(jīng)常面對從未見過的新奇情況。其中一些可能與正常情況大相徑庭，但大多數(shù)時(shí)候，我們看到的東西與我們習(xí)慣的東西略有不同。在人工智能的討論中，這有時(shí)被稱為“長尾”。

在我們看來，當(dāng)你被這些日常事務(wù)打斷時(shí)，常識(shí)真的是第一個(gè)被激活的東西。常識(shí)可以讓你快速瀏覽新的情況，記住你以前做過的足夠接近的事情，快速調(diào)整你的記憶，并將其應(yīng)用到新的情況中，然后繼續(xù)前進(jìn)。

常識(shí)不是快速的自動(dòng)駕駛系統(tǒng)1思維，它執(zhí)行我們可以做的大多數(shù)例行任務(wù)，而無需有意識(shí)地專注于它們(例如，刷牙、系鞋帶、扣襯衫扣子、在熟悉的區(qū)域開車)。打破你目前的常規(guī)需要積極的思考。

與此同時(shí)，常識(shí)也不是系統(tǒng)2思維，這是一種緩慢的思維模式，需要完全集中精力，有條不紊，一步一步地思考(例如，計(jì)劃六周的旅行，設(shè)計(jì)軟件，解決復(fù)雜的方程)。

我們可以深思熟慮，通過挑戰(zhàn)來解決難題。那種想法對你的大腦來說很費(fèi)力，而且很慢。布常識(shí)允許我們在幾乎任何常見的日常情況下繞過這一點(diǎn)，我們不必深入思考下一步該做什么。

如果需要相當(dāng)大的精神努力才能弄清楚，那就不是常識(shí)了。我們可以把它看作‘反身思維’，反身思維和思考一樣重要。

沒有常識(shí)的人工智能的危險(xiǎn)

當(dāng)人工智能系統(tǒng)被用于總是產(chǎn)生新情況的應(yīng)用中時(shí)，常識(shí)成為絕對必要的常識(shí)包含可預(yù)測性、信任、可解釋性和責(zé)任性。

大多數(shù)人不會(huì)犯奇怪的錯(cuò)誤。我們偶爾都會(huì)做些傻事。但我們可以思考一下，避免再犯。人是不完美的。但是他們一般在一定程度上是可以預(yù)測的，尤其是你認(rèn)識(shí)的人。這讓我們能夠投資信任。

沒有常識(shí)的人工智能系統(tǒng)面臨的挑戰(zhàn)是，當(dāng)它們達(dá)到訓(xùn)練的極限時(shí)，它們會(huì)犯錯(cuò)誤，這些錯(cuò)誤是完全不可預(yù)測和無法解釋的。

沒有常識(shí)的機(jī)器沒有那種視角，沒有那種退路來阻止自己做奇怪的事情，并且它們受到脆性的困擾他們對自己正在做的事情感到驚訝。但當(dāng)他們犯錯(cuò)時(shí)，這根本沒有任何意義。

這些錯(cuò)誤可能是無害的，比如給一張圖片貼錯(cuò)標(biāo)簽，也可能是極其有害的，比如開車撞上車道分割線。

如果一個(gè)系統(tǒng)遇到的都是棋盤，它所要擔(dān)心的都是贏得游戲，那么常識(shí)真的沒有給這個(gè)組合增加任何東西，常識(shí)將發(fā)揮作用的地方是，當(dāng)我們冒險(xiǎn)超越棋盤，將象棋游戲視為發(fā)生在現(xiàn)實(shí)世界中的一種活動(dòng)。

因此，隨著人工智能系統(tǒng)進(jìn)入開放領(lǐng)域的敏感應(yīng)用，如駕駛汽車或與人類合作，甚至參與開放式對話，常識(shí)將發(fā)揮非常關(guān)鍵的作用。這些地方總是會(huì)出現(xiàn)新奇的情況。

如果我們希望人工智能系統(tǒng)能夠以一種合理的方式處理現(xiàn)實(shí)世界中非常常見的事情，我們需要超越從采樣已經(jīng)發(fā)生的事情中獲得的專業(yè)知識(shí)，作者在中寫道。“考慮到壓倒性的巨大數(shù)字，僅僅基于對過去發(fā)生的事情的觀察和內(nèi)化來預(yù)測未來是行不通的，不管這種蠻力有多殘忍。我們需要常識(shí)。”

重溫符號(hào)人工智能

大多數(shù)科學(xué)家都認(rèn)為當(dāng)前的人工智能系統(tǒng)缺乏常識(shí)。然而，當(dāng)涉及到解決方案時(shí)，意見分歧。一個(gè)流行的趨勢是繼續(xù)讓神經(jīng)網(wǎng)絡(luò)越來越大。證據(jù)表明，更大的神經(jīng)網(wǎng)絡(luò)繼續(xù)取得增量改進(jìn)。在某些情況下，大型神經(jīng)網(wǎng)絡(luò)顯示零距離學(xué)習(xí)技巧在那里，他們執(zhí)行未經(jīng)訓(xùn)練的任務(wù)。

然而，也有大量的研究和實(shí)驗(yàn)表明，更多的數(shù)據(jù)和計(jì)算不解決人工智能系統(tǒng)的問題沒有常識(shí)的人。他們只是把它們隱藏在一個(gè)更大更混亂的數(shù)字權(quán)重和矩陣運(yùn)算中。

這些系統(tǒng)注意到并內(nèi)化了相互關(guān)系或模式。他們不發(fā)展“概念”即使當(dāng)這些東西與語言互動(dòng)時(shí)，它們也只是在模仿人類行為，而沒有我們認(rèn)為擁有的潛在心理和概念機(jī)制。

常識(shí)是關(guān)于世界上的事物及其所具有的屬性，通過我們所謂的概念結(jié)構(gòu)來調(diào)節(jié)，概念結(jié)構(gòu)是關(guān)于可能存在的事物種類及其可能具有的屬性種類的想法的集合。 關(guān)于做什么的常識(shí)性決定相當(dāng)于使用這種表示的知識(shí)來考慮如何實(shí)現(xiàn)目標(biāo)以及如何對觀察到的情況做出反應(yīng)。

該領(lǐng)域需要回顧和重溫一些早期的工作符號(hào)人工智能給計(jì)算機(jī)帶來常識(shí)。他們稱之為“知識(shí)表征”假說。這本書詳細(xì)介紹了知識(shí)管理系統(tǒng)是如何構(gòu)建的，以及如何將不同的知識(shí)整合在一起，形成更復(fù)雜的知識(shí)和推理形式。

根據(jù)KR假設(shè)，常識(shí)知識(shí)的表示將有兩個(gè)部分:“表示世界狀態(tài)的世界模型，以及表示概念結(jié)構(gòu)的概念模型——可用于對世界上的項(xiàng)目進(jìn)行分類的概括框架。”

我們的觀點(diǎn)是回到早期對人工智能的一些思考，其中某種符號(hào)和符號(hào)操縱程序——人們過去稱之為推理引擎——可以用來編碼和使用我們稱之為常識(shí)的世界基本知識(shí):直覺或天真的物理學(xué)，對人和其他代理人如何行動(dòng)以及意圖和信念是什么樣的基本理解，時(shí)間和事件如何工作，因果關(guān)系等。嬰兒學(xué)到的所有知識(shí)在他們生命的第一年到兩年，世界知識(shí)實(shí)際上可以對機(jī)器的行為產(chǎn)生因果影響，并且還可以利用你可以通過操縱符號(hào)做的所有事情，如組合性，以新的方式放置我們熟悉的東西。

無論從長遠(yuǎn)來看，路徑是預(yù)構(gòu)建、預(yù)編碼所有這些知識(shí)，還是以某種方式讓系統(tǒng)以不同的方式學(xué)習(xí)，我不知道。但作為一種假設(shè)和實(shí)驗(yàn)，我認(rèn)為人工智能的下一步應(yīng)該是嘗試建立這些知識(shí)庫，并讓系統(tǒng)使用它們來處理日常生活中的驚喜，對如何處理熟悉和不熟悉的情況做出粗略的猜測。

我們需要走得更遠(yuǎn)。我們需要關(guān)注自主決策機(jī)器如何在日常決策環(huán)境中使用這些東西。這是所有其他項(xiàng)目都缺少的東西。建立事實(shí)知識(shí)并能夠?qū)ξｋU(xiǎn)類型的瑣事問題給出答案是一回事。但在喧囂的世界中運(yùn)營，并能夠以理性和及時(shí)的方式應(yīng)對不可預(yù)見的意外，則完全是另一回事。

機(jī)器學(xué)習(xí)在常識(shí)中有作用嗎?

基于機(jī)器學(xué)習(xí)的系統(tǒng)將繼續(xù)在人工智能的感知方面發(fā)揮至關(guān)重要的作用。

我不會(huì)推動(dòng)一個(gè)使用一階謂詞演算來處理人造視網(wǎng)膜上的像素或處理速度信號(hào)處理的符號(hào)操縱系統(tǒng)。這些機(jī)器學(xué)習(xí)系統(tǒng)在低感官水平的識(shí)別任務(wù)方面表現(xiàn)出色。還不清楚這種東西在認(rèn)知鏈中的位置有多高。但這顯然沒有完全實(shí)現(xiàn)，因?yàn)樗鼈儧]有在你在一個(gè)場景中看到的東西和自然語言之間形成概念和聯(lián)系。

該領(lǐng)域正在進(jìn)行的許多工作，但他也建議當(dāng)前對混合人工智能的看法需要一些調(diào)整。

我不認(rèn)為目前的任何神經(jīng)符號(hào)系統(tǒng)能夠解釋常識(shí)和更有條理、更深入的符號(hào)推理之間的差異，而這些符號(hào)推理是數(shù)學(xué)、重型規(guī)劃和深度分析的基礎(chǔ)。在這個(gè)混合人工智能世界中，我希望看到的是真正考慮常識(shí)，讓機(jī)器以人類的方式利用常識(shí)，并讓機(jī)器為機(jī)器做與人類一樣不可思議的事情。