轉發：AI會比人類聰明嗎？

聊天機器人ChatGPT剛出籠的時候，很多人都去註冊一個帳號，試著問它一些問題，比如一位朋友去問它各種媒體的政治傾向--來決定自己在多大程度上可以相信其報導。不過我發現這款聊天機器人目前很多時候只是總結別人發表的評論而已--它似乎能夠分辨與事實有衝突的言論，並接受指令拒絕回答某類問題。

英國的著名計算機科學家Geoffrey Hinton博士有人工智能(AI)「教父」之稱，幾天前辭去在Google的職務。他警告稱，人工智能領域的發展帶來越來越大的危險。在給《紐約時報》的一份聲明中，Hinton博士坦言對現在的工作感到後悔。

Hinton博士在神經網絡和深度學習方面的開創性研究，為當前的人工智能系統，如谷歌的Bard聊天機器人和微軟的ChatGPT鋪平道路。這位認知心理學家及計算機科學家告訴BBC，聊天機器人可能很快就會比人類更聰明。下面是他回答BBC記者問的內容片段。



有些東西人們無論如何是要探索的。現在的問題是，我們已經發現AI工作得比幾年前預期還好，我們應該怎樣做才能降低它繼續發展的長期風險，不讓比我們更聰明的東西反過來控制我們？

(記者：讓我們來談談這些風險，因為您說您擔心壞人掌握這項技術。您最擔心這項技術會被利用來做甚麼？)

很多事情人們已經談過，比如可以利用它來生成大量的虛假內容文本，讓人得到非常有效的垃圾郵件機器人。它還可以被威權主義領導人利用來操控選民，諸如此類。但我說的還不是這些，我要說的是當這些智能技術變得比人還聰明時，就會威脅到我們的生存。

最近我得出一個結論：我們正在開發的智慧類型，和我們所擁有的智慧類型非常不同。這些數字系統不是生物系統，它們有許多相同的權重副本和模型副本，每個副本都可以單獨學習和立即分享知識，就好比有一萬個人，只要一個人學會新東西，所有人就自動都學會，這就是為甚麼聊天機器人會比任何人知道得都多。

(記者：您說過，我們還不確切知道人的大腦是如何工作的，那麼您怎麼會知道機器人的確會超越人類智慧？)

我們並不知道。現在我們看到的是像SPT-4這樣的東西，它所擁有的常識超過了一個人，而且是遠遠超過。在推理方面它沒那麼厲害，但它已經可以進行簡單的推理。考慮到它進步的速度，我們預計情況會很快好轉，所以我們需要擔心。目前據我所知，它還不比我們聰明。但我假定那一天是快要到來了。