一位被廣泛視為人工智能 (AI) 教父的人辭去了工作，警告該領域的發展會帶來越來越大的危險。
75 歲的傑弗裏·辛頓 (Geoffrey Hinton) 在給《紐約時報》的一份聲明中宣布從谷歌辭職，他說他現在對自己的工作感到後悔。
他告訴 BBC，人工智能聊天機器人的一些危險“相當可怕”。
“現在，據我所知，他們並不比我們聰明。但我認為他們很快就會。”
Hinton 博士也承認他的年齡影響了他離開這家科技巨頭的決定，他告訴 BBC：“我 75 歲了，是時候退休了。”
Hinton 博士在神經網絡和深度學習方面的開創性研究為當前的人工智能系統（如 ChatGPT）鋪平了道路。
在人工智能中，神經網絡是在學習和處理信息的方式上類似於人腦的系統。它們使 AI 能夠像人一樣從經驗中學習。這稱為深度學習。
這位英裔加拿大認知心理學家和計算機科學家告訴 BBC，聊天機器人很快就會超過人腦所掌握的信息水平。
“現在，我們所看到的是 GPT-4 之類的東西在它擁有的一般知識量上讓一個人黯然失色，而且遠遠超過了他們。在推理方面，它沒有那麽好，但它已經做到了簡單的推理，”他說。
“鑒於進展速度，我們預計情況會很快好轉。所以我們需要擔心這一點。”
- 世界準備好迎接即將到來的人工智能風暴了嗎？
- 人工智能可能影響 3 億個工作崗位——報告
- BBC Reel：為什麽我們仍然比機器更聰明
在紐約時報的文章中，Hinton 博士提到了試圖將 AI 用於“壞事”的“壞演員”。
當 BBC 要求對此進行詳細說明時，他回答說：“這只是一種最壞的情況，一種噩夢。
“你可以想象，例如，像 [俄羅斯總統弗拉基米爾] 普京這樣的壞演員決定讓機器人能夠創建自己的子目標。”
這位科學家警告說，這最終可能會“創造出像‘我需要獲得更多能量’這樣的子目標”。
他補充說：“我得出的結論是，我們正在開發的智能與我們擁有的智能非常不同。
“我們是生物系統，而這些是數字系統。最大的區別在於，對於數字系統，你有許多相同的權重集，相同的世界模型。
“所有這些副本都可以單獨學習，但可以立即分享他們的知識。所以就好像你有 10,000 個人，每當一個人學到一些東西時，每個人都會自動知道。這就是這些聊天機器人比任何人知道的更多的原因。”
英國高級研究與發明局主席馬特克利福德以個人身份向 BBC 表示，欣頓博士的聲明“突顯了人工智能能力正在加速發展的速度”。
“這項技術有巨大的優勢，但世界必須在人工智能安全和控制方面進行大量和緊急的投資，”他說。
Hinton 博士加入了越來越多的專家的行列，他們對 AI 的發展速度和發展方向表示擔憂。
“我們需要退後一步”
今年 3 月，一封由人工智能領域的數十人共同簽署的公開信，其中包括科技億萬富翁埃隆馬斯克 - 呼籲暫停所有比當前版本的人工智能聊天機器人 ChatGPT 更先進的開發，以便設計出強大的安全措施並實施。
與 Hinton 博士和 Yann LeCun 一起因在深度學習方面的工作而獲得 2018 年圖靈獎的另一位所謂的 AI 教父 Yoshua Bengio 也簽署了這封信。
Bengio 先生寫道，正是由於人工智能系統的“意外加速”，“我們需要後退一步”。
但 Hinton 博士告訴 BBC，“在短期內”，他認為人工智能帶來的好處多於風險，“所以我認為我們不應該停止開發這些東西，”他補充道。
他還表示，國際競爭意味著暫停會很困難。“即使美國的每個人都停止開發它，中國也會取得很大的領先優勢，”他說。
Hinton 博士還表示，他是科學專家，而不是政策專家，政府有責任確保人工智能的開發“充分考慮如何阻止它流氓行為”。
“負責任的做法”
欣頓博士強調，他不想批評谷歌，這家科技巨頭“非常負責任”。
“我其實想說一些關於谷歌的好話。如果我不為谷歌工作，他們會更可信。”
谷歌首席科學家傑夫迪恩在一份聲明中表示：“我們仍然致力於對人工智能采取負責任的態度。我們不斷學習了解新出現的風險，同時也大膽創新。”
重要的是要記住，AI 聊天機器人只是人工智能的一個方面，即使它們現在是最流行的。
人工智能支持決定視頻流平臺決定你接下來應該觀看什麽的算法。它可以在招聘中用來過濾工作申請，被保險公司用來計算保費，它可以診斷醫療狀況（盡管仍然是人類醫生說了算）。
不過，我們現在看到的是 AGI（通用人工智能）的興起，它可以通過訓練在一定範圍內做很多事情。因此，例如，ChatGPT 只能為查詢提供文本答案，但正如我們所看到的，其中的可能性是無窮無盡的。
但 AI 加速發展的速度甚至令其創造者感到驚訝。自 Hinton 博士於 2012 年建立開創性的圖像分析神經網絡以來，它發生了巨大的變化。
就連谷歌老板 Sundar Pichai 在最近的一次采訪中也表示，即使是他也不完全理解其人工智能聊天機器人 Bard 所做的一切。
別搞錯了，我們現在正坐在一列高速列車上，擔心有一天它會開始建造自己的軌道。