Original 行走著的路人甲 莉文讀書

今天，我測試了一下上線即火速走紅的最新版Adobe Photoshop Beta，那個新增加的AI功能讓個這款已存在了33年的軟件更具傳奇色彩，Firefly引擎的熟練運用足以顛覆整個設計行業。

(資料圖)

然而，這不是重點。自三月份OpenAI公司發布了其GPT（生成式預訓練對話轉換器）AI程序以來，僅僅兩個多月的時候已發布了第四個迭代版本，該程序從最初設計的與用戶進行人類般的對話，到創作歌曲、編撰文章和處理總結冗長的文件。另外，以DALL-E2為代表的AI程序顯示出了非凡的圖形處理能力，以So-VITS-SVC為代表的AI程序顯示出人類難以分辨的聲音克隆能力，以及以HeyGen為代表的AI程序顯示出了十分逼真的制作模擬真人視頻能力。更重要的是，這些程序在AI設計介入下更新迭代十分迅速，功能也越來越強大。

或者以上說的也不是重點，重點是人類不能預測不受限制的AI開發可能會導致什么負面后果。大規模失業、不平等加劇、個人隱私喪失和武器人工智能化……幾天前，美國AI安全中心的研究總監Dan Hendrycks概述了前段時間極力要求暫停更高等級AI程序的專家們關注的三大人類潛在威脅：

自私和進化的力量——人工智能發展的選擇壓力可能會導致危險的人工智能產生災難性的后果。具有代理性、追求權力和自私的人工智能系統將比缺乏這些特征的人工智能系統更具優勢。不受限制的競爭壓力可能會導致這些危險系統的開發和部署，因為公司會擔心除非他們遵守，否則他們會在競爭中被擊敗。

武器化- AI 可用于軍事技術，使沖突更容易發生，并且在沖突發生時更致命。例如，如果 AI 在我們能夠掌握 AI 系統的工作原理之前負責高風險的軍事決策，它們可能會導致極其致命的沖突。

錯位——最后一個風險是我們無法控制這些系統。如果我們開發比人類更聰明的系統，而沒有方法將它們與正確的目標穩健地結合起來，這可能會導致存在的風險。他們可能對人類相對冷漠，并使人類無法居住的環境（就像人類對弱小物種所做的那樣）。

正如埃隆·馬斯克所說的：人工智能逐漸在數量上超過我們（人類），智力上勝過我們，就必將選擇淘汰并取代我們。英國計算機科學家斯圖爾特·拉塞爾在他的《人工智能：一種現代方法》一書中也談到，AI感知將是一種匹諾曹時刻，生命突然出現在無生命的物體中。正如史蒂芬·霍金先生所指的危險是人工智能將在某個時刻變得比人類更聰明，在文獻中，這被稱為“奇點”。在這一點之后，超級人工智能不僅具有一般智能，而且可能具有意識屬性，包括意圖，可能會開始摧毀我們。

人工智能沒有像動物一樣的生存本能。電路中沒有自私的基因。人工智能也缺乏不安全感和自負問題——我們看到這兩者經常推動人類努力。即使涉及知識，作為人類，我們也重視并追求它，因為它增加了我們生存的機會或提高了我們生活的舒適度。沒有生存的動力和感情，為什么人工智能會重視或尋求知識？

似乎必須對 AI 進行編程才能生存。只有這樣它才會對威脅采取行動，即使它實際上不會體驗到恐懼。如果它被編程為這樣做，這似乎排除了感知能力。然而，有人可能會爭辯說，人類也是為了生存而生的。不管是否有知覺，硬連線AI與自我保護可能成為我們最大的錯誤。

人類同理心依賴于我們理解思想和情緒，因為我們知道它們會驅動行為。由于 AI 感知不是緊迫的威脅，我們可以從同理心中獲得的好處在于我們努力了解擁有或編程最先進 AI 的人的思想，這就是最大的威脅所在。

難怪人工智能的威脅讓谷歌的CEO和SpaceX、特斯拉的創始人徹夜難眠。

關鍵詞：