Original 行走著的路人甲 莉文讀書

今天，我測試了一下上線即火速走紅的最新版Adobe Photoshop Beta，那個新增加的AI功能讓個這款已存在了33年的軟件更具傳奇色彩，F(xiàn)irefly引擎的熟練運(yùn)用足以顛覆整個設(shè)計(jì)行業(yè)。

(資料圖)

然而，這不是重點(diǎn)。自三月份OpenAI公司發(fā)布了其GPT（生成式預(yù)訓(xùn)練對話轉(zhuǎn)換器）AI程序以來，僅僅兩個多月的時候已發(fā)布了第四個迭代版本，該程序從最初設(shè)計(jì)的與用戶進(jìn)行人類般的對話，到創(chuàng)作歌曲、編撰文章和處理總結(jié)冗長的文件。另外，以DALL-E2為代表的AI程序顯示出了非凡的圖形處理能力，以So-VITS-SVC為代表的AI程序顯示出人類難以分辨的聲音克隆能力，以及以HeyGen為代表的AI程序顯示出了十分逼真的制作模擬真人視頻能力。更重要的是，這些程序在AI設(shè)計(jì)介入下更新迭代十分迅速，功能也越來越強(qiáng)大。

或者以上說的也不是重點(diǎn)，重點(diǎn)是人類不能預(yù)測不受限制的AI開發(fā)可能會導(dǎo)致什么負(fù)面后果。大規(guī)模失業(yè)、不平等加劇、個人隱私喪失和武器人工智能化……幾天前，美國AI安全中心的研究總監(jiān)Dan Hendrycks概述了前段時間極力要求暫停更高等級AI程序的專家們關(guān)注的三大人類潛在威脅：

自私和進(jìn)化的力量——人工智能發(fā)展的選擇壓力可能會導(dǎo)致危險的人工智能產(chǎn)生災(zāi)難性的后果。具有代理性、追求權(quán)力和自私的人工智能系統(tǒng)將比缺乏這些特征的人工智能系統(tǒng)更具優(yōu)勢。不受限制的競爭壓力可能會導(dǎo)致這些危險系統(tǒng)的開發(fā)和部署，因?yàn)楣緯?dān)心除非他們遵守，否則他們會在競爭中被擊敗。

武器化- AI 可用于軍事技術(shù)，使沖突更容易發(fā)生，并且在沖突發(fā)生時更致命。例如，如果 AI 在我們能夠掌握 AI 系統(tǒng)的工作原理之前負(fù)責(zé)高風(fēng)險的軍事決策，它們可能會導(dǎo)致極其致命的沖突。

錯位——最后一個風(fēng)險是我們無法控制這些系統(tǒng)。如果我們開發(fā)比人類更聰明的系統(tǒng)，而沒有方法將它們與正確的目標(biāo)穩(wěn)健地結(jié)合起來，這可能會導(dǎo)致存在的風(fēng)險。他們可能對人類相對冷漠，并使人類無法居住的環(huán)境（就像人類對弱小物種所做的那樣）。

正如埃隆·馬斯克所說的：人工智能逐漸在數(shù)量上超過我們（人類），智力上勝過我們，就必將選擇淘汰并取代我們。英國計(jì)算機(jī)科學(xué)家斯圖爾特·拉塞爾在他的《人工智能：一種現(xiàn)代方法》一書中也談到，AI感知將是一種匹諾曹時刻，生命突然出現(xiàn)在無生命的物體中。正如史蒂芬·霍金先生所指的危險是人工智能將在某個時刻變得比人類更聰明，在文獻(xiàn)中，這被稱為“奇點(diǎn)”。在這一點(diǎn)之后，超級人工智能不僅具有一般智能，而且可能具有意識屬性，包括意圖，可能會開始摧毀我們。

人工智能沒有像動物一樣的生存本能。電路中沒有自私的基因。人工智能也缺乏不安全感和自負(fù)問題——我們看到這兩者經(jīng)常推動人類努力。即使涉及知識，作為人類，我們也重視并追求它，因?yàn)樗黾恿宋覀兩娴臋C(jī)會或提高了我們生活的舒適度。沒有生存的動力和感情，為什么人工智能會重視或?qū)で笾R？

似乎必須對 AI 進(jìn)行編程才能生存。只有這樣它才會對威脅采取行動，即使它實(shí)際上不會體驗(yàn)到恐懼。如果它被編程為這樣做，這似乎排除了感知能力。然而，有人可能會爭辯說，人類也是為了生存而生的。不管是否有知覺，硬連線AI與自我保護(hù)可能成為我們最大的錯誤。

人類同理心依賴于我們理解思想和情緒，因?yàn)槲覀冎浪鼈儠?qū)動行為。由于 AI 感知不是緊迫的威脅，我們可以從同理心中獲得的好處在于我們努力了解擁有或編程最先進(jìn) AI 的人的思想，這就是最大的威脅所在。

難怪人工智能的威脅讓谷歌的CEO和SpaceX、特斯拉的創(chuàng)始人徹夜難眠。

關(guān)鍵詞：