登錄×
電子郵件/用戶名
密碼
記住我
人工智能

警惕人工智能的失控風險

桑希爾:數字操縱的威脅已經如此嚴峻,甚至有人開始質疑民主在大數據和人工智能時代還是否有活路。

作為一項實驗,通德•奧蘭雷瓦朱(Tunde Olanrewaju)有一天給維基百科(Wikipedia)關於他僱主的條目——麥肯錫(McKinsey)——搗了點亂。他編輯了該頁面,說自己創辦了這家諮詢公司。一位朋友將修改後的記錄截圖保存了。

幾分鐘內,奧蘭雷瓦朱收到來自維基百科的電子郵件,告知他的編輯操作被拒絕,麥肯錫真正創始人的名字已被恢復。幾乎可以肯定,管理維基百科網站上4000萬篇條目的機器人(bot)之一已發現、核對並糾正了被他編輯的條目。

我們非常欣慰地得知,大量如此聰明的算法正巡邏在保衛真實性的前線——並且可以比麥肯錫旗下數字業務的資深合伙人更聰明。2014年,維基百科上約15%的編輯量是由機器人完成的。

但是,世上的事情都是如此:算法既可以用於攻擊,也可以用於防禦。有時,算法之間可以通過非故意和不可預測的方式相互作用。由於算法在諸如社交媒體、金融市場、網絡安全、自主武器系統(AWS)和自動駕駛汽車網絡等不同領域發揮如此核心的作用,人類越來越迫切地需要理解這種相互作用。

今年2月研究期刊《公共科學圖書館•綜合》(PLoS ONE)發表的一篇論文發現,即使那些出於完全善良意願而設計的機器人,也可能會花費數年時間彼此爭鬥。這篇論文分析了十年來維基百科上機器人的使用情況。

在一次這樣的爭鬥中,Xqbot和Darknessbot在3629個條目——從亞歷山大大帝(Alexander the Great)到阿斯頓維拉(Aston Villa)足球俱樂部——上發生了衝突,反覆撤消和更正對方的編輯結果。

來自牛津互聯網學院(Oxford Internet Institute)和圖靈研究所(Alan Turing Institute)的幾位論文作者對這些發現感到吃驚。他們得出結論,我們需要對這些機器人之間的相互作用給予更多關注。「我們對我們的數字小黃人的生活和進化知之甚少。」

維基百科的機器人生態系統有門禁,受到監控。但在互聯網所觸及的許多其他領域,情況並非如此:惡意機器人——通常結成協作的殭屍網絡(botnet)來工作——可能會失控。

幾位作者突出強調了這種機器人模仿人類、在社交媒體上「傳播政治宣傳言論或影響公共話語」的危險。數字操縱的威脅如此嚴峻,以致一群歐洲專家甚至質疑民主在大數據和人工智能時代還有沒有活路。

要說我們正在逼近一個緊要關頭,也許不太誇張。在某種意義上,真理是否正由電子手段確定?我們是否正如歐洲學者所害怕的那樣,正成為曾經聽命於我們的「數字小黃人」的「數字奴隸」?一些算法之間交互作用的規模、速度和效率開始達到人類無法理解的複雜程度。

如果你真的想在冬日暗夜裡嚇唬自己的話,你應該讀一讀蘇珊•布萊克莫爾(Susan Blackmore)有關這個題材的作品。這位心理學家認為,通過創建這樣的計算機算法,我們也許已不經意地釋放出一個「第三複制因子」——她最初稱之為技因(teme),後來改稱為treme。

第一複製因子是決定我們生物進化的基因。第二複製因子是人類的迷因(meme)——如語言、寫作和金錢——迷因加速了文化演變。但現在,她認為,我們的迷因正在被非人類的treme取代,treme符合她對於複製因子的定義,即「可以有變化和有選擇地複製的信息」。

讀者評論

FT中文網歡迎讀者發表評論,部分評論會被選進《讀者有話說》欄目。我們保留編輯與出版的權利。
用戶名
密碼
FT中文網客戶端
點擊或掃描下載
FT中文網微信
掃描關注
FT中文網全球財經精粹,中英對照
設置字號×
最小
較小
默認
較大
最大
分享×