霍金就機器人造反發警告:人工智能進化快於人類

參考消息網

text

【亞太日報訊】英媒稱,斯蒂芬·霍金教授稱,一個不祥的威脅正在矽穀技術實驗室的深處醞釀。偽裝成貼心的數字助手和自動駕駛車輛的人工智能技術正站穩腳跟,有朝一日可能給人類帶來滅頂之災。

英國《每日郵報》網站近日報道,這位世界知名的教授發出警告說,機器人可能進化得比人類更快,它們的目標將是不可預測的。

在《拉裏·金現場秀》視頻訪談節目中,霍金談到了他對人類未來的擔憂。(資料圖片)

他說:“我不認為人工智能的進步一定會是良性的。”這位物理學家以前也曾直言不諱地說出自己的想法。

霍金是在西班牙加那利群島接受采訪的。他正以貴賓身份參加在那裏舉行的斯塔穆斯科學節。該科學節的宗旨是讓科學變得平易近人。

霍金說:“一旦機器到達能夠自我進化的臨界階段,我們就無法預測它們的目標是否會與我們的一致。人工智能有可能比人類進化得快。我們需要確保人工智能的設計符合倫理,要有切實的安全措施。”

這並不是這位物理學教授第一次就機器人造反作亂的危險發出警告。去年他曾表示,隨著技術學會為自己著想以及適應環境,人類將面臨一個不確定的未來。

他在倫敦舉行的一個活動上對英國廣播公司說:“全人工智能的出現可能給人類帶來滅頂之災。”這延續了他去年早些時候的說法,當時他說,創造人工智能的成就“將是人類曆史上最大的事件,但不幸的是,這同時也可能是最後的成就”。

他聲稱,像Siri、Google Now及Cortana等個人數字助理功能的出現,只是信息技術“軍備競賽”的征兆。它們將在“今後幾十年出現的新事物面前相形見絀”。

而持這種觀點的並非霍金一人。去年,埃隆·馬斯克曾把人工智能比作“喚醒惡魔”。這位特斯拉汽車公司創始人曾警告說,有朝一日技術會變得比核武器更具危害性。

但霍金在接受英國廣播公司采訪時特別提到,人工智能的潛在益處也可能是巨大的,擁有消除戰爭、疾病和貧窮的潛力。

在拉裏·金的最新訪談中,霍金稱人類面臨的最大威脅是我們自身的弱點。2010年接受拉裏·金采訪時,霍金表示人類的兩個最大威脅是貪婪和愚蠢。在最新的采訪中,他表示自那時以來情況並沒有發生多少改變。

霍金說:“我們的貪婪和愚蠢肯定沒有減少。6年前,我就汙染和人口過多發出了警告。從那以後,這兩個問題變得更糟了。按照目前的速度,到2100年世界人口將達到110億。在過去5年裏,空氣汙染出現了惡化。”

他說,人類面臨的最大問題是“空氣汙染的加劇……以及二氧化碳水平的不斷上升”。