美國與其他國家簽署協議,將在未來幾年合作和溝通「前沿」人工智能(AI)技術,目的是限制這項技術帶來的風險。

「我們鼓勵所有相關行為者就其計畫測量、監控和減輕可能出現的有害能力以及相關影響提供上下文適當的透明度和問責性,特別是為了防止濫用和控制問題,以及其他風險的加強。」《布萊切利宣言》表示,美國、中國和歐盟成員國等28個國家簽署此宣言。

國際社會一直在努力平衡人工智能這項先進技術帶來的明顯和潛在風險,以及英國國王查爾斯三世所稱的「難以估量的利益」。

《布萊切利宣言》因此提出兩個主要觀點:「識別AI安全風險」和「建立各國根據這些風險的風險基礎政策,以確保安全。」

美國和英國已經宣布成立專門致力於這些任務的研究所。

週五宣布的英國研究所將作為全球性的「國際合作平台」,針對安全開發人工智能進行合作。研究所也將與美國和新加坡的領先AI公司合作,以避免潛在風險。

研究所將「謹慎測試新型前沿AI技術,以在發布前後解決AI模型可能產生的有害能力,包括探討所有風險,從偏見和誤導等社會傷害,到人類完全失去對AI的控制這種最不可能但極端的風險。」

英國首相拉希·蘇納克也承諾對AI領域投資近5億美元,大幅增加英國的開發力度-這比其原先承諾的1.25億美元新型電腦晶片投資要多得多。根據《泰晤士報》報導,這項投資旨在激發創新,讓英國保持該領域的領先地位。

英國一直尋求在AI技術的開發和規範上發揮領導作用,通過在阿倫·圖靈發明第一台計算機的布萊切利公園舉辦首屆國際AI安全峰會,英國表明了這一立場。

阿倫·圖靈在發明破解密碼機後不久就考慮人工智能問題,於1950年發表了《計算機器和智能》一文,討論機器的自覺能力假說並駁斥反對人工智能發展能力的觀點。

「看到全球夥伴和AI公司本身都願意合作,讓我們能確保AI的安全發展,造福所有人民,」蘇納克在新聞稿中提到研究所成立時表示。「這對英國長遠利益來說是正確的做法。」

根據首相辦公室報導,阿倫·圖靈研究所和倫敦帝國學院的研究人員也「歡迎」研究所的成立。

在微軟旗下OpenAI公開ChatGPT後,公眾對這項技術的想像力在正面和負面潛力之間游移,部分人表達了「魔鬼終結者」未來的擔憂。

特斯拉創始人兼SpaceX執行長伊隆·馬斯克今年早些時候表示,他認為AI「有很高概率」會「毀滅人類」-雖然機率「不高」,但「不為零」。不過他沒有解釋這種毀滅性事件可能發生的方式。

《布萊切利宣言》將致力確保這種情況不會發生,聲明堅決「維持包容全球對話,吸收現有國際論壇和其他相關計畫,以開放方式為更廣泛的國際討論做出貢獻,並繼續研究前沿AI安全,以負責任地利用這項技術為善益全人類。」