人(rén)工智能可(kě)以被控制嗎?維基百科的(de)創始人(rén)吉米·威爾士 (Jimmy Wales) 表示,相信它可(kě)以實現類似于“神奇的(de)思維”。
威爾士先生表示:“在許多(duō)情況下(xià),政客及其助手對(duì)互聯網如何運作以及可(kě)以實現什(shén)麽目标了(le)解甚少。”他(tā)花了(le)很多(duō)時(shí)間向全球政客解釋技術及其在言論自由中的(de)作用(yòng)。
“像聯合國這(zhè)樣的(de)機構監管人(rén)工智能的(de)問題就像建議(yì)聯合國監管 [圖像編輯應用(yòng)程序] Photoshop 一樣。” 他(tā)的(de)觀點是他(tā)認爲這(zhè)是毫無意義的(de)。
![](static/picture/20230922133931_8665.jpg)
今年夏天,聯合國秘書(shū)長(cháng)安東尼奧·古特雷斯召開了(le)有史以來(lái)第一次聯合國安理(lǐ)會會議(yì),專門討(tǎo)論人(rén)工智能的(de)潛在危險,因此,人(rén)工智能是否應該受到監管以及監管到何種程度的(de)問題變得(de)升溫。
談到從人(rén)工智能驅動的(de)網絡攻擊、人(rén)工智能故障風險、人(rén)工智能如何傳播錯誤信息,甚至人(rén)工智能與核武器之間的(de)相互作用(yòng)等各個(gè)方面,古特雷斯表示:“如果不采取行動應對(duì)這(zhè)些風險,我們就會失職。”我們對(duì)當代和(hé)子孫後代的(de)責任。”
此後,古特雷斯先生著(zhe)手建立一個(gè)聯合國小組,以調查可(kě)能需要哪些全球監管。該機構被稱爲人(rén)工智能高(gāo)級咨詢機構,将由“現任和(hé)前任政府專家,以及來(lái)自工業界、民間社會和(hé)學術界的(de)專家”組成。
它将于今年年底前發布初步調查結果。與此同時(shí),上周埃隆·馬斯克和(hé) Meta 的(de)馬克·紮克伯格等美(měi)國科技巨頭在華盛頓與美(měi)國立法者舉行了(le)會談,討(tǎo)論人(rén)工智能和(hé)未來(lái)潛在的(de)規則。
然而,一些人(rén)工智能業内人(rén)士對(duì)全球監管能否成功表示懷疑。Pierre Haren 就是其中之一,他(tā)已經研究人(rén)工智能45年了(le)。
他(tā)曾在計算(suàn)機巨頭 IBM 工作過七年,領導團隊爲客戶安裝 Watson 超級計算(suàn)機技術。Watson 于2010年首次亮相,可(kě)以回答(dá)用(yòng)戶的(de)問題,是人(rén)工智能的(de)先驅之一。
盡管 Haren 先生有這(zhè)樣的(de)背景,但他(tā)表示,去年 ChatGPT 和(hé)其他(tā)所謂的(de)“生成式人(rén)工智能”程序的(de)出現和(hé)能力讓他(tā)“大(dà)吃(chī)一驚”。
簡而言之,生成式人(rén)工智能是能夠快(kuài)速創建新内容的(de)人(rén)工智能,無論是文字、圖像、音(yīn)樂(yuè)還(hái)是視頻(pín)。它可(kě)以從一個(gè)例子中獲取一個(gè)想法,并将其應用(yòng)于完全不同的(de)情況。
哈倫先生說,這(zhè)種能力與人(rén)類相似。“這(zhè)東西不像鹦鹉,重複我們喂給它的(de)東西,”他(tā)說。“這(zhè)是進行高(gāo)層次的(de)類比。”
那麽我們如何創建一套規則來(lái)阻止人(rén)工智能失控呢(ne)?哈倫先生說,我們不能,因爲他(tā)說有些國家不會簽署這(zhè)些協議(yì)。
“我們生活在一個(gè)有朝鮮和(hé)伊朗等不合作國家的(de)世界,”他(tā)說。“他(tā)們不會承認有關人(rén)工智能的(de)法規。
“對(duì)不合作行爲者的(de)監管是天上掉下(xià)來(lái)的(de)餡餅!你能想象伊朗尋找摧毀以色列的(de)方法并關心人(rén)工智能監管嗎?”
物(wù)理(lǐ)學家 Reinhard Scholl 是聯合國“AI For Good”計劃的(de)創始人(rén)。其目的(de)是尋找并實施實用(yòng)的(de)人(rén)工智能解決方案,以幫助實現聯合國的(de)可(kě)持續發展目标。其中包括從消除貧困到消除饑餓以及讓每個(gè)人(rén)都能獲得(de)清潔水(shuǐ)等方方面面。
AI for Good 于2017年作爲一項年度活動開始,現已發展成爲定期舉辦的(de)在線研討(tǎo)會,涵蓋人(rén)工智能的(de)各個(gè)方面。
擁有超過20,000名訂閱者的(de) AI for Good 已經觸動了(le)人(rén)們的(de)神經,但對(duì)積極的(de) AI 的(de)興趣并不意味著(zhe) Scholl 先生感到樂(yuè)觀。
“人(rén)工智能應該受到監管嗎?這(zhè)是理(lǐ)所當然的(de),是的(de)!” 他(tā)宣稱,将這(zhè)種情況與汽車或玩具制造商必須遵守安全法規進行了(le)比較。
他(tā)最擔心的(de)是,人(rén)工智能使不良行爲者相對(duì)容易地利用(yòng)該技術作爲獲取危險能力的(de)跳闆。
“物(wù)理(lǐ)學家在理(lǐ)論上知道如何制造核彈,但在實踐中卻非常困難,”他(tā)說。“但如果有人(rén)使用(yòng)人(rén)工智能來(lái)設計生物(wù)武器,他(tā)們就不需要知道那麽多(duō)。
“如果人(rén)們太容易利用(yòng)人(rén)工智能造成重大(dà)損害,那麽就會有人(rén)這(zhè)麽做(zuò)。”
但未來(lái)的(de)聯合國人(rén)工智能監管機構應該采取什(shén)麽形式?一項建議(yì)是,它反映了(le)國際民用(yòng)航空組織(ICAO)的(de)規定,該組織負責監管全球航空旅行及其安全。該組織有193個(gè)成員(yuán)國。
羅伯特·奧普 (Robert Opp) 是一位人(rén)工智能專家,他(tā)支持組建類似于國際民航組織 (ICAO) 的(de)機構。奧普先生是聯合國開發計劃署的(de)首席數字官。
該機構的(de)任務是幫助各國推動經濟增長(cháng)和(hé)消除貧困。在他(tā)的(de)工作中,他(tā)試圖找到利用(yòng)技術提升組織影(yǐng)響力的(de)方法。
這(zhè)包括利用(yòng)人(rén)工智能快(kuài)速查看貧困地區(qū)農田的(de)衛星圖像。奧普表示,他(tā)不想阻礙這(zhè)種能力,也(yě)不想限制生成式人(rén)工智能幫助窮人(rén)創業的(de)潛力。
但他(tā)也(yě)承認人(rén)工智能的(de)潛在缺點。“解決人(rén)工智能治理(lǐ)問題存在緊迫感。”
不管緊急與否,維基百科的(de)威爾士先生認爲聯合國完全被誤導了(le)。
他(tā)認爲,國際機構高(gāo)估了(le)谷歌(gē)等科技巨頭在人(rén)工智能産品雪(xuě)崩中所扮演的(de)角色,犯了(le)一個(gè)重大(dà)錯誤。威爾士先生補充說,再多(duō)的(de)善意也(yě)無法阻止軟件開發者個(gè)人(rén)及其對(duì)人(rén)工智能的(de)使用(yòng)。
他(tā)說,在科技巨頭的(de)邊界之外,無數程序員(yuán)正在使用(yòng)免費的(de)人(rén)工智能軟件,這(zhè)些軟件的(de)基線代碼可(kě)以通(tōng)過互聯網獲得(de)。“有數以萬計的(de)個(gè)人(rén)開發者正在這(zhè)些創新的(de)基礎上進行開發。對(duì)它們的(de)監管永遠(yuǎn)不會發生。”