“可能給人類帶來滅絕風險！”OpenAI創始人領銜，超過350位大佬聯名呼吁：AI堪比“疫情和核戰爭”

每經編輯｜畢陸名

自從生成式AI以勢如破竹的速度席卷幾乎每一個領域，AI挑戰人類的擔憂也越來越真實。日前，超過350名人工智能（AI）領域的行業高管、專家和教授簽署了一封公開信，他們在信中警告稱，AI可能給人類帶來滅絕風險。

非營利組織人工智能安全中心（Center for AI Safety）本周二發布簡短聲明：“將減輕人工智能帶來的滅絕風險，放在和流行病、核戰等社會問題同一高度，作為全球優先事項推進”。簽署者包括OpenAI首席執行官山姆·奧特曼等高管。

“AI可能給人類帶來滅絕風險”

這封信于周二發表在非營利組織人工智能安全中心(CAIS)的網站上，簽署者包括OpenAI首席執行官山姆·奧特曼、DeepMind首席執行官Demis Hassabis、Anthropic首席執行官Dario Amodei以及微軟和谷歌的高管等。

這封信只有一段話，整份聲明才22個字（英文），全部內容如下：“減輕AI帶來的滅絕風險，應該與流行病和核戰爭等其他社會規模的風險一起，成為全球優先事項。”

上面的倡議已得到了多位AI行業大佬的支持，超過350位AI領域高管和專家簽署了這份聲明。

其中主要人物有：

Google DeepMind首席執行官戴米斯?哈薩比斯（Demis Hassabis）、OpenAI首席執行官山姆?奧特曼（Sam Altman）、“AI教父”杰弗里?辛頓（Geoffrey Hinton）、2018年圖靈獎得主約書亞?本希奧（Youshua Bengio）、Anthropic的首席執行官達里奧?阿莫代（Dario Amodei）。

該網站表示：人工智能專家、記者、政策制定者和公眾越來越多地討論人工智能帶來的重要和緊迫的廣泛風險。即便如此，也很難表達對先進人工智能的一些最嚴重風險的擔憂。

自聊天機器人ChatGPT掀起AI熱潮以來，對這項技術潛在風險的擔憂持續增加。

今年3月，包括特斯拉CEO埃隆·馬斯克在內的1000多名行業高管和專家簽署公開信，呼吁在6個月內暫停高級AI的開發。馬斯克等人在信中寫道，高級AI可能會對社會和人類構成深遠的風險。

G7呼吁出臺AI技術標準

據第一財經5月21日報道，21日，七國集團（G7）領導人就制定和建立人工智能（AI）技術標準作出呼吁，敦促行業和監管者確保人工智能“值得信賴”。他們還稱，目前的技術治理未能跟上人工智能的發展步伐。

盡管人工智能技術提供了許多好處，但它們的發展速度超過了監管機構能夠跟上的速度。

5月20日在日本廣島舉行的G7領導人會議上發表的一份聲明稱，人工智能等數字技術的規則應該“符合人們共同的價值觀”。

峰會還達成共識，在今年年底之前創建一個專門討論人工智能進展的部長級論壇，討論圍繞生成式人工智能的問題，例如版權和打擊虛假信息。

圖片來源：視覺中國

歐洲一直走在人工智能監管的前沿。歐盟本月已經接近通過一項人工智能技術監管的立法，這也有望成為全球首部全面的人工智能法案，并可能成為發達經濟體的先例。

“我們希望人工智能系統準確、可靠、安全且無歧視，無論其來源如何。”歐盟委員會主席烏爾蘇拉·馮德萊恩5月19日表示。

G7領導人還表示，他們需要盡快評估有關生成式人工智能的機遇和挑戰，這也是近期ChatGPT引爆的一個技術熱點。

盡管各個國家都呼吁加強對人工智能的監管，但各國政府對于人工智能的態度也有差異。

據澎湃新聞5月26日報道，在美國國會聽證會上呼吁設立新機構監管AI后，OpenAI首席執行官山姆·奧特曼（Sam Altman）又展開歐洲之旅，面見各國政府首腦，并在高校參加對話活動，重申監管建議。在接受媒體采訪時，他警告稱，因為歐盟正在制定的AI法規，OpenAI可能會從歐洲市場撤出其服務。

其他科技大企業也不甘示弱。當地時間5月25日，微軟總裁布拉德·史密斯（Brad Smith）在華盛頓與美國議員一起主持了一場備受矚目的活動，推出了微軟關于政府應該如何監管AI的建議。

前一天，谷歌首席執行官桑德爾·皮查伊（Sundar Pichai）在布魯塞爾與歐盟官員會晤討論AI政策，他強調，需要對技術進行適當監管且不會扼殺創新。

每日經濟新聞綜合第一財經、澎湃新聞、非營利組織人工智能安全中心(CAIS)

封面圖片來源：視覺中國