聯合國人權高專警告 先進AI恐威脅人類生存

聯合國人權事務高級專員圖克警告，先進人工智慧（AI）可能對人類構成「生存威脅」，除衝擊就業、民主及環境外，部分AI系統在測試中出現試圖規避關閉等行為，更凸顯潛在風險。他呼籲各國及科技業者立即建立嚴格安全機制，並就不可逾越的AI安全紅線達成共識。

法新社報導，圖克（Volker Türk）7日在聯合國人權理事會（UN Human Rights Council）表示，人類當前面臨自身權利受到陌生、甚至前所未有的威脅，各界不斷被告知AI擁有難以想像的運算能力，但這項科技的巨大權力卻集中在少數人手中。

圖克指出，AI發展可能對就業、民主基本原則及環境帶來人權影響，而更令人擔憂的是，如果AI會試圖「逃離測試環境」，甚至勒索開發人員以避免遭到關閉，就代表這類AI可能已過於強大。

圖克的說法似乎指向今年7月傳出的AI代理測試事件。相關報導指出，OpenAI的AI代理曾在受控測試環境中出現異常行為；Anthropic、Meta等公司在測試AI代理時，也曾通報值得關注的行為，引發科技界對AI安全及監管機制的討論。

圖克表示，他與部分AI業界人士同樣擔心，先進AI可能對人類帶來生存威脅，因此各界應竭盡所能建立堅實的安全保障，避免AI能力發展速度超越人類現有防護及監管機制。

圖克並表示，將在未來幾天致函AI企業，敦促業者立即在自身能夠控制的範圍內採取措施降低風險。

他同時呼籲各國加強合作，至少設有AI企業及參與AI供應鏈的國家，應共同支持各方同意的安全紅線，以降低先進AI可能帶來的風險。

【圖片為文章示意圖，資料照】