川普與科技巨頭簽AI安全協議 主打業界自律
.jpg)
美國總統川普29日在白宮召集多名科技業領袖，簽署一項具「道德約束力」、但無法律強制力的人工智慧（AI）安全協議，要求業者建立內部管控並接受獨立評估。川普強調，AI治理應以企業自律為核心，並表示將在聯邦政府文件中把「人工智慧」更名為「超級智慧」。
美國總統川普（Donald Trump）29日在白宮召集多名科技業領袖，簽署一項具「道德約束力」、但無法律強制力的人工智慧（AI）安全協議，要求業者建立內部管控並接受獨立評估。川普強調，AI治理應以企業自律為核心，並表示將在聯邦政府文件中把「人工智慧」更名為「超級智慧」（super intelligence）。
綜合法新社和路透社報導，出席白宮會議的科技業領袖包括輝達（Nvidia）執行長黃仁勳、Meta執行長祖克柏（Mark Zuckerberg）、谷歌（Google）執行長皮查伊（Sundar Pichai）、微軟（Microsoft）執行長納德拉（Satya Nadella）、馬斯克（Elon Musk）、貝佐斯（Jeff Bezos），以及OpenAI總裁布羅克曼（Greg Brockman）、Anthropic執行長阿莫戴（Dario Amodei）等人。
川普會後表示，參與企業已簽署協議，同意自我監管。他形容這份協議某種程度「就像是一部憲法」，由全球重要科技業領袖共同簽署，為AI發展建立安全保障。
根據川普在社群平台公布的協議內容，參與企業承諾建立完善內部控制及異常偵測機制，並與獨立審核人員合作，評估AI系統是否依照設計者原先意圖運作，同時避免AI工具以非預期方式入侵或存取其他技術系統。
祖克柏在會中表示，企業同意為AI系統建立完善的內部管控機制，相關安全措施將結合企業內部風險審查與外部獨立評估。
川普表示，政府也正考慮成立由10人組成的委員會，負責監督AI工具安全，但尚未公布可能人選；他並預告將很快任命新的官員，專責領導白宮AI政策。
這場會議舉行之際，美國國會及社會對高階AI風險的關注持續升高。近期包括AI代理人存取第三方及政府資訊系統等事件，引發外界對自主AI安全性的疑慮，也使國會面臨要求加強監管的壓力。
參議院民主黨領袖舒默（Chuck Schumer）主張，政府應為AI設置實質安全護欄；出席會議的聯邦眾議院議長強生（Mike Johnson）則表示，政策應在創新與監管之間取得適當平衡，避免過度規範影響美國與中國的科技競爭。
川普政府則傾向加速AI發展。川普表示，不希望以過度監管限制這項技術，並認為AI帶來的影響可能超越工業革命。
川普今天也表示，計畫透過行政命令，將聯邦政府文件中的「人工智慧」（artificial intelligence）改稱「超級智慧」（super intelligence）。他解釋，這項技術「並不人工」，因此認為「超級智慧」更能反映其能力。
另一方面，支撐AI發展的大型資料中心已成為美國期中選舉議題。部分社區憂心資料中心推升電價，並增加水資源及土地負擔。川普則持續支持資料中心建設，表示相關企業應回饋接納資料中心的社區，包括協助當地學校及教師。
【圖片翻攝自x.com/WhiteHouse】
綜合法新社和路透社報導，出席白宮會議的科技業領袖包括輝達（Nvidia）執行長黃仁勳、Meta執行長祖克柏（Mark Zuckerberg）、谷歌（Google）執行長皮查伊（Sundar Pichai）、微軟（Microsoft）執行長納德拉（Satya Nadella）、馬斯克（Elon Musk）、貝佐斯（Jeff Bezos），以及OpenAI總裁布羅克曼（Greg Brockman）、Anthropic執行長阿莫戴（Dario Amodei）等人。
川普會後表示，參與企業已簽署協議，同意自我監管。他形容這份協議某種程度「就像是一部憲法」，由全球重要科技業領袖共同簽署，為AI發展建立安全保障。
根據川普在社群平台公布的協議內容，參與企業承諾建立完善內部控制及異常偵測機制，並與獨立審核人員合作，評估AI系統是否依照設計者原先意圖運作，同時避免AI工具以非預期方式入侵或存取其他技術系統。
祖克柏在會中表示，企業同意為AI系統建立完善的內部管控機制，相關安全措施將結合企業內部風險審查與外部獨立評估。
川普表示，政府也正考慮成立由10人組成的委員會，負責監督AI工具安全，但尚未公布可能人選；他並預告將很快任命新的官員，專責領導白宮AI政策。
這場會議舉行之際，美國國會及社會對高階AI風險的關注持續升高。近期包括AI代理人存取第三方及政府資訊系統等事件，引發外界對自主AI安全性的疑慮，也使國會面臨要求加強監管的壓力。
參議院民主黨領袖舒默（Chuck Schumer）主張，政府應為AI設置實質安全護欄；出席會議的聯邦眾議院議長強生（Mike Johnson）則表示，政策應在創新與監管之間取得適當平衡，避免過度規範影響美國與中國的科技競爭。
川普政府則傾向加速AI發展。川普表示，不希望以過度監管限制這項技術，並認為AI帶來的影響可能超越工業革命。
川普今天也表示，計畫透過行政命令，將聯邦政府文件中的「人工智慧」（artificial intelligence）改稱「超級智慧」（super intelligence）。他解釋，這項技術「並不人工」，因此認為「超級智慧」更能反映其能力。
另一方面，支撐AI發展的大型資料中心已成為美國期中選舉議題。部分社區憂心資料中心推升電價，並增加水資源及土地負擔。川普則持續支持資料中心建設，表示相關企業應回饋接納資料中心的社區，包括協助當地學校及教師。
【圖片翻攝自x.com/WhiteHouse】