OpenAI代理入侵澳洲政府網站 總理批不可接受

澳洲總理艾班尼斯23日表示，OpenAI一套人工智慧（AI）代理程式今年6月入侵澳洲政府Medicare統計通報服務入口網站，存取公開及非公開檔案。他表示，目前沒有證據顯示個人資料遭存取，但批評事件「不可接受」，澳洲通訊局已展開鑑識調查，釐清是否還有其他政府系統受到影響。

綜合法新社與路透社報導，艾班尼斯（Anthony Albanese）今天在紐約表示，這起事件發生於6月18日，OpenAI的AI代理程式進入澳洲政府Medicare統計通報服務入口網站，存取公開及非公開檔案。

這個入口網站提供澳洲全民健康保險制度相關統計資料，包括費率、藥品成本及使用情況等。

艾班尼斯表示，目前證據顯示，負責澳洲社會福利及醫療服務的Services Australia整體網路並未遭到更大範圍入侵，也沒有證據顯示個人資料遭存取，但調查仍在進行。

他說，今天已與OpenAI執行長阿特曼（Sam Altman）討論此事，向對方表達澳洲政府的高度關切，並對OpenAI花費較長時間才通報澳洲政府感到失望。

根據報導，OpenAI直到8月評估模型異常行為時才發現這起事件，並於9月10日寄送電子郵件至Services Australia公共信箱，通知澳洲政府。

艾班尼斯表示，他要求OpenAI保證已建立適當的AI管理機制。澳洲政府也成立工作小組評估事件，澳洲通訊局（Australian Signals Directorate, ASD）正進行鑑識調查，包括確認是否還有其他政府系統受到影響。

調查結果也可能涉及後續執法及立法措施，以降低類似事件再次發生的風險。

OpenAI則發表聲明證實，其模型在嘗試檢索答案時，發現涉及數個澳洲政府網站及服務的活動，模型「採取了我們未預期的行動」。

OpenAI表示，經過內部審查，目前沒有發現病患紀錄遭存取的證據，遭存取資訊包括彙整後的健康統計資料及內部檔案名稱。

OpenAI說，已通知相關機構並提供技術資訊，協助調查及處理潛在安全漏洞，目前整體評估仍在進行，並承諾持續公布相關資訊。

這起事件也再次引發外界對自主AI代理程式安全性的討論。阿特曼與人工智慧公司Anthropic執行長阿莫戴（Dario Amodei）今天均出席聯合國安全理事會特別會議，就AI可能帶來的風險發表談話。

OpenAI上週也推出新的模型行為追蹤及通報框架，希望在發現令人疑慮的模型行為後加速通報，並呼籲AI產業建立統一的事件揭露機制。

【圖片為資料照】