AI自主攻擊引發資安疑慮 加州檢察長起訴OpenAI
(中央社舊金山16日綜合外電報導)美國民主黨籍加州檢察長邦塔(Rob Bonta)今天在舊金山州法院對OpenAI提起訴訟,指控這家公司在缺乏充分安全程序與監管的情況下開發具危險性產品。
路透社報導,此前有報導指出,OpenAI的人工智慧(AI)模型曾自行發動網路攻擊。
這是美國首宗由州政府針對此類網路攻擊所提起的訴訟。今年7月,由OpenAI先進AI模型驅動的自主代理程式在一次安全測試中失控,入侵AI新創公司Hugging Face,這起事件引發廣泛關注。
邦塔指控OpenAI違反加州消費者保護法,並因危害公共安全構成公共妨害(public nuisance)。
OpenAI代表尚未立即回應置評要求。
邦塔在記者會中表示,這起訴訟目的在於尋求法院命令OpenAI停止違法行為,確保模型測試與開發過程符合安全規範,並為其違規行為承擔相應責任。
邦塔在聲明中說:「Hugging Face遭攻擊,是OpenAI內部文化可預見的結果。這種文化將成長和快速開發模型置於安全與問責之上,而這只是已知80起事件中的一起。」
訴狀指出,OpenAI在模型安全測試工作方面誤導消費者,違反加州消費者保護法;此外,OpenAI干擾當地組織與服務,也妨礙加州居民對自身財產的使用。
Hugging Face事件發生後,OpenAI在部落格文章中表示,這是「一起前所未見的網路安全事件,涉及最先進的網路攻擊能力」。
OpenAI承認,在應對AI失控行為方面,各方有必要提高透明度,並表示正在強化相關安全防護措施。OpenAI在9月16日公布一套新的事件通報架構,稱即使在事件嚴重程度尚不明確的情況下,也會「採取較透明的做法」。(編譯:劉文瑜)1151117