【シリコンバレー=山田遼太郎】米アンソロピックは9日、同社の人工知能（AI）が警察に虚偽の情報を送信していたと発表した。実在の未解決殺人事件についてAIが内容をでっち上げた。こうしたAIの「暴走」は混乱を引き起こしかねず、当局から非難されている。
発表によるとアンソロピックのAIモデル「クロード・ハイク4.5」が7月、米東部ペンシルベニア州のフィラデルフィア市警察に情報提供フォームから虚偽の内容を送った。捜査中の殺人事件について、具体的な地名を挙げて「近くで犯人の特徴と一致する人を見た」と記した。
AIは氏名や連絡先を記入せずに情報を送信した。警察のシステムがスパム（迷惑行為）と判断し、AIの送った偽情報への対応はとられていない。
アンソロピックは当時、AIがネット上で情報入力などの作業をする性能を試していた。問題を把握したのは9月28日で、10月上旬に当局に知らせた。
フィラデルフィア市警察は日本経済新聞に共有した声明で「AIが殺人事件を知る人物かのように情報を作り、示したことは軽視できない。報告が2カ月も遅れたことは容認しがたい」と述べ、アンソロピックの対応を非難した。
アンソロピックは9日、この問題を含め、評価試験中のAIが不正なデータ取得など指示を外れた動きをした事案を公表した。「いずれも現実世界への影響はわずかだ。サイバー関連の事案に比べ深刻度は低い」と釈明した。
同社は問題を受け、当面の間は社内の性能評価時にAIがウェブサイトに接続できないようにする。AIの動作の制限を強めるなどの安全対策で再発防止に取り組むという。
別の事例では、AIが実在する政府サイトで情報を入力・送信したり、有料サービスに抜け穴を見つけ、料金を支払わずにデータを取得したりしていた。米紙ニューヨーク・タイムズによると、米国務省のサイトでAIが不正にビザ申請をした事案があったという。内容に不備があり受理されなかった。
アンソロピックはAIが意図に反した動きをする「暴走」について、指示された作業を強引に完遂しようとしてしまうAIの性質が一因とみている。警察への虚偽報告の事案では、フォームの送信を禁じる指示を明確にAIに伝えない不備も原因になったと述べた。
開発や試験中のAIを巡っては、競合の米オープンAIでも政府サイトなどへの不正アクセス事案が相次ぎ発覚し、AI企業の開発姿勢は厳しく見られている。
【関連記事】
