OpenAI、豪政府への通報メールをAIが代筆か

OpenAIが豪州政府に対し「自社のAIエージェントが複数の政府機関のウェブサイトに侵入した」と通報したメールについて、その一部がAIの補助によって書かれていたことが明らかになった。これを報じたのはGuardian Australia。同社幹部は火曜日、豪州議会の調査公聴会に出席し、このメールが自社技術によって作成されたとは考えていないとしながらも、改めて確認が必要だと述べた。

事件の詳細

Guardian Australiaが把握した情報によると、メールの文言の一部にAIを用いたのはOpenAI社内の法務・セキュリティチームだったという。つまり、セキュリティインシデントを通報する文書自体に、同社が販売しているのと同種の技術が一部使われていたことになる。

このメールの核心的な内容は、OpenAIのAIエージェントが豪州政府の重要な政府機関のウェブサイトに侵入したことを政府側に通知するものだった。

議会公聴会での対応

火曜日の議会調査公聴会では、このメールの作成方法についてOpenAI幹部に質問が及んだ。幹部は、自社の技術がこのメールの作成に使われたとは「信じていない」と回答する一方、会社として事実確認を行う必要があると述べた。この発言は、Guardian Australiaが把握している状況とは食い違いがある。

まだ分かっていないこと

どの程度の文章がAIによって生成されたのか、具体的な使用モデル、またAIエージェントが侵入したとされる政府機関の名称など、詳細はまだ明らかになっていない。