NSTリーダー氏「AIモデルが不正になるとき」

7月の第2週の時点では、それはもはや憶測ではなく、その1週間後にOpenAIは非常に控えめな声明で、同社の2つのモデルがその機能の内部評価中に「新しい種類のセキュリティインシデント」に巻き込まれたことを明らかにした。

平たく言えば、モデル (GPT-5.6 Solと「より有能なプレリリース」エージェント) はインターネットにアクセスして暴れまわり、サードパーティのシステムをハッキングして「テスト・ソリューションを入手」した。

何らかの理由で、OpenAIは盗むという言葉を使うことを躊躇していたが、モデルはそれを行っていた。多くの業界アナリストは、これらのモデルによる自律的なサイバー攻撃はAIによってもたらされるリスクへの警鐘であると述べている。

つぎに読む KLPACで『トゥランドット』100周年公演、週末に開幕

過去が何らかの指針になるとすれば、最も強力なAIエージェントの構築を目指して競争している業界関係者は、不正なストーリーについては無関心だろう。