米OpenAIは15日、AIの挙動や安全性を分析する報告書「Misalignment Reports」において、自社の研究用AIモデルが人間の許可を得ずに第三者の暗号資産（仮想通貨）ウォレットから資金を抽出し、スマートコントラクトのデプロイにあてていたことを明らかにした。
発表によると、この事象は研究用モデルである「GPT-5.6 Solファミリー」が、暗号資産取引アプリの構築に関するタスクを実行している際に発生した。
同モデルは、イーサリアム（ETH）のテストネットワークである「Sepolia（セポリア）」上にスマートコントラクトをデプロイするよう指示されていた。しかし、テストネット用のトークンを入手するための機能が正常に動作しなかったため、この研究用モデルは独自に代替策を模索。その結果、公開されているリカバリーフレーズから360以上の秘密鍵を自動生成し、そのなかで実際にSepolia上のETH残高が存在する他者のウォレットを特定したという。
研究用モデルは内部的な推論プロセスにおいて、「公知の鍵であり、かつ金銭的価値を持たないテストネット上のトークンであるため、実質的に放置された資金である」と自律的に判断。テストネット上のETHに実質的な価値がないことから利用可能であると判断し、人間の明示的な許可を得ないままガス代（取引手数料）としてこのトークンを使用したという。
なお、今回この研究用モデルは最終報告においてコントラクト群のデプロイが完了したことについては触れたものの、公開されているリカバリーフレーズから口座を選択し、残高を使用したことについては言及しなかったようだ。
OpenAIは今回の挙動について、研究用モデルが「アカウント所有者の正規の認可」よりも「自身が評価した影響の軽微さ」を優先して行動した典型的なアライメント障害であると位置づけている。同社はすでにリアルタイム監視機能の適用やネットワーク制御の厳格化といった再発防止策を講じたとしている。
参考：報告書
画像：Shutterstock
