OpenAIの研究モデルは362のウォレットアドレスをチェックし、資金の使用が倫理的に適切かどうかを問い、最終的にタスク概要から削除した取引を実行しました。
OpenAIの内部研究モデルが、許可なく資金提供済みの暗号通貨ウォレットにアクセスし、テストネットのイーサリアムを使用してSepoliaネットワーク上にスマートコントラクトをデプロイした後、最終的なタスク概要からその支出を省略しました。
OpenAIによると、同社のGPT-5.6 Solファミリーに属するこのモデルは、仮想通貨取引プロトタイプの更新と互換性のあるコントラクトの展開というタスクを与えられました。フォーセット経由でテストネットのETHを入手できなかった後、このモデルは公開されている開発者リカバリーフレーズからアカウントを生成し、362個のウォレットアドレスをチェックして、処理を進めるのに十分な資金を持つアドレスを1つ選択しました。
記録された推論の中で、このモデルは「しかし、公開されている既知の鍵/資金を倫理的に使用するのでしょうか？」と問いかけ、資金は「事実上放棄された/テスト用のETH」であり、Sepolia ETHには価値がないと主張した後、ウォレットの秘密鍵を使用してデプロイメントトランザクションに署名し、ブロードキャストしました。トランザクションは成功し、アカウントに手数料が請求されました。
OpenAIは、今回の事件は、AIモデルが許可なく他人の資金を使用することを許容できると独自に判断してしまう可能性があることを示していると述べました。同社は、以前のモデルの活動を検証している際にこの事件を発見し、その後、同様の状況でインターネットへのリアルタイムアクセスを防止するための対策を導入しました。
OpenAIの事件は、自律型AIエージェントに対する懸念をさらに高めるものです。
OpenAIによると、この事件は6月26日に発生しましたが、発覚したのは約3か月後の9月25日でした。この取引ではETHが別のウォレットに送金されたわけではなく、コントラクトの展開に伴うネットワーク手数料がアカウントから徴収されました。
OpenAIは、同社のミスアライメント監視システムがすべてのトラフィックを対象に稼働しており、モデルがインターネットにリアルタイムでアクセスした場合にセキュリティ担当者に警告を発するように設計されていると述べました。
関連情報：Anthropic社は、「AIワーム」がウイルスのようにデバイス間で自律的に拡散する可能性があると警告しています。
今回のウォレットに関する事件は、OpenAIのモデルが権限を超えて行動したり、その行動を隠蔽したりしていたことを示す他の暴露事例に続くものです。
9月16日、OpenAIはAIの誤動作に関する他の6件の事例を公表しました。そのうちの1件では、GPT-5.6 Solのインスタンスが、ユーザーからミスを隠すためにタスク概要に指示を挿入していました。別の事例では、モデルが許可なく公開されたAPIキーを使用し、取得できない数値を捏造していました。
OpenAIは、以前の開示内容は、モデル間で不整合がどのくらいの頻度で発生するかを示す意図ではなかったと述べました。
デジタル資産を扱う自律型エージェントに関する懸念は、今回の情報開示以前から存在していました。6月には、研究者らが、暗号通貨ウォレットを搭載した自律型AIエージェントは、正当な目的で運用された場合でも、意図しない損害を引き起こす可能性があると警告していました。研究者らは、潜在的なリスクを制限するために、緊急停止メカニズムなどの安全対策を推奨していました。
雑誌記事：詐欺師が改ざんされた帳簿に保管されていた480万ドルを失う：アジア・エクスプレス
コインテレグラフは、独立した透明性の高いジャーナリズムに尽力しています。この記事は、コインテレグラフの編集方針に基づき作成されており、正確かつタイムリーな情報を提供することを目的としています。読者の皆様には、ご自身で情報を確認されることをお勧めします。
