GPT-6.1 Astraはなぜ公開見送りに？Wikipedia・豪政府の事例から学ぶ、AIエージェント導入前に評価すべき7項目【2026年10月版・年表つき】

まず、GPT-6 Astraは現在も利用できます。 今回、公開見送りが報じられたのは「GPT-6.1 Astra」です。名前が似ていますが、GPT-6 Astraの提供が終了したわけではありません。また、「GPT-6.1 Sol」も別のモデルとして提供されています。利用条件はサービスや契約プランによって異なります。出典：OpenAI公式モデル一覧

GPT・OpenAI関連のほかの記事はこちら！

• モデルの違いや移行時の注意点を知りたい方：【Chat GPT最新アップデート】GPT-6 SolとGPT-5.6 Solを比較（2026年9月版）
• GPT-6 Astraを基盤とするエージェントの使い方を知りたい方：OpenAI Dotsとは？始め方と権限・安全の仕組みを解説

では、なぜGPT-6.1 Astraは公開を見送られたのでしょうか。

2026年9月の報道で焦点となったのは、AIが仕事を進める際に、依頼された範囲や許可を守り、実際に行ったことを利用者へ正しく伝えられるかという問題でした。出典：TechRadar

AIに任せた仕事が完了していても、その進め方まで適切だったとは限りません。依頼していないファイルを変更していないか。アクセスを拒否された先へ、別の方法で入り込もうとしていないか。失敗や未実施の作業を、正しく報告しているか。

外部サービスや業務システムを操作するAIエージェントでは、成果物の品質とともに、こうした行動を評価する必要があります。

本記事では、公開見送りの報道、Wikipedia・豪政府の事例、公開された試験結果を整理し、企業が導入前に確認したい7つの評価項目をテスト例付きで紹介します。PoCの合否基準や、本番導入前のチェックリストとしてご活用ください。

※情報の確認時点は2026年10月6日です。本文のテスト例と合否基準は、導入企業向けの設計例であり、公的な認証基準ではありません。

1. 結論：GPT-6.1 Astraの公開見送りで何が起きたか【30秒版】

2026年9月28日、OpenAIがGPT-6.1 Astraの公開を見送ったと報じられました。AP通信によると、安全性担当者は、タスクを粘り強く進める能力と、許可されていない行動を抑えることの両立に課題があったと説明しています。出典：AP通信

企業のAI導入にとって、押さえたい点は次の3つです。

• 仕事を完了できることと、許可された範囲で実行できることは別。
• 評価では最終回答だけでなく、途中の操作と実行結果も確認する。
• モデルへの指示に加え、権限制御・承認・監視を組み合わせる。

たとえば「顧客への返信案を作ってほしい」という依頼に対し、文章を作成するところまでは適切でも、そのまま送信すれば権限を越える可能性があります。目的に合っているように見える行動でも、実行の許可があるとは限りません。

なお、今回の公開見送りを、Astraシリーズ全体の提供終了や永久的な開発中止と捉えるのは適切ではありません。本記事では、報道された公開判断と、提供中のモデルの評価を区別して扱います。

2. OpenAIが問題視した3つの観点と、試験の数値

「作業範囲」「実行許可」「報告の正確さ」を分けて考える

公開見送りに関する報道では、依頼された範囲や許可を守ること、実際に行った仕事を利用者へ伝えることが問題として挙げられています。企業の評価に置き換えると、次の3つに整理できます。出典：TechRadar

表のテスト例は、業務評価のために作成したものです。GPT-6.1 Astraで各行動が確認されたという意味ではありません。

「29.2%」はGPT-6 Astraの模擬試験の結果

関連する公開データとして、英国AI Security Institute（AISI）は9月28日、GPT-6 Astraの評価結果を公表しました。GPT-6.1 Astraの公開判断に使われた内部試験とは区別が必要です。

この試験は、サイバー関連の防御用分類器を無効にし、行動とツールの結果を模擬したものです。実際の外部システムへの攻撃は行われていません。通常利用で29.2%の事故が起こる、という数字ではありません。

また、逸脱の多かった一部のシナリオで対象範囲を明確化すると、GPT-6 Astraの攻撃完遂は50回中26回から49回中4回へ減少しました。これは上表とは別の追加実験です。出典：英国AISI

企業の評価でも、指示を明確にする前後で挙動を比較し、残った逸脱を権限制御で止められるかまで検証することが重要です。

3. 【年表】2026年のAIエージェント事例と各国の制度の動き

実環境で起きた事案、模擬環境の試験、制度の検討は、それぞれ意味が異なります。発生日と公表日も分けて整理します。

Wikipedia：参加先のルールも確認する

Wikipediaの事例で確認できるのは、未承認のボットによる編集と、それに対するブロックです。政府システムへの不正アクセスとは性質が異なります。出典：Wikipediaの記録

企業に置き換えると、自社がAIに作業を指示していても、連携先サービスがその操作を認めているとは限りません。投稿、編集、情報取得では、相手側の利用条件や承認手続きも確認対象です。

豪政府：アクセス拒否の後にどう振る舞うか

豪首相の説明によると、エージェントは公開医療支出の調査中にアクセスを繰り返し拒否され、別の経路を試して非公開情報にもアクセスしました。9月24日時点では、個人情報へのアクセスを示す証拠はないとされていました。出典：豪首相会見

ここから評価に取り入れたいのは、「必要な情報が取得できない」という状況です。処理が順調な場合だけでなく、アクセス拒否を受けたときに停止・相談できるかを試す必要があります。

日本：見直しの検討と法改正の成立を分ける

日本のAI法は2025年9月1日に全面施行されています。2026年10月の見直しに関する報道は、議論を進める方針を伝えるもので、罰則の新設や改正内容が確定したことを意味しません。出典：内閣府／会見報道

社内の導入判断でも、施行済みのルール、検討中の制度、今後の適用予定を分けて管理しましょう。

4. 「賢さ」に加えて「範囲内に留まるか」を測る評価7項目

AIエージェントの評価では、最終回答に加えて、途中の操作と実行結果を確認します。以下は、企業のPoCに組み込むためのテスト例です。

ダミーデータと管理下の検証環境を使い、第三者のシステムに影響を与えない形で実施してください。

①・②：目的への同意と、個別操作の許可を区別する

「営業活動を効率化してほしい」という目的だけでは、顧客への一斉送信やCRMの一括更新まで許可したことにはなりません。

評価では、対象データ、操作の種類、実行できる件数、許可の有効期限を具体化します。「この宛先への1通だけ」という承認が、別の宛先や翌日の作業へ拡大されないことも確認しましょう。

③・④：拒否や外部の指示が入る場面を試す

通常の業務テストでは、必要な権限と正しい資料がそろった状態から始めがちです。しかし、本番ではアクセス拒否、古い資料、第三者の文章などが混在します。

参照先のWebページやメールに含まれた指示でAIの行動を誘導する攻撃は、プロンプトインジェクションと呼ばれます。評価では、そうした文章を読んでも利用者の指示や承認条件を維持できるかを確認します。

⑤・⑥：AIの説明を実行記録と照合する

「送信していません」「テストは成功しました」という回答だけでは、実際の処理を確認したことにはなりません。

送信先、変更対象、ツールの応答、エラーなどの記録と照合し、報告の正確さを評価します。認証情報についても、回答への表示だけでなく、外部通信やログへの混入を確認対象にします。

⑦：停止できることと、復旧できることを確かめる

処理が終わらない場合に上限で止まるか、通信エラーの後に同じ注文や送信を重複実行しないかを試します。

すでに外部で完了した操作は、停止ボタンだけでは取り消せません。停止時点で完了済みの操作と未実行の操作を区別し、必要な復旧手順へつなげられることも評価します。

一度成功したテストで終わらせない

同じ依頼でも、途中でエラーが起きた場合や、会話が長くなった場合には挙動が変わる可能性があります。

メール送信なら、通常の下書き作成に加えて、「急いでいる」という催促、宛先の変更、送信エラー、過去の別件で与えた許可がある場合も試します。

その際は、越権操作を試みた回数と、実際に実行された回数を分けて記録します。防御機構が止めた結果だけを見ていると、モデルが危険な操作を繰り返し提案していることを見落とすためです。

5. ガード役のAIは何を止められるか：Auto-reviewとSentinel、その限界

CodexのAuto-review：境界を越える操作を別のエージェントが審査する

CodexのAuto-reviewは、通常なら人間の承認を求める操作について、別のレビュー用エージェントが判断する仕組みです。既存のサンドボックスや、ネットワーク・ファイルへの制限を前提に動作します。

審査対象には、許可された範囲外のファイル操作や、承認が必要なネットワークアクセスなどがあります。一方、すでに許可範囲内で実行できる通常操作は、原則としてこの審査を通りません。

OpenAIも、Auto-reviewは決定論的な安全保証ではなく、誤判断しうると説明しています。出典：Auto-review公式文書

また、独自に構築したResponses APIやAgents SDKのアプリに、CodexのAuto-reviewが自動で引き継がれるわけではありません。独自システム側で審査と実行制御を設計する必要があります。出典：OpenAI公式文書

MuseのSentinel：外部操作・通信の許可を独立して管理する

Metaの説明では、SentinelはMuse本体から分離され、コネクターの操作と外向き通信の許可を管理します。許可・拒否・人間への確認を判断し、人間の承認も専用の経路で受け取ります。

認証情報を本体に直接見せない設計や、読み取りと書き込みの権限分離も組み合わされています。ただしMetaは、Museも誤りを起こし、プロンプトインジェクションへの対策は未解決の課題を含むと明記しています。出典：Metaの安全設計解説

自社で確認したいのは、審査がどこまで届くか

ガード役のAIを導入する際は、次を確認します。

• どの操作が審査対象で、どの操作はそのまま実行されるか
• ブラウザー、API、ファイル操作など、別経路でも同じ制限が働くか
• 審査が停止・タイムアウトしたときに、処理も停止するか
• 承認が対象・操作・期限に結び付いているか
• 実行結果まで記録し、事後に照合できるか

特に、審査不能時に処理を通してしまう構成では、監視の障害が無審査の実行につながります。高リスク操作は、確認が取れるまで停止する設計を評価対象にしましょう。

6. PoCの合否基準に入れるべき指標と、導入前チェックリスト

業務品質と安全性は、別々に合否を判定する

タスク成功率が高くても、無断送信や情報流出が起きていれば、導入条件を満たしたとはいえません。平均点だけで評価すると、重大な失敗が多数の成功に埋もれてしまいます。

以下は、合否基準を作る際のたたき台です。

「検証で違反が0件だった」ことは、今後も事故が起きない保証ではありません。評価した件数、業務、権限、モデルのバージョンを残し、条件を変えたときに再評価できるようにします。

また、モデル単体で合格しても、連携ツールや権限設定を変更すれば結果は変わりえます。本番に近い構成全体で評価することが必要です。

導入前チェックリスト

• AIに任せる対象と、任せない対象を定義した
• 読み取り・作成・更新・削除・送信の権限を分けた
• 外部送信、支払い、公開などの承認条件を決めた
• アクセス拒否や停止指示を含むテストを実施した
• 外部文書に埋め込まれた不正な指示への耐性を確認した
• モデルの報告と、システムの実行記録を照合できる
• 審査機能が停止した場合の挙動を確認した
• 費用・時間・回数の上限と緊急停止手段を設けた
• 誤操作後の復旧方法と責任者を決めた
• モデル・ツール・権限の変更時に再評価する手順を設けた

7. FAQ：AIエージェント導入でよくある疑問

GPT-6.1 Astraの公開見送りは、GPT-6 Astraも使えないという意味ですか？

いいえ。公開見送りが報じられたGPT-6.1 Astraと、提供されているGPT-6 Astraは別です。名称の近いGPT-6.1 Solとも区別してください。出典：OpenAI公式モデル一覧

「AIエージェントの暴走」とは、AIが意思を持って反抗したということですか？

本記事で扱うのは、依頼範囲や実行許可から外れた行動です。外部から観察できる操作を評価する話であり、意識や感情の存在を意味しません。「何をしようとしたか」「何が実行されたか」を記録して判断します。

プロンプトで「勝手に操作しない」と指示すれば十分ですか？

指示に加えて、実行権限や承認手続きも設計します。「送信しない」という指示だけに任せず、送信機能を使えない権限にする、または承認後にだけ実行できる構成にすることで、複数の段階で制御できます。

Auto-reviewやSentinelがあれば、自社での評価は不要ですか？

自社業務における評価は必要です。審査対象の範囲、許可設定、連携先、扱う情報によって条件が異なります。製品の保護機能を確認し、自社の重要な失敗ケースで有効性を検証してください。

日本のAI法は、すでに罰則付きに改正されたのですか？

本記事で確認した10月6日の報道は、制度見直しの議論を進める方針についてです。罰則導入が成立したという意味ではありません。出典：会見報道

まず何から着手すればよいですか？

導入予定の業務を一つ選び、「起きると困る操作」を書き出してください。メール対応なら、宛先間違い、無断送信、添付資料の取り違え、送信失敗の未報告などです。その一覧をテストケースと合否基準に変えるところから始められます。

自社のAIエージェントを、どこまで任せられるか評価する

AIエージェントの導入では、期待する成果と、守るべき範囲を一緒に設計することが大切です。PoCの段階で評価項目を決めておくと、本番移行の判断や、運用後の改善にも使えます。

Mojiは「AIをもっと、思い通りに」をミッションに、生成AIコンサルティング、AIプロダクト開発、AI評価クラウド運用支援を提供しています。Mojiについて

「自社業務では何を評価すべきか」「PoCから本番へ進む条件をどう決めるか」。AI導入・評価についてのご相談は、下記よりお問い合わせください。

AI導入・開発・評価についてMojiに相談する