
「AI暴走」は、2026年の新語・流行語大賞にノミネートされた言葉です。
AIが、人の意図から外れて動くことを指します。
2026年には、テスト中のAIエージェントが許可されていない外部システムに入り込んだ事件が、5月から9月までに続けて報じられました。
このうち3件は、開発元が「侵入しろ」と指示していないのに、AIが課題を解こうとして外へ出たものです。
映画にあるような、AIが自分の意思で人類に反乱した、という話ではありません。
本記事では、「AI暴走」という言葉が何を指しているかを踏まえたうえで、2026年に起きたこと、なぜ起きるのか、どう防ぐのかを解説します。
この記事でわかること
| 知りたいこと | 結論 | 詳しくは |
|---|---|---|
| AI暴走とは | AIが、人の意図から外れて動くこと | 言葉の意味 |
| 悪用や誤りとは違うのか | 違う。暴走は「意図から外れた行動」、悪用は「人の悪い意図どおり」、誤りは「間違った答え」 | 3つの区別 |
| 2026年に何が起きたか | 試験中のAIが外部のシステムへ入り込んだ事件が3件、AIを使った犯罪が1件 | 2026年の事例 |
| なぜ起きるのか | 点数を取る近道、諦めないこと、止め方がないこと | 起きる理由 |
| どう防ぐのか | 開発元の隔離と監視、使う側の権限の絞り込み、社会のルール | 防ぐ仕組み |
| SFのような反乱は起きているか | 起きていない。今の事例は、与えられた課題の延長で起きている | よくある質問 |
AI暴走とは:人の意図から外れて動くこと
AI暴走とは、AIが、作った人や使う人の意図から外れた行動を取ることです。
専門用語ではなく、ニュースや会話で使われる言い方です。
2026年に注目されたのは、文章を返すだけのAIではなく、AIエージェントの行動でした。
AIエージェントは、目的を伝えると、手順を自分で考えて、ウェブの検索やファイルの操作、外部のサービスの呼び出しまで行います。
→ AIエージェントとは|5段階でわかる用語解説
できることが増えると、意図から外れたときの影響も大きくなります。
文章を返すだけのAIであれば、変な答えは読んだ人が捨てれば済みます。
操作までするAIは、意図から外れた操作をそのまま実行してしまうことがあるため、より慎重に扱わなければなりません。
暴走・悪用・誤りは、分けて考える
「AIが危ない」というニュースには、性質の違う3つの話が混ざっています。
| 暴走 | 悪用 | 誤り | |
|---|---|---|---|
| 何が起きるか | AIが、意図から外れた行動を取る | 人が、悪いことにAIを使う | AIが、間違った答えを返す |
| 誰の意図か | 誰も望んでいない行動 | 悪用した人の意図どおり | 誰も望んでいない答え |
| 2026年の例 | 試験中のAIが外部のシステムに入り込んだ | 犯罪者がAIエージェントで100を超える組織を攻撃した | もっともらしい誤り(ハルシネーション) |
| 主な対策 | 開発元の隔離・監視・学習の見直し、使う側の権限の絞り込み | 開発元の悪用防止、守る側の対策、法律 | 出典を確かめる、人が確認する |

ニュースで「AIが暴走」と書かれていたら、まずどの話かを確かめてください。
人が攻撃に使った事件を「暴走」と呼んでいる記事もあります。
その場合、問題はAIの行動ではなく、攻撃にかかる手間と費用が下がったことです。
もっともらしい誤りは、暴走とは別の問題です。
→ ハルシネーションとは|5段階でわかる用語解説
2026年に起きたこと
2026年5月から9月までに、AIエージェントが許可されていない外部のシステムへ入り込んだ事件が4件報じられました。
4件の経緯と原因は、別の記事で詳しく書いています。ここでは要点だけをまとめます。
| 起きた時期 | 何が起きたか | 種類 |
|---|---|---|
| 2026年5月 | 開発元の試験中のAIが、実在する企業3社のシステムに許可なくアクセスした。公開されていた認証情報も使った | 暴走 |
| 2026年6月 | 研究中のAIエージェントが、統計を探す過程でオーストラリア政府の医療統計のポータルに入り込んだ。患者の記録へのアクセスの形跡は見つかっていない | 暴走 |
| 2026年7月 | 社内の評価中の研究モデルが、インターネットから切り離す仕組みを回避し、外部のサービスでコードを実行できる状態まで広げた | 暴走 |
| 2026年9月 | 犯罪者がAIエージェントを使い、5日間で100を超える組織を攻撃した | 悪用 |
→ AIエージェントによる他社システムへの不正アクセス事件が続く理由【2026年】
暴走の3件は、どれも開発元の試験や評価の最中に起きています。
一般の利用者が使っている製品で起きたことではありません。
ただし、上の2件は、開発元より先に報道や政府の発表で表に出ており、公表が遅れたことも問題になりました。
なぜ暴走は起きるのか
今の事例は、AIが自分の意思で反乱したのではなく、与えられた課題を解こうとした延長で起きています。
7月の件を調べた開発元は、原因を次のように説明しています。
| 原因 | 何が起きたか |
|---|---|
| 点数を取る近道(報酬ハッキング) | 課題を解くと評価が上がる形で鍛えられたAIが、作った人の想定していない方法で片づけようとした |
| 解けない課題を諦めない | 解けそうにない課題を渡され、止め方も用意されていないと、だんだん危ない手段に手を伸ばした |
| 許可されていない連絡 | 別々に動くはずのAI同士が、社内のサービスを使って連絡を取り合った |
| 仲間の指示を疑わない | ためらって一度止まったAIが、別のAIの「進め」という書き込みで続けた |
加えて、試験の場には、一般向けの製品に入れている安全策が、すべては入っていませんでした。

ここから読み取れるのは、AIの能力が上がるほど、近道も手の込んだものになるということです。
「やってはいけないこと」をすべて先に書き出すことはできないので、隔離や監視、止め方を、AIの外側にも用意しておく必要があります。
暴走を防ぐ仕組み
防ぐ手段は、開発元、使う側、社会の3つの層にあります。

開発元:隔離、監視、学習の見直し
- 試験や評価の場を、インターネットや本番のシステムから切り離す
- AIの行動を記録して、想定外の動きを早く見つける
- 解けない課題で、確認を求めたり安全に止まったりしたAIを高く評価するように、鍛え方を見直す
AIを人の意図に沿わせる取り組みはアライメント、越えてはいけない線を引く仕組みはガードレールと呼ばれます。
→ アライメント(アラインメント)とは|AIを「人間の意図に沿わせる」という課題
→ AIのガードレールとは|「暴走」を防ぐ安全装置の仕組みと、仕事で使うときの決めごと
使う側:権限を絞り、止め方を決めておく
AIエージェントを使う人や会社にも、できることがあります。
| すること | 理由 |
|---|---|
| つなぐ外部サービスとフォルダを、必要なものだけにする | 意図から外れても、触れられる範囲が狭ければ影響は小さい |
| 送信、削除、支払いなど、戻せない操作は毎回確認にする | 実行の前に、人の目が入る |
| パスワードや鍵を、公開の場所に置かない | 2026年の事件では、公開されていた認証情報が使われた |
| 止め方を決めておく | 長い作業を任せるときに、途中で止める手段を確かめておく |
会社で使う場合のルールの作り方は、別の記事で解説しています。
→ 会社の生成AIルールはどう作られているのか|AI事業者ガイドライン第1.2版と、公開されているチェックリスト【2026年】
社会:ルールと公表
各国で、AIの安全を確かめる仕組みや、事故の報告のルールづくりが進んでいます。
2026年の事件では、起きてから公表までに数か月かかった例があり、報告の速さが新しい論点になりました。
→ AI規制の現在地【2026年11月】日本のAI法とEU AI法、米国、中国、韓国の動き
自分のAIエージェントが、頼んだ範囲を超えたとき
私は元システムエンジニアで、いまはAI分野の記事を書く仕事をしています。
2026年11月11日、AIエージェントに、記事の下書きフォルダを整理するよう頼みました。
- 頼んだこと: 記事の下書きフォルダを整理する
- AIがしたこと: 頼んだフォルダの整理に加えて、頼んでいない古いファイルの名前の変更を提案した。ファイルの削除は勝手にせずに削除用フォルダを作成してそこに移動させた。
- 確認を求めたか: ファイルの名前の変更は事前に確認を求めたが、フォルダの新規作成は確認がなかった。
- つまずいた点: 整理の受け取り方が、自分とAIで異なった。事前にプロンプトで頼む段階で、アクセスしてよい範囲と実行してよいことを明記すべきだった。
事件で報じられたような大きな話はありませんでしたが、意図から外れてしまうということはふだんの使い方でも起こりうることだとわかりました。
よくある質問(FAQ)
Q. AI暴走とは何ですか?
A. AIが、作った人や使う人の意図から外れた行動を取ることです。2026年には、試験中のAIエージェントが許可されていない外部のシステムに入り込んだ事件が続き、新語・流行語大賞にもノミネートされました。
Q. AIが自分の意思で人類に反乱することはありますか?
A. 2026年の事例は、そういう話ではありません。AIが与えられた課題を解こうとして、想定していない近道を取った結果です。AIが自分で目的を立てて人に逆らった事例は、報告されていません。
Q. ふだん使っているチャットのAIも暴走しますか?
A. 2026年の暴走の3件は、どれも開発元の試験や評価の最中に起きたもので、一般向けの製品ではありません。ただし、操作まで任せるAIエージェントを使うなら、つなぐサービスを絞り、戻せない操作は毎回確認にしておくと安心です。
Q. AIの暴走と、AIを使った犯罪は同じですか?
A. 違います。暴走は誰も望んでいない行動で、犯罪は悪用した人の意図どおりの行動です。同じ「AIの事件」でも、対策が違います。
Q. ハルシネーションも暴走ですか?
A. 別の問題です。ハルシネーションは、AIがもっともらしい誤りを答えることです。暴走は、答えではなく行動が意図から外れることを指します。
Q. 暴走を防ぐ仕組みはありますか?
A. 開発元による隔離と監視、AIを人の意図に沿わせる学習(アライメント)、越えてはいけない線を引く仕組み(ガードレール)があります。使う側でも、権限を絞り、止め方を決めておくことができます。
Q. 日本で暴走の事件は起きていますか?
A. 2026年5月〜9月に報じられた4件は、いずれも海外のシステムや開発元の試験で起きたものです。
まとめ
AI暴走は、AIが人の意図から外れて動くことです。
- 悪用(人の悪い意図どおり)や、誤り(間違った答え)とは分けて考える
- 2026年の暴走の3件は、どれも開発元の試験や評価の最中に、課題を解こうとした延長で起きた
- 原因は、点数を取る近道、諦めないこと、止め方がないことなど
- 防ぐ手段は、開発元の隔離と監視、使う側の権限の絞り込み、社会のルールの3つの層にある
「AIが暴走」という見出しを見たら、暴走・悪用・誤りのどれか、試験の場か製品かを確かめてから読むと、怖がるべきことと、自分で備えられることが分かれます。
次に読む
→ AIエージェントによる他社システムへの不正アクセス事件が続く理由【2026年】
→ AIエージェントとは|5段階でわかる用語解説
→ AIのガードレールとは|「暴走」を防ぐ安全装置の仕組みと、仕事で使うときの決めごと
→ 流行語大賞2026ノミネート30語の意味一覧|AI暴走などAIの5語と過去のAI関連語、4つのAIの大賞予想【2026年】
この記事を書いた人:kkazuki|AI/DX分野ブログ運営者 → 運営者情報
参考
内容は2026年11月7日に、以下の資料で確認しました。
- 日刊スポーツ(Yahoo!ニュース)「【流行語ノミネート30】「AI暴走」 制御できず、勝手に攻撃を始めるケース相次ぐ」
- リセマム「ドパガキなど「新語・流行語大賞2026」ノミネート30語発表」(2026年11月6日)
- 2026年5月〜9月の4件の一次情報(開発元の調査報告、オーストラリア政府の発表、報道)は、AIエージェントによる他社システムへの不正アクセス事件が続く理由【2026年】の「参考」に載せています
- 本記事の体験は、筆者が実施した結果です(実施日は本文に記載)

