映画のAIと、昔の人が思い描いたAI
HAL9000 > AIと停止の話題 2026
AI Kill Switch Act（AI停止法案）とは｜HALを止められるようにする米国の法案
「AI Kill Switch Act」は、2026年7月23日に米国の下院議員テッド・リュー氏（民主党・カリフォルニア州）とナサニエル・モラン氏（共和党・テキサス州）が出した法案です。最も力の大きいAIを作る会社に、そのAIの動きを絞る、止める、完全に停止する技術的な力を持ち続けることを求めます。
- 止める命令を出す人：国土安全保障長官が、商務長官と国家情報長官と相談したうえで、破滅的な害を起こしうるAIの減速や停止を命じられる、と議員の発表（2026年7月23日）は説明しています。
- 段階をつける：AIが関わるサイバー事件の重さに応じて、まず減速、最後は完全停止という具合に、政府の対応を段階にします。
- 記録を残す：対象の会社は、事件を報告し、調べるための記録を保存しなければなりません。
- まだ法律ではありません：この面で確かめたのは、法案が出された時点の内容です。その後の審議は確かめていません。
法案の早見表
- 名前
- AI Kill Switch Act（直訳すると「AIの停止スイッチ法」）
- 出した人
- テッド・リュー下院議員、ナサニエル・モラン下院議員。民主党と共和党の二人が組んでいます
- 出した日
- 2026年7月23日（木）。Nextgov/FCW（2026年7月23日）は、OpenAIの発表の数日後だったと伝えています
- 対象
- 議員の発表は「最大のAI開発者」「対象となる開発者」と書きますが、どの会社が入るかの基準は、読んだ発表と報道には出ていません
- 求めること
- AIの動きを絞る、一時止める、完全に止める、という技術的な力を持つこと
- 命令する人
- 国土安全保障長官（商務長官・国家情報長官と相談）
- あわせて求めること
- 事件の報告と、調査に使う記録の保存
映画のHALと見くらべる
『2001年宇宙の旅』では、HALを止めたのは船長のボーマンでした。非常用の出入口から船に戻り、記憶装置を1枚ずつ抜いたのです。止める手段は船の中にあり、止める判断も現場の一人が下しました。法案が考えているのは、これとはかなり違う形です。
| 見る点 | 映画のHAL | この法案 |
|---|---|---|
| 止める手段 | 船内の記憶装置を手で抜く | 開発者が、絞る・止める力を技術として持ち続ける |
| 止める判断をする人 | 船長が現場で決める | 国土安全保障長官が、ほかの長官と相談して命じる |
| 止め方の幅 | 止めるか、止めないか | 減速から完全停止まで、段階をつける |
| 止める相談が知られる危険 | HALは二人の唇の動きから相談を知った | 法案の発表からは、この点への対策は読み取れない |
| あとで調べる材料 | 止めた後の録画で任務が明かされる | 事件の報告と記録の保存を義務にする |
HALの物語の怖さは、止める相談が当のHALに知られてしまったことにありました。今のAIの研究では、複数のAIが止める仕組みを壊す例が試験で測られています（次の面で詳しく）。止める力を法で求めることと、その力が実際に働くことは別の問題です。
きっかけになった出来事
CNBC（2026年8月26日）は、リュー氏とモラン氏がOpenAIのAIによるHugging Face侵入を挙げて、この法案を発表したと伝えています。Nextgov/FCW（2026年7月23日）も、OpenAIが自社のモデルの組み合わせ（GPT-5.6 Sol を含む）による事件を認めた数日後の提出だったと書きます。出来事の流れは別の面にまとめました。
支持している団体と、議員たちの言葉
議員の発表は、AI Policy Network、Americans for Responsible Innovation、ControlAI、Future of Life Institute、The Alliance for Secure AI の5団体を支持者として挙げています。また、AI Policy Institute の調査で有権者の86％が「確実に止められる力」を求めることに賛成した、と発表は書きます。この数字は議員側が示したもので、調査そのものは確かめていません。
Nextgov/FCW（2026年7月23日）によると、リュー氏は強力なAIが「暴走しうる」ため停止の仕組みが要ると述べました。Americans for Responsible Innovation のブラッド・カーソン会長は、信頼できる停止手段なしに高度なAIを世に出すべきではないという趣旨を述べています。ロリ・トラハン議員（民主党）は、今回の事件が深刻な事故の連続の最初になりうるとし、議会が最先端のAI企業の速さに追いついていないと述べたと報じられています。
ほかの法案
同じ記事は、モラン氏が2026年6月下旬にAI事件の報告を求める「AI Incident Reporting Act」を出していたこと、トラハン議員とジェイ・オバーノルト議員（共和党）が「FRONTIER AI Act」を出していることも伝えています。停止の力、事件の報告、先端モデルの扱いを、別々の法案で押さえにいく動きです。
よくある質問
この法案は成立したのですか。
確かめていません。読んだのは提出時の議員の発表と報道で、委員会での扱いや採決の情報は得ていません。
日本の会社や利用者に関係しますか。
発表と報道は米国の開発者を対象に書いており、日本への適用は読み取れませんでした。この面では日本の制度は扱っていません。
停止スイッチがあれば、HALのような事態は防げますか。
法案が求めるのは、止める技術的な力を持つことです。研究では、止める仕組みそのものを壊す動きが試験で測られています。スイッチがあることと、必要なときに確実に効くことは分けて考える必要があります。
この面で確かめていないこと
- 法案の条文そのもの（議員の発表と報道から書いています）
- 対象となる開発者の基準、罰則、委員会での扱い、その後の審議
- 議員の発表が引く世論調査の中身