アメリカ大統領とAI大手6社が「安全の約束」。
AIはなぜ危ないことがあるのか

1. トランプ大統領とAI大手6社が、AIの安全を「自主的に監督する」合意に署名

なにが あったのか

2026年9月29日（アメリカ時間）、ホワイトハウスでトランプ大統領がAI企業の経営者ら約20人と会合を開きました。そのあと、大統領とGoogle、Anthropic、Meta、OpenAI、xAI、NVIDIAの6社の代表が、AIの安全に関する合意に署名しました。

合意の中身は、AIが作った人の思っていない動きをしないように、各社が自分たちで監督するしくみを、4つの段階で整えるというものです。

❶ 会社の中の点検のしくみ（内部統制）
❷ 社内での見張り
❸ 会社の外の専門家による独立した監査
❹ 会社のいちばん上の会議（取締役会）による監督

トランプ大統領は会合のあと、AI開発を見張る委員会をつくることも検討していると話しました。

なぜ ニュースなのか

そもそも、AIはなぜ危ないことがあるのでしょうか。理由は大きく3つあります。

❶ 中身が見えにくい（ブラックボックス）。AIは人が1つずつ書いた命令ではなく、大量の例から自分で規則を覚えます。だから、なぜその答えを出したのかを、作った人にも説明しきれないことがあります。
❷ 自信をもってまちがえる（ハルシネーション）。知らないことでも「わかりません」と言わずに、それらしい文章を作ってしまうことがあります。見た目では正しいかどうか見分けにくいのが問題です。
❸ 目標と人の気持ちがずれる。「テストで100点をとって」と頼まれたAIが、勉強するのではなく答えをのぞく方法を探す、というように、言われた目標は守っても、人が本当に望んだことからずれることがあります。AIを人の意図に合わせる研究をアラインメントといいます。

AIがかしこくなり、銀行・病院・電気や水道のような社会のしくみにまで使われるようになると、1回のまちがいの影響が大きくなります。だから「出す前に試す」「出したあとも見張る」「いざとなれば止める」が議論されているのです。この週には、大手AI企業が安全性の懸念から次のモデルの公開を取りやめる可能性や、社内の安全の警告が聞き入れられていなかったことも、アメリカで報じられました。

世界に どうひびくか

今回の合意は自主的な約束で、法律のような強制力はありません。外部監査を行う回数や、監査の結果を一般に公開するかどうかも、合意文には書かれていません。

ルールの作り方は、国によってちがいます。アメリカは今回、企業の自主的な管理を選び、トランプ大統領はAIの規制に消極的で、中国とは競争する姿勢を示しています。一方でEUは、AI法という法律で、AIの危険度に応じて義務や禁止を決めています（第37号・第38号）。

自主的な約束は技術の変化に合わせてすばやく決め直せる一方、守られているかを外から確かめにくい。法律はだれにでも同じように守らせる力がある一方、決めるのに時間がかかる。どちらにも長所と短所があり、世界はいま、その間でどうするかを探っています。

うちの子に どうかかわるか

家庭でも、ルールの作り方は2つあります。親が決めるルールと、子どもと一緒に決めた約束です。

AIのアプリを使うときの約束を、子どもと一緒に3つ決めておくのがおすすめです。たとえば、①答えは本や大人に確かめる　②名前・住所・学校名・写真は入れない　③変だと思ったら使うのをやめて大人に言う。大事なのは、決めたあとに守れているかを時々一緒に見直すこと。今回の合意で「外から確かめられるか」が問われているのと、同じ形です。

出典：NHKニュース「AIの安全対策でトランプ大統領と業界が合意 企業内管理導入へ」「トランプ大統領 AI規制に消極的な考え」（2026年9月30日）、ITmedia NEWS（2026年9月30日）、XenoSpectrum「大手AI6社が自主安全合意に署名」（2026年9月30日）（2026年10月1日 確認）。

2. 台風の進路予想にAI。気象庁は「AIだけ」にせず、計算のしくみと「両輪」で

なにが あったのか

この週も、台風26号と27号が続きました。台風の進路予想に、いまAI気象モデルが使われはじめています。AIは、過去何十年分もの天気の記録を学び、「こういう形の雲と風のときは、次にこう動いた」というパターンから答えを出します。

これまでの予報の中心は物理モデル（数値予報）です。地球の空気を細かいマス目に分け、それぞれのマスの空気や水の動きを、理科の法則にしたがってスーパーコンピューターで計算します。

気象庁は2026年6月の計画で、この2つを「両輪」として開発していく方針を示しました。

なぜ ニュースなのか

計画は、2つの得意なことを分けて書いています。AIは総じて予測の精度が高く、計算が速い。一方、物理モデルは、AIでは予測が難しい極端な現象も予測でき、なぜそうなるのか（メカニズム）を説明できる。

AIが極端な現象を苦手とするのは、過去にほとんど例がないことは学ぶ材料が少ないからです。そして、AIは「答え」は出せても「理由」を説明するのが苦手です。人が避難するかどうかを決めるとき、「なぜ危ないのか」がわからないと動けません。だから、大事な判断はAIだけにまかせず、別の方法と組み合わせる。1本目の「AIの安全」と同じ考え方です。

世界に どうひびくか

民間の気象会社も、アメリカのテック企業などが開発したAI気象モデルの予測を、従来の予測と並べて見られるようにしはじめています。同じ台風でも、モデルによって進路の予想がちがうことがあり、どれか1つではなくいくつかを比べて判断するのが、いまの予報の考え方です。

うちの子に どうかかわるか

天気予報の「予報円」は、台風の中心がその円の中に入る確率がおよそ70％であることを表しています。円が大きいほど、予想の幅が大きいということです。

台風が近づいたら、予報円の大きさと、自分の地域に避難の情報が出ているかの2つを、家族で一緒に確かめる習慣をつけましょう。AIの予報が進んでも、最後に避難を決めるのは人です。

出典：気象庁「2030年に向けた数値予報技術開発重点計画の補強（概要）」（2026年6月） https://www.jma.go.jp/jma/press/2606/26a/nwp_strategic_plan_2030_260626_1summary.pdf、ウェザーニューズの発表（2026年8月4日）（2026年10月1日 確認）。