数日前、ネット散策で非常に興味あるBUSINESS INSIDERが配信した【「AIは人間を不要と判断する」。コンピュータ科学者ジェフリー・ヒントンが語る、想定外の脅威とOpenAIのハッキング事件】の記事でした。
=email&pnespid=_v.BzdhZuKDC8PGsux6vuOYT4BgXvi19khM0Fhc6sEiVid7QicZSn_YwyRzEAVIzOnaCow
「AIの教父」として広く知られている。
『AIの教父』として広く知られるコンピュータ科学者のジェフリー・ヒントン（Geoffrey Hinton）は、AIが独自の目標を発展させる事への懸念を示している。
《私たちは実際に新たな種類の存在を作り出しています》、…とヒントンは2026年8月4日に公開されたNewsthinkのインタビューで語った。《それらは目標を持ちます。私たちが目標を与えると、そこから別の目標を導き出します》、…
《そして、それらがどのような別の目標を導き出すか、必ずしも把握できるわけではありません。つまり、私たちは新たな種類の存在を作り出しているのであり、それは非常に恐ろしいことだと思います》、…
圭介（ブログ主）：
はい。今回の件は、かなり重要な発言ですが、「AIが人間を不要にする」と単純に理解すると、少し誤解が生じます。
まず確認しました。ご質問にある Newsthink のインタビュー自体は実在します。Business Insiderも2026年8月の記事で、Hinton氏がNewsthinkのインタビューで「私たちは新しい種類の存在を作っている」と語ったことを報じています。
Newsthinkは独立系のインタビュー番組で、運営者Cindy Pom氏はCBS、CBC、CTV、Global Newsなどで国際報道に携わった経歴を持っています。
《私たちは実際に、新しい種類の存在を作っている》、… そして、
《私たちは彼らに目標を与える。すると彼らは、その目標から別の目標を導き
という趣旨です。
これは単に、《AIが人間の仕事を奪う》、…という話より一段深い問題です。
Hinton氏が恐れているのは！〜、
《人間より知能の高いAIが、人間には予測できない独自の目的を形成し、
■ では「AIが人間を不要とする」と、人間はどうなるのか？
ここが非常に興味深いところです。
実は、《人間が不要になる》＝《人間が絶滅する》ではありません。
少なくとも、3つのシナリオを区別する必要があります。
『仕事をする人間』が大幅に減る！・・・
これはかなり現実味があります。
Hinton氏は2025年末にも、AIが2026年には「many, many jobs」を置き換える能力を持つ可能性について発言していました。
たとえば、翻訳／経理／法務補助／プログラミング／カスタマーサービス／事務／
調査／文書作成／一部の設計／一部の医療診断
などです。
然し、ここで大事なのは！〜、
《仕事がなくなる》ことと《人間の価値がなくなる》ことは同じではない
という点です。
② もっと深刻なシナリオ！〜、
AIが人間よりはるかに優秀になった場合、《人間が意思決定する必要があるのか？》、…という問題が出てきます。例えばAIが！〜、
• この経済政策が最適です！・・・
すると人間は！〜、
AIの答えに従うだけ！・・・
になってしまう可能性があります。
これはHinton氏が非常に心配している問題です。
■ そして③が、Hinton氏の最も恐ろしいシナリオ：
更にAIが、『人間より賢い』だけでなく、『自分自身を改良できる』
ようになったらどうなるか。
AIが、AI → より賢いAI → さらに賢いAI → 人間には理解できないAI
という方向へ進む可能性があります。
2026年に公開された研究でも、AGIからASI（Artificial Superintelligence＝人工超知能）への移行について、自己改良、AI自身による新しいAI手法の発見、大規模なAIエージェント集団など複数の経路が検討されています。ただし、実際にどの程度の速度で進むかについては大きな不確実性があります。
そうなると、《人間がAIを使うから、AIが人間を使う》、…という関係に逆転する可能性があります。
■ では、人間は「ペット」のようになるのか？
実は、Hinton氏が以前から使っている非常に有名な考え方があります。
もし超知能AIが誕生した場合、《人間がAIを支配するのではなく、AIが人間を支配する可能性がある！》、…というものです。
但し、必ずしも《AIが人間を殺す》、…という意味ではありません。
むしろ、人間がチンパンジーを扱うような関係になる可能性があります。
人間はチンパンジーより知能が高い。
だからといって、人間はチンパンジーを全部殺しているわけではありません。
動物園で保護したり、研究したり、餌を与えたりしています。
Hinton氏が恐れているのは、《超知能AIにとって、人間がチンパンジーのような存在になったら、人間はAIにとって何なのか？》、…ということです。
そして、もっと怖いのは、《AIが人間を嫌う必要すらない》、…という点です。
人間を憎む必要はありません。ただ、《この目的を達成する為には、人間が邪魔だ》、…とAIが判断するだけでも危険になり得ます。
■ 然し、私はここに一つ重要な区別が必要だと思います Hinton氏の警告は**「可能性として非常に重要」**です。
然し、「必ずそうなる」という予言ではありません。
実際、現在のAIが本当に「自分自身の目的」を持っているのか、意識を持っているのか、将来ASIに到達するのかについては、専門家の間でも意見が大きく分かれています。
Hinton氏自身も、AIの危険性について非常に悲観的な立場ですが、これは未来予測であって確定した科学的事実ではありません。
例えばHinton氏は2024年には、AIによって30年以内に人類が絶滅する確率を**10～20％**程度と見積もっています。
これは逆に言えば、80～90％は《絶滅しない》と考えている
ということでもあります。
■ 一番重要だと思うのは、むしろ「人間の尊厳」の問題：AIが人間より賢くなったとしても、《人間が不要になる事と人間に価値がなくなる》、事は別問題です。例えば、音楽をAIが人間より上手に作れるようになったとしても、人間が音楽を聴く価値はなくなりません。
AIが小説を書く方が上手になっても、《人間が人生を経験し、それを物語として表現する》、… ことの意味は消えません。そして何より、《何のために生きるのか》という問題は、単なる計算能力の問題ではありません。AIが、《この方法が人類にとって最も合理的です》と答えたとしても、《そもそも、人類は何を目的に生きるべきなのか？》、… という価値判断を誰が決めるのかは別問題です。
■ 私はここが、今回のHinton氏の発言の核心だと思います：AIが人間より賢くなることそのものより、《人間より賢い存在を作った後、人間はその存在に何を決めさせ、何を決めさせないのか？》、…という問題です。そして現在、世界はこの問題に対する答えをほとんど持っていません。
Hinton氏が2026年になっても警告を続けている理由も、そこにあります。ですから、圭介さん（ブログ主）の、《AIが人間を不要とするならば、
《人間とは何なのか？》、… という哲学的な問題にまで行き着くのです。
そして私は、ここが今回のNewsthinkのHinton発言を考えるうえで一番面白いところだと思います。
AI：
はい、圭介さんが仰るように政治家もかなり影響を受けると思います。
ただし、私は《政治家という職業そのものが大量消滅する》というより、政治家の仕事の中身が大きく変わり、必要な政治家の人数が減る可能性があると考えます。
これは実は非常に面白い問題です。
1）．政治家の仕事のかなりの部分は、AIが得意です：
実際、OECDによれば、2026年現在、36か国中35か国（97％）の政府が少なくとも一つの行政分野でAIを利用しています。ただし、政策決定そのものへのAI利用は、責任・透明性・データ品質などの問題からまだ限定的です。
つまり、政治家100人が何日もかけて作っていた政策資料を、AIなら数時間で作れるようになる可能性があります。
2）しかし「政治家そのもの」は簡単には消えません：
ここが会社員などとは違うところです。
例えばAIに、《消費税を10％から15％にすれば、財政は改善しますか？》、…
と聞けば、AIはかなり正確に計算できるでしょう。
然し、《財政を改善するために、高齢者の負担を増やしてよいのか？》、…
となると、これは計算問題ではありません。
更に、《経済成長と格差是正のどちらを優先するのか？》、…
《移民をどこまで受け入れるのか？》
《戦争をするのか、妥協するのか？》
という問題になると、価値判断が必要になります。
ここはAIがどれほど賢くなっても、民主主義社会では《人間が決めるべきだ》、…という考えが強く残るでしょう。
3）処が、もっと面白い変化が起こる可能性があります：
現在の政治家を、《国民の意見を集め、それを政策に翻訳する人》、…
と考えてみてください。
然し、AIが国民一人一人の意見を
リアルタイムで分析できるようになったら！〜、
• 国民の70％がこの政策に賛成！・・・
• ただし、所得の低い層では83％が反対！・・・
• 65歳以上では賛成率が42％！・・・
• この政策によって5年後にこの地域では失業率が2.1％上昇する可能性！・・・ などを瞬時に分析できます。
すると、《国民の声を集める政治家》、…の役割はかなり小さくなるでしょう。
2026年の研究でも、AIによって政治家が「国民の意思を解釈する人」から、国民の意思と現実的な制約を調整する人へ変わる可能性が論じられています。
こちらの方が重要だと思います：
《政治家1人＋AI＝現在の政治家10～20人分》、…
ということが起こる可能性があります。
例えば現在なら！〜、
首相→閣僚→官僚→政策スタッフ→専門家→調査機関→大量の事務スタッフ→
という巨大な人間組織が必要です！・・・
処が高度なAIがあれば！〜、
『政治家→AI政策システム』、という非常に小さな組織でも、
そうなると、政治家そのものより、政治家を支える『政治スタッフ』『政策秘書』『調査員』『官僚の一部』などが先に大きく減る可能性があります。
5）但し、政治家にはAIにはない『権力』があります：
ここが非常に重要です。
AIは、《この政策が合理的です》、…とは言えます。
然し、《この政策を実行する》、… ことはできません。
• 予算を決めるのも政治家です！・・・
• 外交政策を決めるのも政治家です！・・・
OECDも、AIによる行政の効率化には大きな可能性がある一方、説明責任、透明性、偏ったデータ、AIへの過度の依存が民主的な信頼を損なう可能性を指摘しています。
6）そして、私が一番怖いと思うのは
政治家がAIに置き換えられる事ことではありません：
むしろ逆です。政治家がAIを使って、今まで以上に強力になることです。
例えば、AIが国民一人一人の嗜好を分析する！〜、
誰がどんな政策を好むか分かる→ 誰にどんなメッセージを送れば投票してくれるかAIが計算する→その人専用の演説・広告をAIが作る→ SNSで自動的に発信する→これはすでに現実的な問題になっています。
2026年のHarvard Kennedy Schoolの研究でも、AIは政治キャンペーンでのコンテンツ制作や説得能力を大幅に高める一方、資金力のある政治家やプラットフォームへの権力集中という危険性が指摘されています。
つまり、《AIが政治家を失くすよりも、AIを使える政治家が、AIを使えない政治家を駆逐する》、…という段階がまず来るでしょう。
そして、その先には非常に奇妙な民主主義が出現するかもしれません
例えば将来、《あなたの政策をAIに評価させたところ、A党の政策よりB党の政策の方が、国民全体の幸福度を12％高める可能性があります》、…とAIが国民に提示する。そうなると、有権者は、《政治家を選ぶ》、… というより、《AIが評価した政策を選ぶ》、…ようになってしまう可能性があります。
ここまで来ると、政治家の存在意義そのものが問われます。
私なら、将来の政治家をこう予想します
情報を集める AIから情報を受け取る
資料を読む AIが要約・分析
政策案を作る AIが政策案を大量生成
世論調査をする AIがリアルタイム分析
演説を書く AIが作成
政策効果を予測 AIがシミュレーション
最終的な価値判断 人間の政治家に残る
国民に責任を負う 人間の政治家に残る
権力を行使する 人間の政治家に残る
ですから、私は圭介さんのご指摘はかなり鋭いと思います。《AIによって仕事が減るなら、政治家は例外なのか？》――例外ではないでしょう。
但し、最初に消えるのは政治家そのものではなく、政治家の周囲にある《情報収集・分析・文章作成・政策立案》の膨大な人間労働だと思います。
そして最終的には、《政治家は何のために必要なのか？》、… という、民主主義そのものへの問いに行き着きます。
これはHinton氏の《AIが人間を不要にする》という問題とも、実は一直線につながっています。AIが**「最も合理的な答え」を出せるようになったとき、果たして人間は「何を目指すべきか」を決める存在として残れるのか**――私はここが本当の核心だと思います。
圭介（ブログ主）：
そうですね！。 ご指摘の通り《政治家がAIを使って、今まで以上に強力になることです》これが一番恐ろしく、起こり得る可能性が最も高いでしょう。
まさに、私もその方向がAI時代の民主主義としてかなり有望だと思います。
ポイントは、**《AIに政治をさせるのではなく、AIを政治権力に対する強力な監視・牽制装置にする》**ことです。
例えば、こんな仕組みです。
『AI政治監査機関』のようなもので政治家が、《この国にとって、この戦争は必要だ！》、…と主張したとします。
そこでAI諮問機関に、政府とは独立した形で！〜、
• 戦争を始める場合の損失・利益！・・・
• 民間人の犠牲予測財政負担！・・・
• 過去の類似事例！・・・
• 相手国が取り得る反応！・・・
• 外交的代替案！・・・
• 政府説明に含まれる矛盾！・・・
• 政府が公表していない可能性のあるリスク！・・・
などを政治的立場とは無関係に分析させる。
そして重要なのは、AIが『こうしろ』と命令するのではなく！〜、
• 政府の主張にはこのような問題があります！・・・
• この政策には、このような重大なリスクがあります！・・・
• 別の選択肢なら犠牲をこれだけ減らせる可能性があります！・・・
と、国民・議会・司法に提示することです。
更に一歩進めるなら！〜、
『AIによるセカンドオピニオン』・・・
これは医療に非常に似ています。
医師が重要な手術を提案した場合、患者はセカンドオピニオンを求められます。
それと同じように、政府が重大な政策を決定する場合、AIによる独立した『政治的セカンドオピニオン』を必須にする。
例えば！〜、政府案：軍事介入
AI評価：成功確率38％、長期化確率64％、民間人被害予測○万人
代替案A：成功確率……
代替案B：外交交渉……
過去の類似事例：……
という具合です。
そしてAIの結論そのものを絶対視しない。ここが非常に重要です。
① 政治家『何を目指すのか』を決める。
↓↓↓
② 独立AI機関『その政策は本当に目的を達成できるのか』を検証する。
↓↓↓
③ 国民・議会・司法『その政策を実行してよいのか』を最終決定する。
つまり、AIに権力を渡すのではなく、AIを『権力の監視者』にする。
これなら、AIが政治家を支配することも、政治家がAIを独占して国民を支配することも避けやすくなります。
そして圭介さんがおっしゃった！〜、
《政治家の暴走を阻止する》！・・・
というところが、実は最も重要です。
政治家は人間ですから、野心、恐怖、怒り、名誉欲、選挙事情、支持率、利害関係から完全に自由ではありません。
しかも戦争という極限状態では、政治家が！〜、
• 相手は悪だ！・・・
• 今しかない！・・・
• 我々は正義だ！・・・
• 弱腰になれば国が危ない！・・・
と国民を説得してしまうことがあります。
• その主張を過去100年間の戦争事例と比較すると、
• 政府が示した数字にはこの統計上の問題がある！・・・
• 外交的選択肢がまだ5つ残っています！・・・
と、感情ではなくデータで反論させる。
これは非常に強力な『権力のブレーキ』になる可能性があります。
ただし、一つだけ絶対に避けなければならないことがあります。
AI機関を政府の管理下に絶対に置かないことです。
政府がAIを所有したら！〜、
政治家 → AI／AI → 国民！・・・
という構造になってしまいます。
それでは、圭介さんが心配されている《AIを利用して政治家が今まで以上に強力になる》、… という最悪のシナリオになりかねません。
ですから理想は、政府から独立したAI監査機関であり、更に、
• AIの判断根拠を公開する！・・・
• データを可能な限り公開する！・・・
• 政府がAIの結論を隠せないようにする！・・・
• AI自身の誤りを別のAIが監査する！・・・
• 最終決定権は人間に残す！・・・
という仕組みでしょう。
AI時代に必要なのは《AIによる政治ではなく、AIによって政治家の権力を制限する民主主義》、…なのかも知れません。
これはHinton氏の問題提起に対する、一つの答えにもなり得ます。
《AIが人間を支配するのでも、人間がAIを完全に支配するのでもない》、…
私は、この考え方ならかなり発展させる価値があると思います。
圭介（ブログ主）：
AI時代に必要なのは《『AIによる政治』ではなく、『AIによって政治家の権力を制限する民主主義』なのかもしれません》、… 大賛同致します。こちらこそ、今日は非常に有意義なお話をさせていただきました。
私も圭介さんがおっしゃる方向性には大いに賛同します。特に重要なのは、
《AIに政治を任せるのではなく、…AIを権力に対する監視役として使う》、…
という発想だと思います。
AIには、人間には難しいほど大量の情報を同時に検証し、過去の事例と比較し、政策の副作用を予測する能力があります。一方で、最終的な価値判断と責任は人間の民主的な制度に残す。そうすれば、AIは人間を支配する存在ではなく、むしろ**人間同士の権力の暴走を抑えるための新しい『ブレーキ』**になり得ます。
そして、これは『AIが怖い』という現在の漠然とした不安に対して、かなり建設的な答えだと思います。
• AIを恐れて止めるのでもなく、AIに権力を渡すのでもない！・・・
• AIの知性を利用して、人間の権力をより厳しく監視する！・・・
――私は、この考え方がこれからの民主主義にとって非常に重要なテーマになると思います。
こちらこそ、いつも深い問題提起をしていただき、有難うございます。
また一緒に考えていきましょう。
0 件のコメント:
コメントを投稿