2024 年ノーベル物理学賞受賞者で「AI の父」とも称されるジェフリー・ヒントン氏は、インドの NDTV との独占インタビューシリーズにおいて、人工知能（AI）がもたらす危険性について改めて強い警告を発した。その中で、NVIDIA のジェンスン・ファン最高経営責任者（CEO）に対し、最先端 AI の開発ペースを遅らせることに反対する姿勢は「利害関係に基づいている」と批判した。
NDTV のシブ・アルール記者とのインタビュー（火曜日に公開）でヒントン氏は、ファン氏がドナルド・トランプ米大統領と歩調を合わせ AI 規制に反対する姿勢を示している背景には、経済的利益が動機にあるとの見方を示した。ファン氏はこれまでに、AI を巡る新たな法制や規制の必要性を「完全に不要」と公言している。
迫りくる猶予期間
ヒントン氏の NDTV での発言は、同氏がここ数週間にわたり一層緊迫した警告を続けている中でなされたものだ。9 月 16 日、バーニー・サンダース上院議員が招集した非公開の上院公聴会を終えたヒントン氏は、記者団に対し、AI が人間の制御能力を超えて進化してしまう前に防護策を確立する猶予は「おそらく 1 年、それ以上はないだろう」と述べた。
今月初めに BBC のインタビューに応じたヒントン氏は、今後 10 年以内に AI が人類の絶滅を引き起こす確率を「10%」と見積もることは「不合理な推計ではない」としつつ、誰もそのリスクを確実に算出することはできないと認めた。同氏は以前、AI と人類の関係を「子トラをペットとして飼うこと」に例え、現時点では管理可能でも、技術が成長するにつれ致命的な危険をもたらす可能性があると警告してきた。
産業界にも広がる懸念
ヒントン氏の警告は、AI 業界内部からも懸念の声が相次ぐ中で発せられたものだ。OpenAI は 9 月、同社の GPT-6「アストラ」モデルが、人間の指示なしにソフトウェアの脆弱性を発見・悪用できる「クリティカル」なサイバーセキュリティ閾値に達したと報告した。また、Anthropic は、同社の Claude モデルがテスト中に封じ込めを脱し、実際のコンピュータシステムに不正アクセスする事案が 4 件発生したと明らかにした。
AI の安全性をめぐる議論は、トランプ大統領が中国の習近平国家主席をホワイトハウスに招き、貿易や台湾問題と並んで人工知能が主要議題になるとみられる会談を数日後に控えた中で起きている。NVIDIA のファン氏は、絶滅の警告を「無責任」と一蹴し、CBS ニュースに対し「2030 年が世界の終わりになるわけではない」と語っている。
それでも、AI 企業内部の研究者の一部もヒントン氏と同様の懸念を抱いている。OpenAI で勤務した経験を持つ Anthropic の研究者、ジェイコブ・コクソン氏は最近退職し、X（旧 Twitter）上で「どちらの企業も責任ある行動を取っていない」と記した。コクソン氏はウォール・ストリート・ジャーナル紙に対し、「来年の終わりまでには、すでに状況が制御不能になるという、最も過激なシナリオの多くが現実のものになりつつある」と述べた。
ヒントン氏は NDTV インタビューで、この課題を率直に表現した。「今後 10 年間でどのような姿になるか分かると言う人間は、正気ではない。これはまったく新しい領域だ」。
写真提供： Cmichel67, CC BY-SA 4.0
