「現在のAIへの安全対策は不十分。人類は方向転換が必要だ」と訴えた。

人工知能研究の第一人者、選挙操作や戦闘ロボ開発に警鐘…「AIが人間社会を支配する可能性ある」

2023年12月04日(月)読売新聞オンラインさんの記事です!

www.yomiuri.co.jp

 

【ニューヨーク=小林泰裕】AI(人工知能)研究の第一人者として知られるカナダ・トロント大名誉教授のジェフリー・ヒントン氏(75)が、読売新聞の書面インタビューに応じた。「生成AIが人類の知能を上回り、人間社会を支配する可能性がある」と指摘し、技術の急速な進展に伴うリスクに警鐘を鳴らした。

 

 

リアルな生成AI性的画像が氾濫、実在の被害児童と区別困難 ...

 ヒントン氏は対話型AI「チャットGPT」がすでに人間の脳の数千倍の知識を蓄えられると分析。2020年代か30年代までに生成AIが多くの点で人間の能力を上回る可能性があるとした。「自分たちより知能の高いデジタル的存在が人間社会を乗っ取るという実際の脅威に、今まで経験のない人類はどう対処すべきか分からない」と懸念を示した。

 

 生成AIのもたらす具体的なリスクとして、フェイクニュース(偽情報)を利用した選挙の操作、他国への侵略を容易にする戦闘ロボット開発などを挙げた。

 

偽情報で世論操作 懸念

 

ヒントン氏が特に懸念を示したのが生成AIによる選挙への影響だ。「権威主義的な政府が、個人をターゲットにした偽情報を使って有権者を操作することがはるかに容易になる」と指摘した。

 

 2024年には台湾総統選や米大統領選を控え、偽情報による世論操作が懸念されている。パレスチナ自治区ガザでの紛争でも偽動画が飛び交う。

 

 ヒントン氏は偽情報対策として「通貨のように、偽の画像や動画の作成・所有を違法とする法律があると良い」と指摘。一方で「米国では主要政党の一つが選挙戦を有利に戦うため、偽情報の拡散を(実質的に)容認している」と述べ、懸念を示した。

 

 軍事面のリスクにも言及した。AIを搭載した兵器の開発により「豊かな国が貧しい国を簡単に侵略できるようになる」と説明AIが攻撃目標を自動的に設定して殺傷するシステムが実用化されれば、戦争を制御できなくなり、被害が野放図に拡大する恐れがあると警告した。

 

 また、地震予知や医療などの分野でAIが人類に恩恵をもたらす可能性があるとした一方、人間の仕事が奪われ、雇用の減少などを通じて貧富の格差拡大が起こるとの懸念も示した。ヒントン氏はAIについて、気候変動よりも緊急のリスクを人類にもたらす可能性があるとの立場だ。

 

 リスクを最小限に抑えるため、政府機関などが適切に対処し、世界的な開発競争に歯止めをかける必要があるとも指摘した。「現在のAIへの安全対策は不十分。人類は方向転換が必要だ」と訴えた。

 

Geoffrey Hinton

 

 1947年生まれ。生成AIの基盤となった技術の研究で知られ、「AI界のゴッドファーザー」とも呼ばれる。今年5月、AIの危険性を広く周知するためとして、約10年勤めた米グーグルからの退社を発表した。

 

 

 

いよいよ、『ターミネーター』の世界に成ってきた?!

生成AIによる選挙への影響・AIが攻撃目標を自動的に設定して殺傷...