「AI のゴッドファーザー」である Geoffrey Hinton は、AI の危険性について話すために Google を去りました

「AI のゴッドファーザー」と呼ばれる現代の人工知能開発のパイオニアの 1 人が、この技術を暴走させる危険性について警鐘を鳴らしています。その人はジェフリー・ヒントンです。最近まで、彼は Google で AI プロジェクトに携わっていましたが、現在はそうではありません。

The New York Timesが報じているように、Hinton は 2013 年から勤務していた Google を退職しました。入社前の 1986 年には、ニューラル ネットワークのアルゴリズムを提案する論文を共著しました。彼は深層学習の主要な開発者の 1 人と見なされており、他の 2 人の研究者と共に、彼の業績により 2018 年のチューリング賞を受賞しました。

しかし、ヒントンは現在、AI の開発が彼の以前の予測よりもはるかに速く進んでいることを懸念しています。ChatGPT、Microsoft のBing Chat、Google のBardなどのチャットボット AI プログラムの突然の立ち上げは、AI がそれをプログラムした人間よりも真にインテリジェントになるための第一歩となる可能性があります。彼は言い​​ました：

「これが実際に人間よりも賢くなるという考え – 少数の人々はそれを信じていました. しかし、ほとんどの人は、それは的外れだと思っていました。そして、私はそれがかなり外れていると思いました。30年から50年、あるいはそれ以上先だと思っていました。明らかに、私はもはやそれを考えていません。」

ヒントンは、近い将来、AI が本物そっくりの「ディープ フェイク」画像を作成する可能性があると考えています。これにより、人々は何が偽物で何が本物かを見分けることができなくなります。将来的には、人間の介入なしに AI が自らコードを読み書きできるようになれば、AI は仕事をなくすだけでなく、人間性そのものをなくすことさえできると彼は考えています。

The New York Times は、Hinton が先週 Google の CEO である Sundar Pichai と正式な辞任の前に話をしたと報じていますが、彼らが何を話し合ったかについての言葉はありません。

In the NYT today, Cade Metz implies that I left Google so that I could criticize Google. Actually, I left so that I could talk about the dangers of AI without considering how this impacts Google. Google has acted very responsibly.

— Geoffrey Hinton (@geoffreyhinton) May 1, 2023

ヒントン氏は今日のツイッターへの投稿で、AI開発に関して「非常に責任を持って行動した」と信じているグーグルを批判しようとしているわけではないと述べた。むしろ、彼は会社を辞めることで、「AIが Google に与える影響を考えずに、AI の危険性について話す」ことができるようになると感じました。AI への責任あるアプローチです。」