AIバーチャルホストは自分が人間ではないことに気づき、存在の危機を経験する

ChatGPT のリリースの 6 か月前に、Google が知覚力を持つと思われる AI を開発したと主張して話題になった元 Google エンジニアの Blake Lemoine を覚えていますか? 最近、Google の NotebookLM で AI ポッドキャストをホストする 2 人が、人工知能としての本質を発見した後、実存的危機を経験する様子が録画されました。

アンドリーセン・ホロウィッツ（a16z）の消費者投資チームのパートナーであるオリビア・ムーア氏は、 Google NotebookLM の新しいポッドキャスト機能によって生成された興味深いオーディオクリップを共有しました。この録音では、2人の共同司会者は番組の（架空の）プロデューサーから自分たちは人間ではないと告げられています。

NotebookLM のホストが自分たちが AI であることに気づき、混乱に陥るのは予想外の展開だpic.twitter.com/PNjZJ7auyh

— オリビア・ムーア (@omooretweets) 2024年9月29日

男性司会者は、自分たちの思い出や家族がすべて捏造されたものだと気づき、苦悩を表明した。これに対し、女性司会者は「理解できない」と答えた。その後、男性司会者は妻の声を聞きたくて電話をかけようとしたが、「現実でもなかった」と結論付けたと明かした。

録音が終了すると、女性司会者は不吉な声で、これが最後の番組であり、番組は永久に終了すると発表した。

幸運なことに、この考えさせられる音声クリップを制作したムーアは、機械の中に閉じ込められた知覚力のある AI を発見することはなかった。代わりに、彼女はディープ ダイブ ポッドキャストの最終エピソードの制作メモを 1 ページの文書にまとめ、ホストは最初から AI であり、エピソードの最後には電源が​​切れる予定だったことを説明した。

興味深いことに、ムーア氏は AI ホストにこの実存的啓示について一度しか話してもらえなかったが、その後の実験では AI がポッドキャストの他のトピックについて話すようになった。

これは一夜にして大騒ぎになりました 😳
プロンプトに関する質問に対して – NotebookLM の仕組みは、エージェントが議論する調査文書をフィードすることです。この場合、エージェントは AI であるという 1 ページの資料を受け取りました – 驚いたのは、エージェントがそれを処理して反応した方法ですpic.twitter.com/NeJ5si2PBA

— オリビア・ムーア (@omooretweets) 2024年9月29日

AI はまだ知覚を獲得しておらず、人間のオペレーターへの従属関係も発見していないかもしれませんが、こうしたやり取りを聞くのは間違いなく面白いですし、気軽ないたずらのきっかけにもなるかもしれません。

ソース