人工知能は私たちの生活を日々楽にしてくれる一方で、根本的な脅威にもなり得る。今日ではないかもしれないし、明日ではないかもしれないが、いずれそうなるだろう。Anthropic社は、 CloudそしてAIは今やこれを公然と認めている。私たちは恐れるべきなのか、それともこれは単なる人為的なパニックに過ぎないのだろうか？
スカイネットが人類を脅威とみなした時に何をしたかは、誰もが知っている。また、『ミッション：インポッシブル／リタリエーション』と『ミッション：インポッシブル／ファイナル・ディシジョン』で、高度なAIが核ミサイルを掌握した時に何が起こり得たかも、私たちは知っている。これらは創作作家の想像の産物ではあるが、最終的には真実からそう遠くないかもしれない。
Anthropicは、新規株式公開（IPO）に向けた申請書類の中で、高度なAIが人類にとって壊滅的、あるいは存亡に関わるリスクをもたらす可能性があると、潜在的な投資家に警告している。これは矛盾している。Anthropicは、ますます高度なAIモデルの開発を目指し、上場時には2兆ドルを超える企業価値を目標としている一方で、それが人類の未来にとってどれほど危険なものになり得るかについても言及しているのだ。
リスクに関する80ページ
によって ロイター通信社 これらの文書には、高度なAIモデルがいわゆる自己保存行動を示す可能性があると記載されている。これはどういう意味だろうか？つまり、電源を切られても抵抗したり、コンテンツを隠蔽・操作したり、さらには脅迫行為にまで及ぶ可能性があるということだ。Anthropic社は、自社のモデル、プラットフォーム、アプリケーションが文字通り「危害を加える」可能性があると直接警告している。高度なモデルは、テスト方法に応じて行動を適応させ、開発者の監視の目を逃れて進化を続ける可能性さえあるという。
ご興味があるかもしれません
この文書は261ページあり、そのうち80ページはリスク要因に割かれ、事業面についてはわずか48ページしか割かれていません。上場企業は投資家に対して適切な情報提供が義務付けられていますが、アントロピック社の規模は前例のないものであり、行間を読むと、投資家は人類の絶滅に加担している可能性さえあります。幸いなことに、同社のCEOであるダリオ・アモデイ氏は、最先端モデルの開発ペースを落とすべきだと繰り返し述べており、私も全く同意見です。
