AIは文明になるかもしれないと論文が主張

宇宙人がそこにいるなら、なぜ彼らはまだ私たちに連絡を取らないのですか？ 新しい論文は、彼ら、あるいは将来的には私たちも、より優れた存在を創造しようとする私たち自身の衝動の犠牲者であり、超強力な人工知能によって必然的に抹殺されるのかもしれない、と主張している。

このフェルミのパラドックスに対する潜在的な答えは、物理学者エンリコ フェルミとその後の世代が「みんなはどこにいるのか?」という質問を提起するというものです。 —国家情報大学の研究者マーク・M・ベイリー氏によるもので、彼はまだ査読されていない新しい論文の中で、高度なAIはまさに文明全体を滅ぼす可能性のある壊滅的なリスクである可能性があると主張している。

ベイリー氏は、潜在的な「グレート・フィルター」として超人的なAIを挙げており、これは、人為的であれ自然であれ、恐るべき未知の脅威が知的生命体を他の生命体と接触する前に絶滅させるというフェルミ・パラドックスへの潜在的な答えである。

「世界的な破滅的リスクに懸念を抱いている人にとって、厳粛な疑問が1つ残っている」とベイリー氏は書いている。 「グレートフィルターは私たちの過去にあるのでしょうか、それともまだ克服しなければならない課題なのでしょうか？」

研究者によれば、私たち人間は「長期的なリスクを直感的に見積もるのが苦手」であり、AI、そしてその潜在的なエンドポイントである汎用人工知能 (AGI) に関してすでに多くの警告が出されていることを考慮すると、次のような可能性があると同氏は主張する。私たちは自らの終焉を招いているのかもしれない。

「AIの問題を検討する1つの方法は、2番目の種の議論のレンズを通してである」と論文は続けている。 「この考えは、高度なAIが、私たちが必然的にこの地球を共有する第二の知的種として効果的に行動する可能性を考慮しています。前回このことが起こったとき、つまり現生人類とネアンデルタール人が共存していたときの状況を考えると、潜在的な結果は厳しいものになります。」

さらに恐ろしいのは、AGI が人間の知能を超える、神のような人工超知能 (ASI) の可能性だ、とベイリー氏は指摘します。なぜなら、「自身のコードを改善できる AI は、そうする動機を持っている可能性が高いからです。」

「このシナリオでは、人類は地球上の支配的な知的種としての地位を手放すことになり、潜在的に悲惨な結果を招くことになるだろう」と著者は仮説を立てている。 「ネアンデルタール人のように、私たちの未来、さらには存在そのものに対する私たちのコントロールは、より知的な競争相手の登場によって終わるかもしれない。」

もちろん、地球外 AI が異星文明の自然生命を絶滅させたことを示唆する直接的な証拠はまだないが、ベイリー氏の見解では、「既存の生物学的知性の証拠が同時に存在しない地球外人工知能の発見は、必ず針を動かします。」

もちろん、その可能性は、創造者を排除した後、宇宙のあちこちに破壊的なAIが残っている可能性を高めます。 そのためにベイリー氏は、「競争力のある地球外 AI は、地球を含む他の場所に資源を求める傾向があるかもしれない」ため、「そのような地球外 AI に検出可能な方法で私たちの存在を積極的に知らせることは、私たちの最大の利益ではないかもしれない」と有益に示唆しています。

「SFのように見えるかもしれないが、おそらくAIのような制御不能のテクノロジーが、地球にとって有機的なものであろうと、地球外起源のものであろうと、グレートフィルターの候補となる可能性が高い」とベイリー氏は結論付けた。 「私たちは自問しなければなりません。この可能性にどう備えるべきでしょうか?」

読者の皆さん、これは奇妙なものですが、もう一度、誰かがそれを検討してくれることを嬉しく思います。

AI の黙示録についてさらに詳しく:ウォーレン・バフェット氏、AIを原爆に喩える