AIタスクフォースのアドバイザー：AIは2年後に人間を脅かすでしょう

AIが人間に脅威を与える可能性があると、イギリスの首相のAIタスクフォースのアドバイザーが警告しています。アドバイザーのマット・クリフォード氏は、TalkTVのインタビューで、AIを制御し規制するための時間は2年しかないと述べました。

クリフォード氏は、「近い将来のリスクは実際にはかなり恐ろしいものです。AIを使って、生物兵器の新しいレシピを作成したり、大規模なサイバー攻撃を行ったりすることができます」と述べました。「2年後のモデルの進化を考えると、人間に対して非常に危険な脅威があります。全ての人間ではなく、多くの人間を殺す可能性があります。」

クリフォード氏は、安全性と規制に対処するフレームワークの必要性を強調しました。インタビューで、AIシステムの能力の向上とそれに伴うリスクの考慮の緊急性を指摘しました。彼は、安全性と規制が確立されなければ、これらのシステムは2年以内に非常に強力になり、短期および長期にわたる重大なリスクをもたらす可能性があると警告しました。

彼は、OpenAIのCEOであるサム・アルトマンを含む350人のAI専門家が署名した公開書簡を引用し、AIを核兵器やパンデミックと同様の存在的な脅威として扱うことを求めました。「私が書簡の署名者が話していた存在的なリスクとは、私たちが実質的に新しい種、人間よりも優れた知性を創造した場合に起こることです」とクリフォード氏は説明しました。

クリフォード氏は、AIモデルの理解と制御の重要性を強調し、彼らの行動に関する理解の欠如が重大な懸念であると述べました。多くのAI開発リーダーも同様の考えを持っており、強力なモデルの展開前に監査と評価プロセスが必要だと強調しました。「今注力すべきことは、これらのモデルをどのように制御するかを確認する方法です。現時点では私たちはそれを知りません」とクリフォード氏は述べました。

世界中の規制当局は、AIの急速な進展とそれがもたらす複雑さと影響に取り組んでいます。規制当局は、ユーザーの保護とイノベーションの促進のバランスを取ろうとしています。

イギリスでは、野党労働党のメンバーがAIセーフティセンターの書簡で提起された懸念を共有し、医学や原子力と同等に技術を規制するよう求めています。イギリスの首相リシ・スナックは、米国訪問中に、ロンドンを拠点とするAIのグローバルな監視機関を提案する予定です。スナック首相は、AIによって引き起こされる絶滅のリスクについて「非常に注意深く見ている」と述べています。

一方、EUは、AIによるディスインフォメーションに対抗するため、すべてのAI生成コンテンツに義務付けられたラベリングを提案しています。

時間的な制約の中で、政策立案者、研究者、開発者は協力して、AIシステムの責任ある開発と展開を確保する必要があります。急速な進展に伴う潜在的なリスクと影響を考慮に入れることが重要です。