スティーブン・アーモンド、ICO：ジェネレーティブAIを採用する際にはプライバシーを優先しましょう

情報コミッショナーの事務所（ICO）は、ジェネレーティブAI技術を採用する際にプライバシーの考慮を優先するよう企業に促しています。
新たな調査によると、ジェネレーティブAIは次の10年で1兆ポンドの市場になる可能性があり、企業や社会に重要な利益をもたらすとされています。しかし、ICOは関連するプライバシーのリスクについて企業が認識する必要性を強調しています。
ICOの規制リスク担当エグゼクティブディレクターであるスティーブン・アーモンド氏は、ジェネレーティブAIがもたらす機会を認識する一方で、潜在的なリスクを理解することの重要性を強調しました。
アーモンド氏は「企業が顧客のためにより良いサービスを提供したり、サービスのコストを削減するためにジェネレーティブAIの機会を見るのは正しいです。しかし、プライバシーのリスクを見落としてはいけません」と述べています。
ジェネレーティブAIは、個人情報を含む公にアクセス可能な情報源からの広範なデータ収集に基づいてコンテンツを生成する仕組みです。既存の法律は、プライバシーを含む個人の権利を保護しており、これらの規制はジェネレーティブAIなどの新興技術にも適用されます。
ICOは4月に、個人データを処理するジェネレーティブAIを使用または開発する組織が自身に問いかけるべき8つの重要な質問を示しました。この規制機関は、データ保護法に違反する組織に対して行動を起こすことを約束しています。
アーモンド氏はICOの立場を再確認し、ジェネレーティブAIの導入前に企業がプライバシーのリスクを効果的に対処しているかどうかを評価し、個人データの誤用による損害の可能性がある場合には行動を起こすと述べています。彼は、ジェネレーティブAIの導入中に個人の権利と自由へのリスクを見落としてはならないと強調しています。
アーモンド氏は「ジェネレーティブAIを導入する前に、企業がその文脈で発生するリスクにどのように対処したかを示してもらう必要があります。たとえ基盤となる技術が同じであっても、映画館の顧客を支援するAIバックドチャット機能と、性的健康クリニックのためのそれは異なる質問を提起します」と説明しています。
ICOは、プライバシーを優先する新技術の開発と採用を支援することを約束しています。
最近更新された「AIとデータ保護に関するガイダンス」は、ジェネレーティブAIの開発者やユーザーにとって包括的なリソースとなり、データ保護のコンプライアンスのための道筋を提供しています。さらに、ICOはジェネレーティブAIに関連するデータ保護リスクの特定と軽減を支援するリスクツールキットを提供しています。
新たなデータ保護の課題に直面するイノベーターに対して、ICOは規制サンドボックスとイノベーションアドバイスサービスを通じてアドバイスを提供しています。サポートを強化するため、ICOはデジタル規制協力フォーラムとの協力でマルチエージェンシーアドバイスサービスのパイロットを実施し、デジタルイノベーターに対して複数の規制機関から包括的なガイダンスを提供することを目指しています。
ジェネレーティブAIは企業にとって大きな機会を提供しますが、ICOは広範な採用前にプライバシーのリスクに対処する必要性を強調しています。企業は影響を理解し、リスクを軽減し、データ保護法を遵守することで、ジェネレーティブAI技術の責任ある倫理的な実装を確保することができます。