OpenAIのブループリント、AI を利用した児童搾取を標的に

OpenAIは、人工知能(AI)業界が児童性的虐待素材の作成にこの技術が使用されることを防ぐために講じることができる新たな安全対策を概説した政策青写真を発表しました。

「児童の性的搾取は、デジタル時代における最も緊急の課題の一つです」とOpenAIは4月8日の発表で述べました。「AIは、これらの被害が業界全体でどのように発生し、どのように大規模に対処できるかの両方を急速に変えています。」

これを念頭に置き、同社は政策青写真を公開し、「AI時代における米国の児童保護の枠組みを強化するための実践的な道筋」を概説しました。

このAI大手によると、青写真は、全米行方不明・被搾取児童センター(NCMEC)、米国の州検事総長による非営利団体である検事総長連盟、そして性的虐待から子供を守ることに特化した非営利団体Thornを含む、児童安全エコシステム全体の複数の主要組織と専門家からのフィードバックを反映し、組み込んでいます。

「単一の介入だけでは、この課題に対処することはできません」とOpenAIは述べました。「この枠組みは、リスクをより適切に特定し、対応を加速し、説明責任を支援するために、法的、運用的、技術的アプローチを統合し、技術が進化する中で執行当局が強力であり続けることを保証します。」

この動きは、AIツール、特に画像生成機能の悪用に対する懸念が高まっている中で行われました。著名人や公人を含む女性や子供の露骨な画像を作成するために使用されています。

1月初旬、英国の通信監視機関であるOfcomは、イーロン・マスクのAIチャットボットGrokが子供や女性の衣服をデジタルで削除した露骨な画像を作成・拡散するために使用されているという報告が出た後、「英国のユーザーを保護する法的義務を遵守するためにどのような措置を講じたかを理解する」ためにXとxAIと緊急に連絡を取ることを余儀なくされました。

同様の懸念が欧州連合でも表明され、イタリアのデータ保護当局は、AIディープフェイクがもたらす「基本的権利と自由」へのリスクについて、AIツールのユーザーとプロバイダーに警告しました。

OpenAIは、システムの誤用を防ぐための保護措置を引き続き強化するとともに、NCMECや法執行機関などのパートナーと緊密に協力して検出と報告を改善することにも取り組んでいると述べました。

児童安全青写真に関する共同声明の中で、検事総長連盟AI タスクフォースの共同議長であるジェフ・ジャクソン州検事総長(ノースカロライナ州)とデレク・ブラウン州検事総長(ユタ州)は、「この青写真を、技術セクターの児童安全慣行を、我々の事務所が日々直面している執行の現実と整合させるための有意義な一歩として歓迎します」と述べました。

両氏は特に、効果的な生成AI(GenAI)保護措置には多層防御が必要であるという枠組みの認識を強調しました—単一の技術的制御ではなく、検出、拒否メカニズム、人間の監視、そして新たな誤用傾向への継続的な適応の組み合わせです。

「これは、実際に我々が目にしているものを反映しています:脅威は常に進化しており、静的な解決策では不十分です」と州検事総長らは述べました。

OpenAIの発表は、NCMECの社長兼CEOであるミシェル・デラウンによっても歓迎されました。彼女は、GenAIが「オンライン児童性的搾取の犯罪を深刻に憂慮すべき方法で加速させている—障壁を下げ、規模を拡大し、新たな形態の被害を可能にしている」と警告しました。

デラウン氏は、「OpenAIのような企業が、これらのツールをどのようにより責任を持って設計できるか、最初から保護措置を組み込むことについて考えているのを見ることに勇気づけられています」と付け加えました。

人工知能(AI)が法律の範囲内で適切に機能し、増大する課題に直面しながら繁栄するためには、データ入力の品質と所有権を保証するエンタープライズブロックチェーンシステムを統合する必要があります—データを安全に保ちながら、データの不変性を保証します。エンタープライズブロックチェーンがAIのバックボーンになる理由について詳しく知るために、この新興技術に関するCoinGeekの記事をチェックしてください。

視聴:ブロックチェーンとAIの融合の可能性を実証