OpenAI опублікувала план політики, який окреслює нові заходи безпеки, які може вжити індустрія штучного інтелекту (ШІ) для запобігання використанню технології для створення матеріалів сексуального насильства над дітьми.
«Сексуальна експлуатація дітей є однією з найнагальніших проблем цифрової епохи», — заявила OpenAI у своєму оголошенні 8 квітня. «ШІ швидко змінює як те, як ця шкода виникає в усій індустрії, так і те, як її можна вирішити масштабно».
З цією метою компанія представила свій план політики, окресливши «практичний шлях вперед для зміцнення американських структур захисту дітей в епоху ШІ».
План відображає та включає відгуки від кількох провідних організацій та експертів у сфері безпеки дітей, включаючи Національний центр пошуку зниклих та експлуатованих дітей (NCMEC), Альянс генеральних прокурорів — некомерційну групу генеральних прокурорів штатів у Сполучених Штатах — та Thorn, некомерційну організацію, присвячену захисту дітей від сексуального насильства, згідно з гігантом ШІ.
«Жодне окреме втручання не може вирішити цю проблему самостійно», — заявила OpenAI. «Ця структура об'єднує юридичні, операційні та технічні підходи для кращої ідентифікації ризиків, прискорення реагування та підтримки підзвітності, водночас забезпечуючи, щоб правоохоронні органи залишалися сильними в міру розвитку технологій».
Цей крок відбувається на тлі зростаючої стурбованості щодо зловживання інструментами ШІ, зокрема функціями генерації зображень, для виробництва відвертих зображень жінок та дітей, включаючи знаменитостей та публічних осіб.
Раніше в січні комунікаційний регулятор Сполученого Королівства, Ofcom, був змушений терміново зв'язатися з X та xAI «щоб зрозуміти, які кроки вони вжили для виконання своїх юридичних обов'язків щодо захисту користувачів у Великобританії», після того як з'явилися повідомлення, що чатбот ШІ Ілона Маска Grok використовувався для створення та поширення відвертих зображень дітей та жінок з їхнім цифрово видаленим одягом.
Подібна стурбованість була висловлена в Європейському Союзі, де орган захисту даних Італії попередив користувачів та постачальників інструментів ШІ про ризики для «основних прав та свобод», які створюють дипфейки ШІ.
Для вирішення таких проблем OpenAI заявила, що має три ключові пріоритети: модернізація законів для боротьби з матеріалами сексуального насильства над дітьми, створеними та зміненими ШІ, покращення звітності та координації постачальників для підтримки більш ефективних розслідувань та впровадження заходів безпеки за дизайном безпосередньо в системи ШІ для запобігання та виявлення зловживань.
«Разом ці кроки дозволяють індустрії вирішувати питання безпеки дітей раніше та більш ефективно», — заявила компанія у своїй заяві від 8 квітня. «Переривання спроб експлуатації раніше, покращення якості сигналів, які надсилаються правоохоронним органам, та зміцнення підзвітності в усій екосистемі, ця структура спрямована на запобігання шкоді до її виникнення та допомогу у забезпеченні швидшого захисту дітей, коли виникають ризики».
OpenAI заявила, що також зобов'язується продовжувати зміцнювати захист для запобігання зловживань своїми системами, а також тісно співпрацювати з партнерами, такими як NCMEC та правоохоронні органи, для покращення виявлення та звітності.
У спільній заяві щодо плану безпеки дітей генеральні прокурори штатів Джефф Джексон (з Північної Кароліни) та Дерек Браун (з Юти), співголови робочої групи ШІ Альянсу генеральних прокурорів, заявили, що вони «вітають цей план як значущий крок до узгодження практик безпеки дітей технологічного сектору з реаліями правозастосування, з якими наші офіси стикаються щодня».
Пара особливо відзначила визнання структурою того, що ефективні заходи захисту генеративного ШІ (GenAI) вимагають багаторівневого захисту — не одного технічного контролю, а комбінації виявлення, механізмів відмови, людського нагляду та постійної адаптації до нових тенденцій зловживань.
«Це відображає те, що ми бачимо на практиці: загроза постійно еволюціонує, і статичні рішення є недостатніми», — заявили генеральні прокурори штатів.
Оголошення OpenAI також вітала Мішель ДеЛаун, президент та генеральний директор NCMEC, яка попередила, що GenAI «прискорює злочин онлайн-сексуальної експлуатації дітей у глибоко тривожних формах — знижуючи бар'єри, збільшуючи масштаб та уможливлюючи нові форми шкоди».
ДеЛаун додала, що вона «заохочена бачити, як компанії, такі як OpenAI, роздумують про те, як ці інструменти можна розробити більш відповідально, з вбудованим захистом з самого початку».
Щоб штучний інтелект (ШІ) працював правильно в рамках закону та процвітав перед обличчям зростаючих викликів, йому потрібно інтегрувати корпоративну систему блокчейн, яка забезпечує якість введення даних та володіння ними — дозволяючи зберігати дані безпечними, водночас гарантуючи незмінність даних. Ознайомтеся з матеріалами CoinGeek про цю нову технологію, щоб дізнатися більше, чому корпоративний блокчейн стане основою ШІ.
Дивіться: Демонстрація потенціалу злиття блокчейну з ШІ
Джерело: https://coingeek.com/openai-blueprint-targets-ai-enabled-child-exploitation/
