A OpenAI publicou um plano de políticas que descreve novas medidas de segurança que a indústria de inteligência artificial (IA) pode adotar para prevenir o uso da tecnologia na criação de material de abuso sexual infantil.
"A exploração sexual infantil é um dos desafios mais urgentes da era digital", disse a OpenAI no seu anúncio de 8 de abril. "A IA está a mudar rapidamente tanto a forma como estes danos surgem na indústria como a forma como podem ser abordados em escala."
Com isto em mente, a empresa revelou o seu plano de políticas, delineando "um caminho prático para fortalecer as estruturas de proteção infantil dos EUA na era da IA."
O plano reflete e incorpora feedback de várias organizações líderes e especialistas em todo o ecossistema de segurança infantil, incluindo o National Center for Missing & Exploited Children (NCMEC), a Attorney General Alliance—um grupo sem fins lucrativos de procuradores-gerais estaduais nos Estados Unidos—e a Thorn, uma organização sem fins lucrativos dedicada à defesa de crianças contra o abuso sexual, de acordo com o gigante da IA.
"Nenhuma intervenção isolada pode resolver este desafio sozinha", disse a OpenAI. "Esta estrutura reúne abordagens jurídicas, operacionais e técnicas para melhor identificar riscos, acelerar respostas e apoiar a responsabilização, garantindo ao mesmo tempo que as autoridades de fiscalização permaneçam fortes à medida que a tecnologia evolui."
A medida surge num momento em que aumentam as preocupações em torno do abuso de ferramentas de IA, particularmente funções de geração de imagens, para produzir imagens explícitas de mulheres e crianças, incluindo celebridades e figuras públicas.
No início de janeiro, o regulador de comunicações do Reino Unido, a Ofcom, foi obrigada a fazer contacto urgente com a X e a xAI "para compreender que medidas tomaram para cumprir os seus deveres legais de proteger os utilizadores no Reino Unido", depois de surgirem relatos de que o chatbot de IA de Elon Musk, o Grok, estava a ser usado para criar e disseminar imagens explícitas de crianças e mulheres com as suas roupas removidas digitalmente.
Preocupações semelhantes foram expressas na União Europeia, com a autoridade de proteção de dados de Itália a alertar utilizadores e fornecedores de ferramentas de IA sobre os riscos aos "direitos e liberdades fundamentais" colocados pelos deepfakes de IA.
Para abordar tais preocupações, a OpenAI disse que tinha três prioridades principais: modernizar leis para combater material de abuso sexual infantil gerado e alterado por IA, melhorar o reporte e coordenação dos fornecedores para apoiar investigações mais eficazes, e construir medidas de segurança por design diretamente nos sistemas de IA para prevenir e detetar uso indevido.
"Juntos, estes passos permitem à indústria abordar a segurança infantil mais cedo e de forma mais eficaz", disse a empresa na sua declaração de 8 de abril. "Ao interromper tentativas de exploração mais cedo, melhorar a qualidade dos sinais enviados às autoridades policiais e fortalecer a responsabilização em todo o ecossistema, esta estrutura visa prevenir danos antes que aconteçam e ajudar a garantir proteção mais rápida para crianças quando os riscos surgem."
A OpenAI disse que também está comprometida em continuar a fortalecer salvaguardas para prevenir o uso indevido dos seus sistemas, bem como trabalhar em estreita colaboração com parceiros como o NCMEC e as autoridades policiais para melhorar a deteção e o reporte.
Numa declaração conjunta sobre o plano de segurança infantil, os Procuradores-Gerais Estaduais Jeff Jackson (da Carolina do Norte) e Derek Brown (do Utah), Copresidentes da Força-Tarefa de IA da Attorney General Alliance, disseram que "acolhem este plano como um passo significativo para alinhar as práticas de segurança infantil do setor tecnológico com as realidades de fiscalização que os nossos gabinetes enfrentam todos os dias."
A dupla destacou particularmente o reconhecimento da estrutura de que salvaguardas eficazes de IA generativa (GenAI) requerem defesas em camadas—não um único controlo técnico, mas uma combinação de deteção, mecanismos de recusa, supervisão humana e adaptação contínua às tendências emergentes de uso indevido.
"Isto reflete o que vemos na prática: a ameaça evolui constantemente e soluções estáticas são insuficientes", disseram os procuradores-gerais estaduais.
O anúncio da OpenAI também foi acolhido por Michelle DeLaune, Presidente e CEO do NCMEC, que alertou que a GenAI estava "a acelerar o crime de exploração sexual infantil online de formas profundamente preocupantes — reduzindo barreiras, aumentando a escala e permitindo novas formas de dano."
DeLaune acrescentou que estava "encorajada ao ver empresas como a OpenAI refletirem sobre como estas ferramentas podem ser concebidas de forma mais responsável, com salvaguardas incorporadas desde o início."
Para que a inteligência artificial (IA) funcione corretamente dentro da lei e prospere face aos desafios crescentes, precisa de integrar um sistema de blockchain empresarial que garanta a qualidade e propriedade dos dados de entrada—permitindo manter os dados seguros enquanto também garante a imutabilidade dos dados. Consulte a cobertura da CoinGeek sobre esta tecnologia emergente para saber mais sobre porque é que a blockchain empresarial será a espinha dorsal da IA.
Veja: Demonstrando o potencial da fusão da blockchain com a IA
Fonte: https://coingeek.com/openai-blueprint-targets-ai-enabled-child-exploitation/
