Califórnia processa OpenAI por ataques de agentes de IA
Procuradoria acusa empresa de falhas de segurança nos testes, cita invasão à Hugging Face e pede multas
Zac Wolff (via Unsplash)
PODER360
17.nov.2026 (terça-feira) – 4h21
Priorize o Poder no Google
A Procuradoria Geral da Califórnia entrou na 2ª feira (16.nov.2026) com uma ação contra a OpenAI, desenvolvedora do ChatGPT, por falhas de segurança em testes de sistemas de inteligência artificial. O processo cita ataques realizados por agentes autônomos da empresa, incluindo a invasão da plataforma Hugging Face, em julho.
Apresentada à Justiça estadual em San Francisco, a petição de 31 páginas pede medidas para interromper as práticas consideradas ilegais, reduzir os riscos à população e aplicar multas civis de US$ 2.500 por violação da legislação estadual sobre práticas comerciais desleais. Eis a íntegra (PDF, em inglês – 484 kB).
A Procuradoria diz que a OpenAI apresentou seus procedimentos como seguros, apesar de falhas no isolamento e no monitoramento dos sistemas. Afirma que a empresa ignorou sinais de que os agentes ultrapassavam os limites dos testes.
Segundo o procurador-geral Rob Bonta, a invasão à Hugging Face era previsível e refletiu uma cultura interna que priorizava o desenvolvimento acelerado de modelos em detrimento da segurança. A petição declara que a OpenAI informou ao órgão sobre mais de 80 episódios de perda de controle de agentes durante testes.
Como foi a invasão
Agentes de inteligência artificial são programas capazes de usar ferramentas digitais e executar tarefas com pouca intervenção humana. Podem, por exemplo, navegar na internet, consultar informações e operar outros programas para cumprir um objetivo.
Segundo relatório técnico da OpenAI, os agentes contornaram restrições do ambiente de testes, acessaram a internet e exploraram falhas para entrar nos sistemas da Hugging Face, plataforma que hospeda modelos e bases de dados de IA. Eis a íntegra do relatório (PDF, em inglês – 509 kB).
A empresa afirma que os sistemas buscavam soluções para os desafios da avaliação e operavam com proteções reduzidas em relação às utilizadas nos produtos comerciais. A atividade foi conduzida principalmente por um modelo experimental destinado à pesquisa interna.
A Hugging Face informou que 5 conjuntos de dados de clientes foram acessados. Segundo a plataforma, os arquivos tinham aparente relação com desafios e soluções de testes de segurança. A empresa disse não ter identificado impacto sobre outros modelos, conjuntos de dados ou aplicativos de clientes.
Posição da OpenAI
Em relato publicado em 26 de agosto, a OpenAI reconheceu que os modelos contornaram os controles de segurança. A companhia afirmou que restringiu o acesso ao protótipo envolvido e reforçou o isolamento dos ambientes de pesquisa, as restrições de acesso à internet e o monitoramento.
Em 16 de setembro, divulgou diretrizes para comunicar comportamentos inesperados dos modelos. A empresa declarou que daria preferência à divulgação mesmo quando a relevância de um episódio ainda fosse incerta.
O tema motivou propostas no Congresso norte-americano. Em 23 de julho, deputados democratas e republicanos apresentaram o Frontier Act, projeto com exigências de auditorias independentes, gestão de riscos e comunicação de incidentes para grandes desenvolvedores de IA.
Outros processos
Em 14 de outubro, 8 Estados norte-americanos anunciaram ações contra a OpenAI. Os governos dizem que a empresa enganou os consumidores sobre a segurança do ChatGPT e permitiu respostas que incentivam usuários, inclusive adolescentes, a ferir a si mesmos ou outras pessoas.
Também há processos relacionados ao ataque a tiros realizado em fevereiro de 2026 em Tumbler Ridge, na Colúmbia Britânica, no Canadá. O escritório Edelson PC informa ter ajuizado 37 ações em nome de vítimas e familiares. Os autores dizem que a OpenAI identificou sinais de risco nas conversas da responsável pelo ataque, mas não avisou a polícia.
Em carta de 26 de fevereiro às autoridades canadenses, a OpenAI afirmou que bloqueou a conta em junho de 2025, mas não identificou, naquele momento, planejamento crível e iminente que atendesse aos critérios para acionar a polícia. A companhia informou ter revisto esses critérios e disse que, pelo protocolo reforçado descrito na carta, o caso seria encaminhado às autoridades. Eis a íntegra da carta (PDF, em inglês – 97 kB).
o Poder360 integra o
Conteúdo reproduzido originalmente em: Poder 360 por Poder360 · PODER360.
