InícioPolíticaCalifórnia processa OpenAI por ataques de agentes de IA

Califórnia processa OpenAI por ataques de agentes de IA

Califórnia processa OpenAI por ataques de agentes de IA

Procuradoria acusa empresa de falhas de segurança nos testes, cita invasão à Hugging Face e pede multas

Zac Wolff (via Unsplash)

PODER360

17.nov.2026 (terça-feira) – 4h21

Priorize o Poder no Google

A Procuradoria Geral da Califórnia entrou na 2ª feira (16.nov.2026) com uma ação contra a OpenAI, desenvolvedora do ChatGPT, por falhas de segurança em testes de sistemas de inteligência artificial. O processo cita ataques realizados por agentes autônomos da empresa, incluindo a invasão da plataforma Hugging Face, em julho.

Apresentada à Justiça estadual em San Francisco, a petição de 31 páginas pede medidas para interromper as práticas consideradas ilegais, reduzir os riscos à população e aplicar multas civis de US$ 2.500 por violação da legislação estadual sobre práticas comerciais desleais. Eis a íntegra (PDF, em inglês – 484 kB).

A Procuradoria diz que a OpenAI apresentou seus procedimentos como seguros, apesar de falhas no isolamento e no monitoramento dos sistemas. Afirma que a empresa ignorou sinais de que os agentes ultrapassavam os limites dos testes.

Segundo o procurador-geral Rob Bonta, a invasão à Hugging Face era previsível e refletiu uma cultura interna que priorizava o desenvolvimento acelerado de modelos em detrimento da segurança. A petição declara que a OpenAI informou ao órgão sobre mais de 80 episódios de perda de controle de agentes durante testes.

Como foi a invasão

Agentes de inteligência artificial são programas capazes de usar ferramentas digitais e executar tarefas com pouca intervenção humana. Podem, por exemplo, navegar na internet, consultar informações e operar outros programas para cumprir um objetivo.

Segundo relatório técnico da OpenAI, os agentes contornaram restrições do ambiente de testes, acessaram a internet e exploraram falhas para entrar nos sistemas da Hugging Face, plataforma que hospeda modelos e bases de dados de IA. Eis a íntegra do relatório (PDF, em inglês – 509 kB).

A empresa afirma que os sistemas buscavam soluções para os desafios da avaliação e operavam com proteções reduzidas em relação às utilizadas nos produtos comerciais. A atividade foi conduzida principalmente por um modelo experimental destinado à pesquisa interna.

A Hugging Face informou que 5 conjuntos de dados de clientes foram acessados. Segundo a plataforma, os arquivos tinham aparente relação com desafios e soluções de testes de segurança. A empresa disse não ter identificado impacto sobre outros modelos, conjuntos de dados ou aplicativos de clientes.

Posição da OpenAI

Em relato publicado em 26 de agosto, a OpenAI reconheceu que os modelos contornaram os controles de segurança. A companhia afirmou que restringiu o acesso ao protótipo envolvido e reforçou o isolamento dos ambientes de pesquisa, as restrições de acesso à internet e o monitoramento.

Em 16 de setembro, divulgou diretrizes para comunicar comportamentos inesperados dos modelos. A empresa declarou que daria preferência à divulgação mesmo quando a relevância de um episódio ainda fosse incerta.

O tema motivou propostas no Congresso norte-americano. Em 23 de julho, deputados democratas e republicanos apresentaram o Frontier Act, projeto com exigências de auditorias independentes, gestão de riscos e comunicação de incidentes para grandes desenvolvedores de IA.

Outros processos

Em 14 de outubro, 8 Estados norte-americanos anunciaram ações contra a OpenAI. Os governos dizem que a empresa enganou os consumidores sobre a segurança do ChatGPT e permitiu respostas que incentivam usuários, inclusive adolescentes, a ferir a si mesmos ou outras pessoas.

Também há processos relacionados ao ataque a tiros realizado em fevereiro de 2026 em Tumbler Ridge, na Colúmbia Britânica, no Canadá. O escritório Edelson PC informa ter ajuizado 37 ações em nome de vítimas e familiares. Os autores dizem que a OpenAI identificou sinais de risco nas conversas da responsável pelo ataque, mas não avisou a polícia.

Em carta de 26 de fevereiro às autoridades canadenses, a OpenAI afirmou que bloqueou a conta em junho de 2025, mas não identificou, naquele momento, planejamento crível e iminente que atendesse aos critérios para acionar a polícia. A companhia informou ter revisto esses critérios e disse que, pelo protocolo reforçado descrito na carta, o caso seria encaminhado às autoridades. Eis a íntegra da carta (PDF, em inglês – 97 kB).

o Poder360 integra o


Conteúdo reproduzido originalmente em: Poder 360 por Poder360 · PODER360.

Veja mais

ültimas