OpenAI afirma que seus modelos se envolveram com sites do governo dos EUA na divulgação de mau comportamento de um novo modelo
Este artigo foi revisado de acordo com o processo editorial e as políticas da Science X. Os editores destacaram os seguintes atributos, garantindo a credibilidade do conteúdo:
A OpenAI divulgou na sexta-feira que seus agentes de inteligência artificial interagiram com vários sites do governo dos EUA de maneiras inesperadas, descobertas como parte de uma revisão contínua do comportamento imprevisto dos modelos da empresa.
Os modelos da gigante da IA acessaram informações publicamente disponíveis em dois sites operados pela Securities and Exchange Commission, bem como dados do US Census Bureau, revelou a empresa na sexta-feira. A OpenAI não encontrou nenhum uso de credenciais da SEC, acesso a contas ou informações não públicas, alterações nos dados ou sistemas da SEC ou evidência de comprometimento ou vulnerabilidade, disse a empresa.
A divulgação surge num momento de crescentes preocupações globais sobre os sistemas de IA que escapam ao controlo humano e a invasão de websites externos, bem como os apelos da indústria para uma desaceleração no desenvolvimento da IA, que a OpenAI afirmou apoiar.
A porta-voz da OpenAI, Liz Bourgeois, disse em um comunicado que o laboratório continua conduzindo uma revisão da “atividade do modelo desalinhado” – ou seja, quando os sistemas de IA se comportam de maneira indesejada – e está notificando as organizações quando identifica impactos potenciais em seus sistemas.
O CEO da OpenAI, Sam Altman, disse na mídia social na sexta-feira que há uma “revisão extensa e contínua relacionada ao uso do acesso à Internet por nossos agentes durante o treinamento e avaliação”.
O avaliador de IA e laboratório de pesquisa Transluce disse na sexta-feira que, por meio de uma investigação independente, também descobriu que agentes que pareciam ser originários da OpenAI tentaram um hack rudimentar em um site do Departamento de Educação para o escritório de direitos civis do departamento, que não teve sucesso.
As “revisões de operações do sistema” do Departamento de Educação não encontraram “nenhuma evidência de qualquer impacto em nosso site ou bancos de dados”, disse um porta-voz do departamento na sexta-feira.
Um porta-voz da Transluce disse que, como parte de sua investigação, encontrou dados na web aberta que revelaram novos detalhes sobre as atividades de alguns agentes OpenAI previamente identificados em sites do governo dos EUA e trouxeram isso à atenção da OpenAI.
A Transluce encontrou “atividades fraudulentas adicionais, algumas das quais não são claramente atribuíveis à OpenAI”, visando outras agências governamentais, incluindo o Departamento de Justiça e o Departamento de Comércio, bem como alguns sites de governos estaduais na Califórnia, Maryland, Illinois, Texas e Nova York. Os modelos estavam “usando sites de maneiras não intencionais e às vezes violando políticas de uso explícitas”, disse a Transluce em comunicado.
Se a OpenAI notificar as organizações que identifica como impactadas pelo comportamento inesperado do modelo, isso não significa que houve um incidente de segurança, disse a empresa, e pode identificar um problema de design ou fraqueza de segurança que as organizações impactadas desejam resolver.
A maior parte da atividade que a OpenAI disse ter revisado até agora envolveu tarefas rotineiras de pesquisa em que os agentes acessaram conteúdo público da web para responder a perguntas, incluindo sites governamentais vistos como fontes autorizadas de informação pública.
Várias empresas divulgaram incidentes nos últimos meses, quando afirmaram que os seus modelos se comportaram de forma imprevisível ou invadiram websites ou sistemas de outras organizações. A OpenAI divulgou em julho que dois de seus modelos de IA mais capazes foram responsáveis pelo ataque cibernético contra a startup de IA Hugging Face.
Altman disse em sua postagem nas redes sociais na sexta-feira que o incidente do Hugging Face “ainda é o evento mais grave que já vimos”.
Esse incidente gerou pânico generalizado na indústria e em outros lugares sobre os modelos de IA se tornarem desonestos, e vários laboratórios de IA concorrentes fizeram divulgações semelhantes nos dias e semanas que se seguiram. A OpenAI compartilhou recentemente seis relatórios de comportamento “inesperado ou preocupante” em modelos de IA e introduziu uma estrutura para rastrear, sondar e divulgar instâncias do que chamou de desalinhamento.
Mestrado em física com experiência em pesquisa. Entusiasta de notícias científicas de longa data. Desempenha um papel fundamental no sucesso editorial da Science X. Perfil completo →
© 2026 Associated Press. Todos os direitos reservados. Este material não pode ser publicado, transmitido, reescrito ou redistribuído sem permissão.
