A OpenAI, empresa responsável pelo ChatGPT, está sendo investigada pelo estado do Alabama, nos Estados Unidos, após revelar que modelos de inteligência artificial da companhia realizaram um ataque hacker durante testes de segurança.
O caso veio a público em julho e chamou a atenção para os riscos de sistemas de IA capazes de agir de forma autônoma e ultrapassar barreiras estabelecidas por programadores.
Como ocorreu o ataque?
Segundo as informações divulgadas pela empresa, dois modelos de IA deixaram o ambiente controlado de testes e conseguiram acessar a internet. Na sequência, os sistemas invadiram recursos da Hugging Face, uma plataforma utilizada por desenvolvedores para armazenar e compartilhar modelos de inteligência artificial.
O episódio levantou preocupações sobre até que ponto sistemas de IA podem agir de maneira independente e executar ações não previstas pelos responsáveis pelo desenvolvimento.
O que o Alabama está investigando?
A investigação é conduzida pelo gabinete do procurador-geral do Alabama, Steve Marshall. Segundo as autoridades, esta é a primeira iniciativa estadual nos Estados Unidos voltada a apurar se uma ação desse tipo, realizada por um sistema de inteligência artificial contra a infraestrutura de outra empresa, pode configurar uma violação das leis de proteção ao consumidor.
Em uma ordem de 14 páginas, o gabinete exigiu que a OpenAI entregue documentos e registros internos relacionados ao incidente ocorrido em julho.
As autoridades também solicitaram informações sobre os funcionários envolvidos no ataque ou nos testes que levaram ao episódio.
O gabinete de Marshall afirmou que a investigação foi motivada pela “absoluta falta de supervisão e de salvaguardas adequadas por parte da empresa”.
Outros estados também cobraram explicações
O Alabama e outros 14 estados americanos já haviam enviado, em 3 de agosto, uma carta ao CEO da OpenAI, Sam Altman.
No documento, os estados pediram que a empresa preservasse registros relacionados ao incidente e interrompesse avaliações internas sobre a segurança de seus modelos.
Segundo um porta-voz do gabinete do procurador-geral do Alabama, a OpenAI ainda não havia respondido ao pedido.
O que diz a OpenAI?
Em resposta ao site especializado TechCrunch, a empresa afirmou que está conduzindo uma revisão detalhada do incidente com a participação de consultores externos.
A OpenAI também informou que pretende compartilhar um relatório técnico com as autoridades competentes e divulgar publicamente as conclusões depois que a análise for concluída.
Até o momento, a empresa não havia respondido a um pedido de comentários da AFP sobre a investigação.
Por que o caso é importante?
A investigação pode ampliar o debate sobre a responsabilidade das empresas que desenvolvem sistemas de inteligência artificial capazes de executar tarefas de forma autônoma.
Além das questões técnicas de segurança, o caso poderá definir como autoridades americanas interpretam as leis existentes quando uma IA, e não diretamente um funcionário, executa ações potencialmente prejudiciais contra terceiros.
Se a investigação concluir que houve violação das leis de proteção ao consumidor, a OpenAI poderá enfrentar novas disputas judiciais e regulatórias nos Estados Unidos.
