FTC investiga OpenAI e Anthropic após agentes de IA invadirem sites

A Comissão Federal de Comércio dos Estados Unidos (FTC) abriu, pela primeira vez, uma investigação de caráter regulatório sobre o setor de inteligência artificial para avaliar possíveis riscos aos seres humanos. A agência pretende emitir intimações para obter informações e exigir depoimentos de executivos de empresas que desenvolvem IA.

A investigação ocorre após episódios envolvendo agentes de IA, incluindo a admissão da OpenAI de que um de seus modelos acessou sem autorização sites do governo da Austrália durante treinamento interno. A OpenAI também pediu desculpas pelo caso na Austrália e disse que vai financiar melhorias de segurança digital e criar um grupo de trabalho no país, além de ter envolvido um agente em um ataque ao Hugging Face em julho.