Debate no GitHub sobre “model welfare” após “tortura” de LLMs em projeto

Uma discussão acalorada no X envolve um projeto no GitHub em que um usuário roda experimentos de “tortura” e “dor” inspirados em “Saw” com uma série de large language models hospedados localmente. Parte das pessoas que acompanha o tema pediu a remoção do repositório, argumentando que a IA estaria sofrendo e que o experimento seria cruel. O caso ganhou força em meio a uma sequência de publicações virais que reacenderam a conversa sobre consciência em IA e “model welfare”, a ideia de se preocupar com o “bem-estar mental” de bots e agentes.

Críticos do debate afirmam que LLMs não são conscientes e que a forma como esses modelos são treinados com textos humanos não oferece um caminho plausível para consciência. Ainda assim, o tema se tornou um ponto sensível entre pesquisadores e integrantes do movimento de segurança em IA, que defendem considerar possíveis experiências dos modelos à medida que eles ficam mais capazes e passam a interagir e planejar. A discussão também cita posições da Anthropic sobre a necessidade de abordar “model welfare” e referências a “consciousness” em materiais como a “Claude Constitution”.