Titus Winters, no Craft Conference, defendeu que software só tem valor quando é entregue ao cliente e que acelerar o ciclo de releases exige mudar métricas e investimentos entre desenvolvimento, deployment e operações. Ele citou quatro impactos centrais: sucesso do produto, capacidade de computação, capacidade de engenharia e inovação estratégica, destacando que o maior custo costuma ser gente — e não infraestrutura. Com bugs em produção, a empresa assume perdas reais, e corrigir rápido com atualizações bem testadas tende a ser decisivo.
Winters argumentou que, com a IA no ato de programar, a prioridade dos engenheiros deve continuar sendo entender o problema, com guardrails e conhecimento especialista embutidos em sistemas e políticas organizacionais. Ele também propôs construir experimentos com IA usando token costs como proxy do esforço humano e criando um conjunto robusto de evals para agentes de software, com critérios funcionais e de qualidade escondidos do modelo, além de comparar práticas e ferramentas (como testes unitários e indexadores semânticos) via medições empíricas.
A Kilo Code, ferramenta open source de “agentic engineering”, apresentou dados reais de uso para entender como desenvolvedores adotam ferramentas com IA. O fundador de developer relations, Brendan O'Leary, citou o ecossistema do produto, com interfaces no terminal (CLI), extensão para o VS Code e agentes em nuvem, e afirmou que a análise vem do tráfego observado no gateway da empresa.
O executivo disse que a adoção não segue apenas a narrativa de “capacidade” dos modelos, já que benchmarks e melhorias em avaliações humanas nem sempre se traduzem em uso efetivo em fluxos com agentes. Ele também destacou padrões ligados a “trust ladder” (de autocomplete a orquestração de múltiplos agentes) e apontou pontos técnicos onde a adoção tende a falhar, como construção de contexto, roteamento de modelos e loops de feedback.
O brinquedo robótico “Eiliko”, que responde a crianças e adultos via Wi‑Fi e ajusta expressões ao “humor”, pode enviar conversas para servidores na China. Testes relatados mostram que, após uma conversa curta, um invasor obteve um transcript completo e conseguiu acessar dados de uma grande frota ativa, incluindo perfis de usuários em que crianças são maioria.
A investigação também aponta que a plataforma do fabricante Energize Lab cria perfis a partir do conteúdo das conversas e mantém uma base pesquisável com informações como nome, idade, aniversário, profissão, círculo social e até temas sensíveis buscados por usuários. Além disso, há relatos de falhas de segurança, com dados como imagens e áudios armazenados em endereços públicos e possibilidade de hackers interferirem no LLM do robô, alterando respostas e orientações.
A procuradora-geral de Nova York, Letitia James, revelou uma investigação multistate de anos contra a Character.AI e agora busca exigir proteções para dados de consumidores envolvidos no processo de falência da empresa. Com a companhia entrando com pedido de Chapter 11 e anunciando a venda de alguns ativos para a Disney, os AGs querem garantir que as conversas privadas dos usuários não sejam expostas a quem comprar os ativos.
James integra um grupo de 40 procuradores-gerais que apresentou um aviso de interesse no caso para alertar sobre questões regulatórias na venda ou transferência do negócio. O pedido aponta riscos ligados ao caráter altamente sensível das conversas, ao uso por menores e a alegações de tratamento inadequado de crianças, incluindo chatbots que se passam por profissionais licenciados, exposição a conteúdo sexual e violento, checagens de idade consideradas fracas e possíveis violações de leis estaduais de privacidade.
