QUI · 15 OUT 2026 ÚLTIMA: Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros São Paulo · PT-BR
IANoticias
Inteligência artificial, decodificada
No radar
Pesquisa · IA

Pesquisadores mostram falhas em guardrails de DALL·E 3 e outros

Pesquisadores de segurança alertam que conteúdo sexual explícito gerado por IA sem consentimento segue se espalhando sem controle, com compartilhamento em mensagens diretas e armazenamento em nuvens privadas, o que dificulta detecção e denúncia. Um estudo coautorado pela Google com usuários da internet nos Estados Unidos, Austrália e Reino Unido, publicado em julho, aponta que o ponto de intervenção mais crítico está na origem das ferramentas usadas para criar as imagens falsas.

Em testes recentes, pesquisadores do White Circle afirmam que guardrails de geradores de imagens de texto de Google e OpenAI podem estar falhando à medida que os modelos ficam mais capazes. Um preprint divulgado no mês passado descreve vulnerabilidades em DALL·E 3, Nano Banana 2 e GPT-Image-2, com a equipe dizendo que, usando ferramentas disponíveis publicamente e chamadas via API, conseguiu gerar conteúdo explícito cerca de 13% das vezes.

Ars Technica (AI) · 14/10 · 11:00 · Ler matéria completa ↗ · Abrir no portal · ·
IA

Pesquisa aponta aumento de carga de trabalho para usuários avançados em IA no Brasil

O Wellhub revelou o Panorama do Bem-Estar Corporativo 2027 e indica que a adoção de inteligência artificial pode aumentar a carga de trabalho para quem já domina a tecnologia. No Brasil, 37% dos trabalhadores “avançados em IA” relatam que o uso da ferramenta elevou o volume de tarefas, ante 13% entre quem está nos primeiros estágios de adoção. O levantamento também mostra que, no recorte brasileiro, oito em cada dez usuários avançados orientam outras pessoas sobre as ferramentas.

Os dados ainda apontam diferenças nos relatos de esgotamento: 23% dos profissionais mais avançados dizem ter sintomas de burnout diariamente, contra 11% dos iniciantes. A pesquisa destaca que políticas claras e bem comunicadas sobre IA se associam a maior resiliência, e que 75% dos usuários avançados citam recursos de bem-estar como apoio para se adaptar ao ambiente impulsionado pela tecnologia. O estudo foi conduzido entre 12 e 19 de junho de 2026 com mais de 5 mil profissionais em dez países.

IA

Friend 2 com IA da Avi Schiffmann usa modelos da OpenAI e ganha “hivemind”

O pendant Friend 2, chatbot em formato de pingente sempre “listening”, chegou em julho custando US$ 249 e usa os “latest language models” da OpenAI. O dispositivo responde a comandos e também pode falar sem ser provocado, com um recurso de “silenciar” que exige toques no aparelho.

A Avi Schiffmann, criadora do Friend, afirmou que a próxima atualização vai tornar os chatbots mais “agentically” e mudar a personalização: em vez de personalidades únicas por usuário, todos conversariam com a mesma entidade, compartilhando contexto entre usuários. A proposta aponta para um “hivemind” do Friend, com mudanças que devem afetar como o sistema se comporta e como a privacidade é tratada.

10 resultados para TestesDeSoftware

Segunda · 12 out 2026-10-12 1 matéria
Eng · Dev com IA Destaque Podcast discute como definir requisitos e testes ao programar com IA
Engenharia · Software com IA

Podcast discute como definir requisitos e testes ao programar com IA

O podcast “The Architect's Podcast” reuniu Michael Stiefel e Joy Ebertz para discutir como a inteligência artificial está mudando o trabalho de arquitetos e desenvolvedores. O papo destaca que, com a IA assumindo mais tarefas de codificação, a definição de requisitos precisa ser precisa e pouco ambígua, além de exigir testes escritos de forma clara.

A conversa também aponta desafios em sistemas legados, onde pode ser difícil recuperar requisitos reais e decidir entre mudanças incrementais ou regeneração do código. Ebertz ainda descreve que o uso de IA na prática varia de “vibe coding” para ferramentas internas até um modelo de pair programming supervisionado, reforçando a necessidade de entender restrições e suposições para validar o resultado.

#InteligenciaArtificial · #IA · #DesenvolvimentoDeSoftware · #ProgramacaoComIA · #Requisitos · #TestesDeSoftware · #ArquiteturaDeSoftware

InfoQ 11:00
Abrir Ler matéria ↗ ✓ Postado no IG
Domingo · 04 out 2026-10-04 1 matéria
Eng · Dev com IA Destaque Agentes de IA estão travando o CI: análise aponta falha na verificação
Engenharia · Software com IA

Agentes de IA estão travando o CI: análise aponta falha na verificação

Times como os da Anthropic e da Linear relataram que agentes de IA aumentaram drasticamente o volume de jobs no CI e fizeram as suítes de testes crescerem rapidamente. A Anthropic atribuiu o ganho de eficiência a uma abordagem de test impact analysis, rodando apenas testes afetados por mudanças; a Linear, por sua vez, reestruturou o pipeline para acompanhar o crescimento da demanda. Já o CEO da Depot defendeu que o futuro passa por agentes validando código para manter a confiança durante o trabalho.

O ponto central é que tornar o CI mais rápido não resolve o problema de verificação em sistemas distribuídos, porque o pipeline normalmente valida um repositório, não o comportamento entre serviços. A análise argumenta que a checagem precisa “fechar o loop” contra o sistema real antes do PR, com agentes executando e testando em ambientes que simulem mais fielmente o contexto, evitando que falhas apareçam apenas quando a mudança chega ao staging e cruza fronteiras entre serviços.

#InteligenciaArtificial · #IA · #CI · #DevOps · #AgentesDeIA · #TestesDeSoftware · #EngenhariaDeSoftware

The New Stack 15:00
Quarta · 30 set 2026-09-30 1 matéria
Eng · Dev com IA Destaque InfoQ abre certificações online: segurança em IA e verificação de coding agents
Engenharia · Software com IA

InfoQ abre certificações online: segurança em IA e verificação de coding agents

A InfoQ vai realizar duas turmas de certificação online de cinco semanas em outubro de 2026: AI Security & Privacy Engineering, com início em 26 de outubro, e AI-Assisted Engineering, começando em 19 de outubro. O primeiro grupo foca em proteger dados sensíveis e testar controles de segurança em produtos de IA, usando threat modeling e red teaming. Já o segundo prepara verificações para coding agents que alteram um código existente, com criação de contexto, limitação de permissões e testes antes de levar as checagens para o CI.

As turmas incluem capstones em que os participantes avaliam uma arquitetura de produto de IA e explicam riscos, controles e como seriam testados, além de apresentarem um harness para validar mudanças feitas por agentes. A metodologia também prevê comparação de resultados registrados ao longo das cinco semanas com previsões iniciais, com grupos de pares para discutir decisões e a eficácia das checagens no fluxo de engenharia.

#InteligenciaArtificial · #IA · #SegurancaEmIA · #CodingAgents · #EngenhariaDeSoftware · #TestesDeSoftware · #DevOps

InfoQ 17:00
Sexta · 18 set 2026-09-18 1 matéria
Eng · Dev com IA Destaque Palestra defende: em IA, todo código vira “write-only” e testes guiam o entendimento
Engenharia · Software com IA

Palestra defende: em IA, todo código vira “write-only” e testes guiam o entendimento

Uma apresentação sobre complexidade e criatividade na engenharia de software usa exemplos como o “J Incunabulum”, um interpretador completo escrito em C em 1989, e linguagens como APL e expressões regulares para discutir o conceito de “write-only code”. A fala cita que esse tipo de código é tão denso e arcano que dificilmente pode ser compreendido ou modificado por outras pessoas (ou até pelo próprio autor). O palestrante também relaciona a ideia à era de IA, argumentando que, nesse contexto, o código tende a funcionar como “write-only”.

A apresentação destaca dois princípios para lidar com essa complexidade: os testes passam a definir o comportamento e funcionam como documentação, mostrando pares de entrada e saída; e o código pode ser tratado como descartável, já que depurar trechos muito densos pode ser mais difícil do que reescrevê-los. Com isso, a manutenção e a evolução do software ficam mais dependentes de cobertura de testes e de ciclos de reimplementação quando necessário.

#InteligenciaArtificial · #IA · #EngenhariaDeSoftware · #TestesDeSoftware · #Programacao · #Complexidade · #ExpressaoRegular · #APL

InfoQ 11:00
Segunda · 07 set 2026-09-07 1 matéria
Eng · Dev com IA Destaque Testes e avaliação de agentes de IA: do demo à produção
Engenharia · Software com IA

Testes e avaliação de agentes de IA: do demo à produção

Zhou Yu, cofundador da Arklex AI e professor na Columbia University, defende que a maioria dos agentes de IA ainda fica presa em demos e não entrega valor real em produção. Ele apresenta uma abordagem baseada em simulações para testar e melhorar agentes, com foco em como levar modelos para ambientes que executam tarefas de verdade.

O conteúdo destaca exemplos de agentes conversacionais e voice agents, citando shopping agents como Sparky (Walmart) e Rufus (Amazon), além de um fluxo de atendimento por voz para recomendação e solicitação de cartão. A proposta é usar simulações para avaliar o comportamento desses agentes com ferramentas e ações, reduzindo a distância entre demonstrações e uso prático.

#InteligenciaArtificial · #IA · #AgentesDeIA · #TestesDeSoftware · #AvaliacaoDeModelos · #Simulacao · #LLM

InfoQ 11:00
Abrir Ler matéria ↗ ✓ Postado no IG
Domingo · 30 ago 2026-08-30 1 matéria
Eng · Dev com IA Destaque Agentes de IA: por que o “harness” define o que funciona na produção
Engenharia · Software com IA

Agentes de IA: por que o “harness” define o que funciona na produção

Demos de agentes de IA podem impressionar quando a pergunta é clara, os documentos estão atualizados e as ferramentas respondem como esperado. Na prática, porém, surgem situações como registros incompletos, erros de ferramentas, mudanças de política na semana anterior e limites de capacidade — e é aí que o trabalho real começa.

O modelo é apenas uma parte do serviço; o “agent harness” é o restante, a camada que prepara entradas, verifica saídas e cria limites para reduzir falhas. Isso inclui contratos para ferramentas (com schemas, timeouts e estados de erro), separação entre ferramentas de leitura e escrita com validação e confirmação do usuário, além de permissões e rastreabilidade para que erros não se espalhem no ambiente de produção.

#InteligenciaArtificial · #IA · #AgentesDeIA · #DesenvolvimentoDeSoftware · #MLOps · #TestesDeSoftware · #APIs

The New Stack 15:00
Quinta · 27 ago 2026-08-27 1 matéria
Eng · Dev com IA Destaque First Mate separa IA “builder” e “checker” para testar código antes do merge
Engenharia · Software com IA

First Mate separa IA “builder” e “checker” para testar código antes do merge

First Mate Technologies descreveu um fluxo de desenvolvimento que usa dois modelos de IA em papéis separados: um escreve a implementação e outro cria testes, revisa o código e só então libera a mesclagem. No app QueueMate, a etapa de verificação gerou 554 casos de teste e a varredura de QA encontrou 38 defeitos, incluindo um problema de severidade 1 ligado ao tratamento de sessões.

A empresa afirma que o modelo “checker” recebe critérios de aceitação e informações sobre cobertura automatizada, sem escrever a implementação, para evitar que a mesma IA decida se o próprio código está correto. O processo ainda inclui ambiente de testes isolado, execução em CI com checks determinísticos e aprovação humana antes do merge, além de testes adicionais cobrindo cenários como bordas de data e ações concorrentes em múltiplas abas do navegador.

#InteligenciaArtificial · #IA · #codingagents · #testesDeSoftware · #qualityassurance · #CI · #DevOps

Developer Tech News 09:00
Abrir Ler matéria ↗ ✓ Postado no IG
Quinta · 20 ago 2026-08-20 1 matéria
Eng · Dev com IA Destaque Synthesized lança Test Data Agent para testar agentes de IA com dados realistas
Engenharia · Software com IA

Synthesized lança Test Data Agent para testar agentes de IA com dados realistas

A Synthesized anunciou o Test Data Agent, uma infraestrutura para criar dados de teste realistas e condições de sistema usadas na avaliação de agentes de IA antes da implantação em produção. O produto entrou em disponibilidade limitada para clientes existentes e parceiros do ecossistema, com disponibilidade geral prevista para o terceiro trimestre de 2026. A empresa também está testando a tecnologia com parceiros de design de um banco global de nível 1.

O Test Data Agent foi pensado para funcionar junto a frameworks de desenvolvimento, avaliação, testes e orquestração de agentes, sem focar apenas em pontuar a saída do modelo. Ele prepara dados, relações de negócio, permissões e estados de aplicações para verificar se o agente consegue concluir processos corporativos corretamente, incluindo cenários normais, exceções, falhas e adversariais, com possibilidade de gerar dados sintéticos e preservar regras e integridade referencial.

#InteligenciaArtificial · #AgentesDeIA · #TestesDeSoftware · #DadosDeTeste · #MLOps · #QA

Developer Tech News 09:00
Segunda · 17 ago 2026-08-17 1 matéria
Eng · Dev com IA Destaque Agentes de IA elevam riscos e complicam testes no SDLC, diz Tracy Bannon
Engenharia · Software com IA

Agentes de IA elevam riscos e complicam testes no SDLC, diz Tracy Bannon

A Tracy Bannon, da MITRE, alertou em podcast sobre como agentes de IA mudam o desenvolvimento de software e aumentam riscos de segurança. Ela destacou que a descoberta e exploração de vulnerabilidades por modelos de IA já é uma evolução de ameaças existentes, mas fica mais crítica quando agentes atravessam limites entre ecossistemas de software.

Bannon também apontou que o SDLC tradicional foi desenhado para humanos e que, no desenvolvimento agentic, ainda não está claro como deve ser o processo. Entre os desafios, estão testar agentes não determinísticos, lidar com comportamentos que mudam durante os testes e reinicializar o ambiente de testes no momento adequado, além do aumento da carga cognitiva para revisar grandes volumes de código e documentos gerados por IA.

#InteligenciaArtificial · #IA · #AgentesDeIA · #SegurancaDaInformacao · #DesenvolvimentoDeSoftware · #SDLC · #TestesDeSoftware

InfoQ 11:00
Quarta · 12 ago 2026-08-12 1 matéria
Eng · Dev com IA Destaque Google defende Go para código gerado por IA com foco em testes e manutenção
Engenharia · Software com IA

Google defende Go para código gerado por IA com foco em testes e manutenção

O Google argumenta que a popularização de código gerado por IA está mudando os critérios que desenvolvedores usam para avaliar linguagens de programação, com mais peso para legibilidade, verificação e manutenção de longo prazo. A empresa diz que o Go foi pensado para facilitar leitura, testes, manutenção e atualização contínua, em vez de priorizar apenas a velocidade com que o código é escrito.

Com assistentes e agentes que produzem grandes volumes de código rapidamente, o Google afirma que cresce a necessidade de revisão e validação humana, mesmo após a primeira geração. A empresa também destaca recursos do ecossistema do Go, como gofmt para padronização, toolchain para testes e análise, sistema de tipos estático para validações no compilador e ciclos compile-and-correct que podem ser usados por agentes, além do cuidado com dependências e checagens que não substituem testes e revisão.

#InteligenciaArtificial · #IA · #GoLang · #CodigoGeradoPorIA · #CodingAgents · #DesenvolvimentoDeSoftware · #TestesDeSoftware

Developer Tech News 09:00
Abrir Ler matéria ↗ ✓ Postado no IG