17 resultados para Alucinacoes
Segunda · 05 out
2026-10-05
1 matéria
Eng · Dev com IA
Destaque
Engenharia · Software com IA
Um playbook de platform engineering para produção de LLMs descreve como uma camada de infraestrutura pode reduzir alucinações sem trocar o modelo base. Em um sistema de recomendação de inventário para uma grande organização do varejo, a taxa de respostas alucinatórias caiu de cerca de 15% para 1,5% ao usar um loop automatizado de retry que captura erros de formatação, grounding e infraestrutura durante a execução.
A abordagem também inclui um gate de validação de intenção que retorna “unclassified” em vez de seguir o agente com maior pontuação, evitando alucinações fora do objetivo e melhorando o roteamento em sistemas multiagente. O texto ainda destaca práticas como registrar prompts com histórico para atualizar ou reverter instruções em runtime, aplicar autorização de ferramentas com política default-deny no servidor de recursos e instrumentar taxas de alucinação e custos de tokens na entrada das requisições.
#InteligenciaArtificial · #IA · #LLM · #PlatformEngineering · #MLOps · #MultiAgentes · #Alucinacoes
Sexta · 02 out
2026-10-02
1 matéria
IA
Pesquisa · IA
No atendimento ao cliente, alucinações de ferramentas generativas estão piorando a experiência de trabalhadores e aumentando conflitos com clientes. Em um restaurante em Nova York, a equipe relata que clientes chegam a desconsiderar alertas sobre alergias porque “ChatGPT” teria dito que não há ingredientes com alérgenos, levando a pedidos incompatíveis com as restrições informadas.
O problema também aparece em outras áreas: funcionários de teatro, cafeterias e lojas relatam pedidos por produtos ou recursos que não existem, enquanto visitantes de parques chegam com roteiros gerados por IA que não fazem sentido geograficamente. Com o avanço do uso de agentes de IA, como o citado “Muse”, trabalhadores dizem esperar mais solicitações sem base e mais dificuldade para corrigir informações fabricadas.
#InteligenciaArtificial · #IA · #IAgenerativa · #alucinacoesdeIA · #atendimentoaocliente · #agentesdeIA
Domingo · 27 set
2026-09-27
1 matéria
IA
Destaque
Pesquisa · IA
A startup de música Thoughtful Things lançou no Kickstarter a campanha do Engram, seu primeiro instrumento: um sampler e groovebox que usa IA para “manglar” áudio recebido e também gerar sons inéditos a partir de alucinações. A proposta não é criar faixas prontas para rádio, mas explorar sonoridades experimentais e levar modelos de áudio ao limite.
O Engram não fica conectado à internet e roda uma “tiny AI” localmente, com modelo desenvolvido internamente e custom-trainado. A empresa afirma que treinou os modelos apenas com datasets abertos licenciados para uso comercial (CC-BY ou similar) e diz que pretende abrir o firmware para ajustes e inclusão de modelos personalizados; o lote inicial no Kickstarter começa em US$ 675.
#InteligenciaArtificial · #IA · #IAgenerativa · #AudioAI · #Sampler · #Groovebox · #Kickstarter
Sábado · 26 set
2026-09-26
1 matéria
IA
Pesquisa · IA
Ao perguntar a um assistente de inteligência artificial, é comum receber respostas mesmo quando o modelo não sabe. Esse comportamento é chamado de alucinação e pode levar a invenções de dados, citações e fontes com a mesma segurança de fatos reais, incluindo casos em que modelos criaram decisões judiciais atribuídas a processos inexistentes.
A explicação passa pela forma como os grandes modelos de linguagem são treinados para prever a próxima palavra, e não para medir o que sabem. Para contornar o problema, a Ammonix desenvolveu uma abordagem em que a IA opera dentro de um conjunto definido de decisões e se abstém quando a situação não se parece com casos conhecidos ou quando a confiança é baixa, podendo pedir mais informações ou encaminhar para especialistas; já a Anthropic divulgou um teste com verificação automática em relatórios financeiros, no qual o Claude Opus 5.5 passou em 16 de 18 tentativas.
#InteligenciaArtificial · #IA · #Alucinacoes · #LLM · #IAgenerativa · #OpenAI · #Anthropic
Sexta · 25 set
2026-09-25
1 matéria
IA
Pesquisa · IA
Escrever código e automatizar fluxos ficou muito mais barato com a IA, mas o custo da complexidade organizacional continua alto. O conceito de “dívida cognitiva” descreve o acúmulo de decisões não documentadas, conhecimento tácito e rotinas que dependem de pessoas específicas para funcionar.
Com agentes de IA, essa falta de contexto pode levar a falhas como “context rot”, alucinações e loops intermináveis, porque a tecnologia não entende a lógica interna da empresa. Para reduzir o problema, a abordagem citada envolve diagnosticar dependências ocultas, classificar decisões por risco, definir regras explícitas nos próprios fluxos e expandir apenas com base em evidências e desempenho.
#InteligenciaArtificial · #IA · #AgentesDeIA · #ROIdeIA · #DívidaCognitiva · #AutomacaoDeWorkflows · #GovernancaDeIA
Quarta · 23 set
2026-09-23
1 matéria
IA
Pesquisa · IA
A TypeSafe AI lançou o Jev, um modelo de inteligência artificial voltado para automatizar decisões a partir de dados corporativos. Diferente de assistentes conversacionais, a ferramenta não gera textos nem responde em linguagem natural: ela devolve respostas estruturadas para integração com outros softwares.
O Jev opera com saídas em formatos predefinidos e usa aprendizado por reforço para otimizar escolhas diretas, reduzindo erros de formatação e evitando alucinações. A proposta mira tarefas repetitivas e de alto volume, como classificação de chamados, análise preliminar de risco em seguros, verificação de fraude e roteamento de documentos entre setores, mudando o papel das equipes para supervisão e validação de critérios automatizados.
#InteligenciaArtificial · #IA · #IAgenerativa · #AutomacaoDeDecisoes · #MachineLearning · #DadosCorporativos · #AprendizadoPorReforco
Quarta · 16 set
2026-09-16
1 matéria
IA
Pesquisa · IA
A TypeSafe, fundada por um co-inventor do ChatGPT, saiu do modo stealth e lançou o modelo Jev para automatizar decisões programáticas com uma arquitetura de parallel sampling. Voltado a sistemas que precisam de lógica determinística, o Jev executa decisões probabilísticas estruturadas diretamente em bases de código de produção, sem depender de geração de texto.
O modelo recebe um estado não estruturado e retorna valores estruturados tipados em uma única consulta paralela, com restrição a schemas predefinidos para reduzir falhas de tipo e “alucinações” por desenho. A empresa também descreve treinamento com Reinforcement Learning for Calibrated Decisions (RLCD), além de testes com latências de 70–500 ms e acesso antecipado para desenvolvedores.
#InteligenciaArtificial · #IA · #IAgenerativa · #ModelosDeIA · #AutomacaoDeDecisoes · #DesenvolvimentoDeSoftware · #MachineLearning
Sexta · 11 set
2026-09-11
1 matéria
IA
Pesquisa · IA
Respostas geradas por inteligência artificial podem soar convincentes mesmo quando trazem informações incorretas, um problema que aparece com força em pesquisas sobre IA no direito. Um estudo analisou respostas de diferentes modelos a perguntas sobre legislação e jurisprudência e encontrou alucinações em pelo menos 58% das consultas jurídicas avaliadas.
Os pesquisadores relatam casos em que os sistemas inventaram decisões judiciais, confundiram informações de processos ou aceitaram premissas incorretas. Como a linguagem confiante do chatbot não garante precisão, a orientação é verificar a fonte original, checar datas e conferir detalhes específicos como nomes, números de processos e citações; em temas jurídicos, a checagem deve envolver legislação e decisões oficiais ou bases especializadas.
#InteligenciaArtificial · #IA · #AlucinacoesEmIA · #DireitoComIA · #LLM · #VerificacaoDeFatos · #Jurisprudencia
Segunda · 31 ago
2026-08-31
1 matéria
IA
Pesquisa · IA
Revisões no Glassdoor feitas por peritos de sinistros nos EUA revelam uma rejeição incomum à inteligência artificial. Em pesquisa citada pela plataforma, quem menciona IA nos posts critica a tecnologia 98% das vezes, apontando que líderes estariam “forçando” sistemas de IA com falhas para funcionários e clientes.
Um caso relatado envolve o uso de IA para relatório inicial de perdas, que teria gerado classificações erradas e “alucinações” em resumos de sinistros. Peritos dizem que, quando a IA erra, o retrabalho recai sobre eles, enquanto empresas como a Lemonade afirmam que automação em etapas iniciais reduz burocracia e libera a equipe para casos mais complexos.
#InteligenciaArtificial · #IA · #Seguro · #Automacao · #Hallucinacoes · #MercadoDeIA · #Glassdoor
Quinta · 27 ago
2026-08-27
1 matéria
IA
Pesquisa · IA
Você provavelmente já usou inteligência artificial hoje, mesmo sem perceber: o celular reconhece seu rosto, o app de mapas sugere desvio no trânsito e o banco bloqueia compras suspeitas. Por trás disso, a IA reúne técnicas que permitem que máquinas façam tarefas como reconhecer imagens, entender frases e prever comportamentos, aprendendo com exemplos em vez de seguir regras fixas.
O avanço recente foi impulsionado por mais dados, maior poder de processamento e métodos como o Transformer, que ajudaram a popularizar modelos de linguagem como o ChatGPT no fim de 2022. Ao mesmo tempo, a tecnologia traz riscos como vieses nos dados, “alucinações” em modelos de linguagem e impactos no emprego, além de discussões sobre regulação em países como a União Europeia e projetos no Congresso do Brasil.
#InteligenciaArtificial · #IA · #AprendizadoDeMaquina · #ModelosDeLinguagem · #Transformer · #RegulacaoDeIA
Segunda · 24 ago
2026-08-24
1 matéria
IA
Pesquisa · IA
A Thomson Reuters lançou nesta segunda-feira, 24, o Thomson, seu primeiro modelo de linguagem de grande porte (LLM) desenvolvido internamente. A empresa investiu US$ 40 milhões no projeto e afirma que o caminho adotado foi construir o modelo sobre uma base open source, especializando-o com décadas de conteúdo jurídico e tributário proprietário.
O Thomson foi treinado para sinalizar incerteza e reduzir alucinações, enquanto o CoCounsel segue multimodal e usa modelos de terceiros na maior parte da arquitetura. A checagem humana das respostas permanece obrigatória “sem exceções”, e a empresa também planeja avaliar recuperação de informações em tempo real; uma versão reduzida será disponibilizada como pesos abertos na Hugging Face para uso acadêmico e não comercial.
#InteligenciaArtificial · #IA · #LLM · #IAgenerativa · #LegalTech · #ThomsonReuters · #HuggingFace
Sábado · 22 ago
2026-08-22
1 matéria
Eng · Dev com IA
Destaque
Engenharia · Software com IA
O LinkedIn desenvolveu uma plataforma de revisão de código com múltiplos agentes de IA para lidar com PRs no volume da empresa, evitando depender apenas de revisores humanos ou de um “revisor” genérico direto no GitHub. O sistema foi desenhado para tratar a revisão como infraestrutura de produção, reduzir alucinações e produzir comentários com alto sinal, baseados no diff e nas convenções do código da organização.
A plataforma usa revisores independentes com modelos e abordagens de raciocínio diferentes, além de personalizações profundas com políticas da empresa, padrões do repositório e regras contextuais. Em uma avaliação com 5.230 comentários de revisão em 1.727 PRs, o LinkedIn reportou que 63,9% das sugestões foram aceitas, com variação por categoria, e que 90,1% dos comentários puderam ser avaliados com alta confiança com base no código mesclado.
#InteligenciaArtificial · #IA · #CodeReview · #AgentesDeIA · #DesenvolvimentoDeSoftware · #GitHub · #Kubernetes
Sexta · 14 ago
2026-08-14
1 matéria
IA
Pesquisa · IA
Uma resposta incorreta gerada por modelos de linguagem pode não “terminar” no chatbot: se o usuário seguir a conversa tratando aquela informação como verdadeira, o modelo pode incorporá-la ao contexto e produzir novas respostas sobre uma premissa equivocada. O resultado é uma sequência de conteúdos que parecem coerentes, mas que se sustentam no mesmo erro inicial, fenômeno ligado às chamadas alucinações.
O problema se agrava em tarefas de pesquisa, quando um detalhe inventado — como uma data — pode ser usado para explicar um acontecimento, alimentar comparações e, por fim, chegar a um texto final. Para reduzir o risco, a orientação é pedir verificação antes de continuar, solicitar fontes para afirmações factuais e interromper a sequência quando surgir algo estranho, mantendo distância entre a resposta e o que será tratado como fato.
#InteligenciaArtificial · #IA · #Alucinacoes · #LLM · #IAgenerativa · #VerificacaoDeFatos
Segunda · 10 ago
2026-08-10
1 matéria
IA
Destaque
Pesquisa · IA
Resumos de IA do Google têm levado usuários a perderem informações básicas, com casos em que a ferramenta passou a “inventar” horários e fez pessoas acreditarem que eventos já tinham acontecido. O problema é visto como parte de uma dificuldade maior do mecanismo dominante em retornar respostas corretas.
Além de erros nos resultados, o texto aponta que a forma como a IA se interpõe entre o usuário e fontes originais pode tornar páginas existentes praticamente “indescobertas”. Também são citados exemplos de apagamento de arquivos e redução de acesso, como a exclusão de grande parte do arquivo do FiveThirtyEight e a pressão sobre o Internet Archive e a Wayback Machine, que enfrentam ataques cibernéticos, processos e bloqueios de rastreadores.
#InteligenciaArtificial · #IA · #Google · #BuscaComIA · #Alucinacoes · #InternetArchive · #WaybackMachine
Domingo · 09 ago
2026-08-09
1 matéria
IA
Pesquisa · IA
Plataformas de IA estão acelerando a criação de apresentações: com um tema e informações sobre o público, ferramentas como a Gamma geram o roteiro dos slides, textos, layout e até sugestões de imagens em cerca de 30 segundos. A Gamma também lançou o Gamma Imagine (março de 2026), que cria imagens e infográficos por texto dentro do editor, além de integrações com automações como Zapier e Make. Já o Canva usa o Magic Design para montar um deck a partir de prompts, aplicando automaticamente o kit de marca, enquanto o Copilot funciona dentro do PowerPoint e gera apresentações a partir de prompts ou documentos do Word, com comandos em português.
Apesar da velocidade, a IA exige revisão: os textos podem ficar genéricos e estatísticas podem vir com erros (alucinações). Além disso, há atritos na exportação para PowerPoint (fontes, espaçamentos e imagens podem desconfigurar) e cuidados com privacidade e uso de dados, especialmente ao colar informações internas no prompt. Para quem produz decks com frequência, limites de créditos em planos gratuitos também podem impactar o fluxo de trabalho.
#InteligenciaArtificial · #apresentacoes · #productivity · #Canva · #GammaAI · #MicrosoftCopilot · #PowerPoint
Quarta · 05 ago
2026-08-05
1 matéria
IA
Pesquisa · IA
Empresas estão adotando a arquitetura Retrieval-Augmented Generation (RAG) para melhorar chatbots que antes respondiam com base apenas no conhecimento do modelo. A ideia é reduzir o risco de respostas imprecisas ou “alucinações” ao fazer o sistema buscar documentos autorizados pela empresa — como políticas, contratos, manuais e artigos — antes de gerar a resposta. Na prática, o chatbot consulta uma “base interna” e só então formula o texto usando esse material como referência.
Isso importa porque, em áreas onde precisão pesa mais que criatividade, o RAG aumenta a aderência às informações mais recentes e às regras do negócio. Para times de atendimento, jurídico e RH, a mudança significa responder dúvidas com fundamento em documentos corporativos, em vez de depender exclusivamente do que o modelo aprendeu no treinamento.
#RAG · #inteligenciaartificial · #chatbots · #knowledgebase · #alucinacoes · #genai
Segunda · 03 ago
2026-08-03
1 matéria
IA
Pesquisa · IA
Um desenvolvedor relata que continua usando assistentes de código com LLMs em projetos pessoais, mas evita deixar o modelo “roam free” e gerar recursos inteiros sem revisão. A proposta é pedir que o LLM escreva o código no chat e, em seguida, digitar manualmente cada linha no editor, fazendo ajustes, refatorações e checagens para entender APIs e algoritmos (ex.: em um projeto Django, incluindo funcionalidades como tagging). Ele afirma que esse fluxo o deixa cerca de 2x mais rápido, porém com ganho de compreensão e menos risco de aceitar código com alucinações ou decisões ruins.
A ideia importa para devs porque troca produtividade imediata por controle e entendimento do que está sendo entregue. Na prática, o time pode usar LLMs para acelerar partes “chatas”, mas mantendo revisão ativa e construindo um “mapa” mental do códigobase — reduzindo a chance de o software ficar opaco demais para manutenção futura.
#inteligenciaartificial · #LLM · #codingassistant · #softwareengineering · #Django · #cognitivebias · #refactoring