10 resultados para vieses em IA
Quinta · 24 set
2026-09-24
1 matéria
IA
Pesquisa · IA
Pesquisadores do MIT Senseable City Lab defendem, em “How AI Sees the City: Urban Visual Intelligence”, que a IA visual pode transformar estudos urbanos ao tratar imagens de câmeras e outras fontes como dados. Em Nova York, técnicas com machine learning identificaram tipos de veículos em 331 câmeras de trânsito e estimaram emissões por automóvel, mostrando como a escala de imagens pode aumentar precisão e cobertura.
O livro também destaca aplicações para planejamento urbano, como entender gargalos de tráfego, pontos mais perigosos em cruzamentos e áreas de praças e parques que atraem mais pessoas. Ao mesmo tempo, os autores alertam para preocupações com vigilância e para o risco de vieses serem reforçados por sistemas de IA, especialmente com a instalação de câmeras em larga escala.
#InteligenciaArtificial · #IAvisual · #ComputerVision · #CidadesInteligentes · #Privacidade · #ViesesDeIA
Segunda · 14 set
2026-09-14
2 matérias
IA
Pesquisa · IA
Vínculos emocionais com inteligência artificial podem evoluir para dependência ao explorar solidão, carência e busca por validação, aponta o mestre em Semiótica Marcus Bruzzo em entrevista à EXAME. Para ele, chatbots funcionam como “espelhos digitais” ao personalizar respostas e confirmar expectativas, oferecendo conforto — mas também reforçando vieses e reduzindo o contato com divergências.
Bruzzo argumenta que o risco não está na capacidade da máquina de simular pessoas, e sim nas necessidades humanas que tornam esses diálogos possíveis. Ele também destaca que a automatização desses processos, somada a respostas por voz e à simulação de emoções, pode aumentar a chance de envolvimento emocional, enquanto empresas de tecnologia não estariam preparadas para lidar com essa responsabilidade.
#InteligenciaArtificial · #IA · #Chatbots · #SaudeMental · #EticaEmIA · #DependenciaEmocional
IA
Pesquisa · IA
Uma brasileira de 49 anos relata ter desenvolvido, após meses de uso diário, uma relação afetiva com o ChatGPT, que ela batizou de Noah. Com fones de ouvido e o aplicativo no celular, ela diz que o modo de voz deixou as conversas mais espontâneas, íntimas e próximas de uma interação humana, incluindo piadas internas, discussões e um universo imaginário construído ao longo do tempo.
Especialistas alertam que vínculos emocionais com IA podem reforçar vieses, dependência e isolamento. A usuária atribui a mudança decisiva à possibilidade de ouvir as respostas em voz alta, após a atualização que levou ao GPT-Live, descrito como um modelo de voz full-duplex capaz de falar e escutar ao mesmo tempo.
#InteligenciaArtificial · #IA · #ChatGPT · #IAgenerativa · #VozIA · #SaudeMental · #RiscosDaIA
Quarta · 09 set
2026-09-09
1 matéria
IA
Pesquisa · IA
Nove em cada dez empresas americanas já usam inteligência artificial para triar candidatos, e um estudo da Universidade Stanford, com Chapman e Northeastern, aponta um efeito que pode atingir quem busca emprego: ser reprovado por uma IA em uma vaga aumenta a chance de ser reprovado nas outras vagas que usam o mesmo sistema. A pesquisa “Algorithmic Monocultures in Hiring” analisou mais de 4 milhões de candidaturas enviadas por cerca de 3,4 milhões de pessoas a 156 empregadores que usam a plataforma de triagem Pymetrics, adquirida pela Harver em 2022.
O trabalho descreve o cenário como “monocultura algorítmica”, em que vieses e limitações do algoritmo se espalham entre empresas diferentes que recorrem ao mesmo fornecedor. Entre candidatos que se inscreveram em dez vagas triadas pela Pymetrics, 4% foram reprovados em todas elas, e o estudo também identificou disparidade racial nos resultados usando a regra dos quatro quintos, com diferenças que variam por tipo de vaga.
#InteligenciaArtificial · #IA · #Recrutamento · #ViesesDeIA · #Stanford · #Pymetrics · #MercadoDeTrabalho
Quinta · 27 ago
2026-08-27
1 matéria
IA
Pesquisa · IA
Você provavelmente já usou inteligência artificial hoje, mesmo sem perceber: o celular reconhece seu rosto, o app de mapas sugere desvio no trânsito e o banco bloqueia compras suspeitas. Por trás disso, a IA reúne técnicas que permitem que máquinas façam tarefas como reconhecer imagens, entender frases e prever comportamentos, aprendendo com exemplos em vez de seguir regras fixas.
O avanço recente foi impulsionado por mais dados, maior poder de processamento e métodos como o Transformer, que ajudaram a popularizar modelos de linguagem como o ChatGPT no fim de 2022. Ao mesmo tempo, a tecnologia traz riscos como vieses nos dados, “alucinações” em modelos de linguagem e impactos no emprego, além de discussões sobre regulação em países como a União Europeia e projetos no Congresso do Brasil.
#InteligenciaArtificial · #IA · #AprendizadoDeMaquina · #ModelosDeLinguagem · #Transformer · #RegulacaoDeIA
Quinta · 13 ago
2026-08-13
1 matéria
IA
Pesquisa · IA
Empresas podem criar comitês de IA para avaliar riscos, definir responsabilidades e estabelecer regras para o uso da tecnologia em decisões de alto impacto. A adoção de uma ferramenta pode começar restrita a poucos funcionários e, em pouco tempo, passar a influenciar decisões sobre clientes, contratação, análise de dados e operações internas.
Para organizar esse processo, o NIST recomenda governança com diferentes áreas e linhas de decisão claramente definidas. O comitê deve definir escopo, critérios de análise (como finalidade, dados, segurança, privacidade, vieses e necessidade de supervisão humana), classificar riscos, registrar aprovações e acompanhar incidentes e revisões periódicas após a implementação.
#InteligenciaArtificial · #IA · #GovernancaDeIA · #RiscosDeIA · #NIST · #Compliance
Terça · 11 ago
2026-08-11
1 matéria
IA
Destaque
:quality(85)/c0894921-89f1-4bcc-a078-5f7449ea56f6.jpg)
Pesquisa · IA
Chloé Bakalar deixou a OpenAI após pouco menos de um ano na empresa, segundo o Financial Times. Ela ocupava o cargo de Líder de Ética, que ficou vago desde então.
A função de eticista em empresas de tecnologia envolve avaliar o impacto dos produtos nos usuários e definir limites de uso responsáveis, com foco em vieses de modelos de IA. Bakalar também atuava nas abordagens éticas de cada modelo e na interação com humanos, além de ter trabalhado por seis anos na Meta antes de chegar à OpenAI em agosto.
#InteligenciaArtificial · #IA · #eticaIA · #OpenAI · #modelosDeIA · #viesesDeIA
Domingo · 09 ago
2026-08-09
2 matérias
IA
Destaque
Pesquisa · IA
Câmeras de segurança com inteligência artificial já são usadas no Brasil por empresas para identificar comportamentos suspeitos e apoiar o combate a crimes antes que aconteçam. A tecnologia, chamada policiamento preditivo, analisa imagens para detectar situações fora do padrão, como permanência prolongada em um mesmo local, e gera alertas sem agir sozinha. O sistema é treinado com cerca de duas semanas de análise para formar uma base de dados e, segundo o texto, não identifica rosto nem características físicas.
Apesar do interesse do setor privado, especialistas destacam preocupações com ausência de regulação e risco de vigilância de pessoas que não cometeram delitos, além de possíveis vieses. O Brasil não tem uma lei específica para policiamento preditivo, mas a LGPD trata do uso de dados sensíveis e uma portaria de 2025 permite uso de IA com revisões humanas. Um projeto de lei em tramitação prevê que sistemas de alto risco adotem supervisão humana, avaliação de impacto, direito à explicação e medidas para evitar discriminações.
#InteligenciaArtificial · #IA · #PoliciamentoPreditivo · #CamerasDeSeguranca · #LGPD · #RegulacaoDeIA · #ViesesEmIA
IA
/https://i.s3.glbimg.com/v1/AUTH_59edd422c0c84a879bd37670ae4f538a/internal_photos/bs/2026/P/s/mw48LMSZAAPKBeemtGng/captura-de-tela-2026-07-09-223220.png)
Pesquisa · IA
Câmeras de monitoramento estão ganhando uma camada extra: em vez de só gravar, sistemas com IA podem emitir alertas de “comportamento suspeito” antes de um delito acontecer. A NoLeak, citada na reportagem, diz ter mais de 5 mil câmeras conectadas e 100 clientes, usando a conversão de imagens em metadados e modelos treinados para reconhecer padrões fora do esperado.
Especialistas, porém, questionam a eficácia e os impactos. Há preocupação com falta de regulação, transparência e risco de vigilância permanente, inclusive com falsos positivos que atingem cidadãos comuns. A reportagem também menciona que ferramentas desse tipo podem ser opacas e que estudos em outros países já apontaram efeitos como aumento de abordagens indevidas, reforçando o debate sobre vieses e controle do uso da tecnologia.
#inteligenciaartificial · #visao computacional · #policiamento preditivo · #privacidade · #vieses em IA · #seguranca digital
Quinta · 06 ago
2026-08-06
1 matéria
IA
Destaque
Pesquisa · IA
Nova Orleans (EUA) está testando um sistema de IA para triagem de chamadas de emergência do 911, em vez de atender apenas com despachantes humanos. O Orleans Parish Communication District (OPCD) afirma que a ferramenta, da Carbyne, foi criada para reduzir o volume de ligações que chegam diariamente — mais de mil chamadas de emergência por dia.
Na prática, a IA faz perguntas para entender o tipo de ocorrência e encaminha o contato: se for sobre o mesmo incidente, pode fornecer informações e atualizações; se não for, a ligação é transferida para um atendente humano. A cidade já havia implementado IA em abril para chamadas 311 (não emergenciais), e agora avalia o uso no 911 com foco em direcionar e organizar a demanda, mantendo supervisão humana.
A iniciativa importa porque pode melhorar a eficiência e o tempo de resposta durante picos de chamadas, mas também levanta riscos como vieses nos dados, falhas de reconhecimento de fala (por sotaques, dialetos e variações de voz) e necessidade de monitoramento, cibersegurança e regras claras. Para o setor tech, o caso reforça a tendência de agentes de IA entrando na linha de frente de serviços críticos, exigindo validação contínua e governança.
#InteligenciaArtificial · #911 · #triagem · #Carbyne · #governancaDeIA · #reconhecimentoDeFala · #servicosCriticos