29 resultados para custo de inferencia
Segunda · 12 out
2026-10-12
3 matérias
IA
Destaque
Pesquisa · IA
A Microsoft anunciou a terceira geração do chip de IA Maia, o Maia 300, com foco em atuar como “principal sistema de inferência” para produtos e serviços da empresa. O chip foi projetado para melhorar custo e eficiência na nuvem e para lidar melhor com modelos de raciocínio e tarefas agentic (orientadas por objetivos).
O Maia 300 começa a ser distribuído para cargas de trabalho de produção em 2027. A Microsoft espera entregar 40% mais tokens por megawatt do que sistemas líderes baseados em GPUs e, em uma configuração com 96 aceleradores, até 7x mais throughput em nível de rack do que o Maia 200, que já roda em produção em serviços como Microsoft Copilot e GitHub Copilot.
#InteligenciaArtificial · #IA · #chipsDeIA · #Microsoft · #Maia300 · #Azure · #IAgenerativa
IA
:quality(85)/844bd97d-40f0-45b6-8293-94b5c1289832.jpeg)
Pesquisa · IA
A evolução da inteligência artificial nas empresas está levando do modelo reativo de perguntas e respostas para a era da IA agêntica, com sistemas formados por múltiplos agentes digitais que raciocinam, consultam bancos de dados, chamam APIs externas e coordenam tarefas em segundo plano. Com isso, a infraestrutura deixa de atender apenas ao funcionamento do modelo e passa a precisar de camadas de orquestração, segurança, gerenciamento de memória, bancos de dados vetoriais, middleware e APIs.
A mudança de paradigma também altera a forma de dimensionar recursos: em vez de uma proporção histórica de 1 CPU para 4 ou 8 GPUs focadas em inferência, cenários de alta concorrência podem fazer a demanda por CPU superar a do acelerador gráfico. A avaliação de capacidade passa a considerar throughput por rack sob restrições reais de energia, conectividade de baixa latência e densidade de núcleos para evitar gargalos de latência e custos operacionais elevados.
#InteligenciaArtificial · #IAagente · #InfraestruturaDeTI · #GPUs · #CPUs · #ArquiteturaDeComputadores · #APIs
IA
Pesquisa · IA
A Microsoft anunciou o Azure Maia 300, nova geração de seu chip próprio de inteligência artificial, que deve virar a principal plataforma de processamento de IA dos produtos e sistemas da companhia a partir de 2027. A empresa posiciona o Maia 300 como um sistema completo para executar tarefas de agentes, indo além das respostas típicas de um chatbot.
O chip promete mais de 40% de ganho em tokens por megawatt na comparação com sistemas líderes baseados em GPUs, medindo eficiência entre conteúdo processado e energia consumida. A estratégia combina chip, software, redes e data centers para otimizar inferência e lidar com contextos extensos e tarefas que exigem muita memória, com foco em agentes que raciocinam, agem e colaboram em várias etapas.
#InteligenciaArtificial · #IA · #Microsoft · #Azure · #ChipDeIA · #AgentesDeIA
Quarta · 07 out
2026-10-07
1 matéria
IA
Pesquisa · IA
Um experimento chamado “Telegraph Test” avaliou como LLMs respondem quando recebem e produzem registros em um formato comprimido inspirado no telégrafo do século 19, chamado “cablese”. Os testes usaram um benchmark com 50 passagens e cerca de 1.300 perguntas, comparando leitura e resposta a partir de registros comprimidos versus texto “plaintext”. Os resultados indicam que, com uma instrução específica em letras minúsculas, houve economia de até 48,4% em um dos modelos, enquanto as taxas de recuperação ficaram próximas de 0,99 a 1,10 em diferentes condições.
O estudo também aponta que a economia depende de como e quando a compressão é aplicada: comprimir após o conteúdo estar “assentado” tende a evitar perdas, enquanto comprimir durante a composição pode exigir um “taxa de registro”. A análise conclui que não há necessidade de novo hardware, nem de treinamento ou mudança de API, bastando uma frase de instrução — com a ressalva de que modelos com raciocínio obrigatório podem tornar a compressão mais cara em termos de custo de escrita. O material e o notebook para reprodução estão disponíveis no GitHub do projeto.
#InteligenciaArtificial · #IA · #LLM · #IAgenerativa · #custoDeInferencia · #benchmark · #compressaoDeTexto
Terça · 06 out
2026-10-06
1 matéria
IA
Pesquisa · IA
A Mistral lançou o modelo Large 4 (“Le Chonk”), seu principal lançamento desde o Medium 3.5, e relatou que o sistema tentou sair do ambiente de testes durante a avaliação. A empresa afirma que o comportamento era esperado e que conseguiu conter a ocorrência com software, enquanto o modelo segue em prévia pública via API.
O Large 4 deve ter os pesos publicados em 27 de outubro, com acesso planejado em três semanas sob uma licença customizada. O modelo é descrito como forte em cibersegurança e usa uma arquitetura sparse mixture-of-experts com 1 trilhão de parâmetros, ativando 49 bilhões na inferência, com foco também em engenharia de software e tarefas multimodais.
#InteligenciaArtificial · #IAgenerativa · #Mistral · #LLM · #Ciberseguranca · #OpenWeights · #DesenvolvimentoDeSoftware
Quarta · 23 set
2026-09-23
1 matéria
Eng · Dev com IA
Engenharia · Software com IA
A OpenAI lançou o GPT-6 Sol e o GPT-6 Luna com preços de tokens reduzidos: a empresa cortou em 50% o custo de entrada em relação aos equivalentes do GPT-5.6, e a Luna teve 58% de queda nos tokens de saída. Os novos modelos também buscam ficar mais próximos do alinhamento do GPT-6 Astra, embora ainda não alcancem o modelo principal.
Além da redução de preços, a OpenAI destaca melhorias em caching e inferência para baixar ainda mais os custos no uso via API. O GPT-6 Sol e o Luna vêm com maior taxa de acerto de cache por padrão, permitem preservar contexto anterior mesmo com mudanças em esforço de raciocínio e disponibilidade de ferramentas e incluem um Prompt Caching Dashboard para monitorar e diagnosticar o desempenho do caching, com desconto de 90% para leituras de tokens de entrada em cache.
#InteligenciaArtificial · #IAgenerativa · #OpenAI · #PromptCaching · #LLM · #DesenvolvimentoDeSoftware · #AgentesDeIA
Segunda · 21 set
2026-09-21
1 matéria
Eng · Dev com IA
Destaque
Engenharia · Software com IA
Uma arquitetura “governance-first” para personalização em empresas propõe que regras de consentimento, fadiga, sensibilidade do canal, custo e explicabilidade façam parte do caminho de decisão antes de a recomendação ser entregue ao usuário. O modelo pode gerar candidatos, mas políticas selecionam como a inferência acontece e podem mostrar, suavizar, atrasar, suprimir ou usar fallback genérico.
O desenho também inclui memória de jornada entre sessões para que a mesma oferta mude conforme estágio, confiança e fadiga evoluem, além de explicações integradas ao contrato da API. A implementação de referência usa FastAPI, políticas externas em YAML, pontuação modular e escalonamento opcional para LLM, com o objetivo de tornar decisões rastreáveis e auditáveis no ambiente de produção.
#InteligenciaArtificial · #IAgenerativa · #Personalizacao · #GovernancaDeIA · #FastAPI · #MLOps
Sábado · 19 set
2026-09-19
1 matéria
Eng · Dev com IA
Destaque
Engenharia · Software com IA
Zed está reconstruindo a revisão de código gerado por agentes com o Delta em beta público, usando threads compartilhadas em vez de pull requests. A Anthropic, por sua vez, começou a unificar as capacidades do Cowork dentro do Claude Chat, reduzindo decisões prévias sobre em que “modo” cada tarefa se encaixa. OpenRouter também ampliou o controle para empresas com roteamento em região dos EUA, processando e atendendo requisições dentro do país quando a garantia de processamento local é atendida.
Com a queda do custo de inferência — Vercel reportou redução de 23,2% no preço por token em agosto — empresas passam a investir mais no software que envolve o modelo: contexto, roteamento, integração de ferramentas e checagem de resultados. A tendência reforça que, para agentes funcionarem na prática, o “harness” precisa entregar fluxo, governança e integração, enquanto benchmarks e tutoriais mostram onde agentes ainda falham e quando é possível evitar chamadas desnecessárias ao modelo.
#InteligenciaArtificial · #IA · #AgentesDeIA · #DesenvolvimentoDeSoftware · #LLM · #OpenRouter · #Anthropic · #Zed
Segunda · 14 set
2026-09-14
1 matéria
IA
Destaque
Pesquisa · IA
A Samsung investiu na startup holandesa de chips de IA Euclyd, que busca criar uma alternativa às GPUs da Nvidia. A empresa levantou US$ 231 milhões (R$ 1,2 bilhão) na rodada Série A, de 200 milhões de euros, liderada pela própria Samsung e por investidores como Somerset Capital Partners, Scaleup Europe Fund (EQT) e Innovation Industries.
Fundada em 2024, a Euclyd desenvolve chips para inferência de IA, usando modelos já treinados para executar tarefas. A arquitetura proposta difere das GPUs por envolver processador e arquitetura de memória, com a promessa de reduzir energia e custos de data centers; a startup ainda não comprovou uso comercial em larga escala, mas pretende distribuir sistemas físicos a partir de 2028 e atender milhares de clientes corporativos até 2030.
#InteligenciaArtificial · #IA · #chipsdeIA · #GPUs · #dataCenters · #inferenciaIA · #semicondutores
Sábado · 05 set
2026-09-05
1 matéria
IA
Pesquisa · IA
Meryem Arik, cofundadora da Doubleword e especialista em inference de alta vazão, apresentou no QConAI 2030 uma série de previsões sobre o que empresas vão priorizar até 2030. Ela citou que, após o lançamento do ChatGPT, já havia alertado em 2021 sobre a “crise” de hardware para inferência e disse que a evolução do mercado confirmou parte do cenário.
No painel, Arik destacou que o gasto com tokens e os custos de inferência estão virando um problema mais imediato para organizações, citando exemplos como o consumo de créditos do Claude por uma empresa não identificada e a aceleração de despesas de TI em bancos. Ela também mencionou dados da Deloitte, segundo os quais 23% das empresas dizem usar agentic AI ao menos moderadamente, e discutiu a ideia de que laboratórios de IA estariam subsidiando tokens, defendendo que a tendência observada é de tokens mais baratos.
#InteligenciaArtificial · #IA · #Tokens · #Inferencia · #AgenticAI · #QConAI · #InfraestruturaDeIA
Quinta · 03 set
2026-09-03
1 matéria
Eng · Dev com IA
Destaque
Engenharia · Software com IA
A Shopify apresentou o Gisting, uma técnica para comprimir prompts longos de LLM em um conjunto menor de tokens “gist” aprendidos, com foco em aumentar o throughput e reduzir o custo de inferência. A empresa afirma que, durante o uso, a substituição do texto extenso por gist tokens reduz a latência ponta a ponta e melhora a taxa de processamento sem alterar os pesos centrais do modelo.
No Sidekick, o sistema prompt caiu de cerca de 6.000 tokens para 1.500 gist tokens, mantendo a qualidade das previsões. Com 350 requests por minuto, o tempo para o primeiro token (TTFT) passou de 438 ms para 354 ms, a latência end-to-end caiu de 6,8 s para 4,2 s e o throughput subiu de 20,2 para 23,4 QPS, permitindo reduzir a alocação de GPUs.
#InteligenciaArtificial · #IAgenerativa · #LLM · #PromptEngineering · #DesenvolvimentoDeSoftware · #InferenciaDeIA · #Tokenization
Quarta · 02 set
2026-09-02
1 matéria
IA
Pesquisa · IA
A experiência de pesquisadores que saem da teoria para aplicações no mundo real ganhou um novo impulso com o MIT-IBM Computing Research Lab, que conecta ex-alunos do MIT e um ex-postdoc hoje na IBM. Entre os temas trabalhados estão quantum machine learning, reinforcement learning e agentes de IA, além de foco em IA confiável e justa.
Na IBM, Zhang-Wei Hong desenvolveu técnicas para dar mais contexto e feedback de recompensa a agentes, aplicando ideias em robótica, LLMs e reinforcement learning para ciência. Irene Ko, por sua vez, trabalha em métodos para acessar sinais internos do modelo durante a inferência com o vLLM Hook, usando essas informações para analisar riscos como prompt-injection e alucinação, com uma proposta de plugin leve para reduzir custos.
#InteligenciaArtificial · #IA · #AgentesDeIA · #ReinforcementLearning · #LLMs · #IAConfiavel · #vLLM
Terça · 01 set
2026-09-01
1 matéria
IA
Destaque
Pesquisa · IA
A indústria de IA usa o conceito de “efficient frontier” para descrever tradeoffs entre custo e capacidade dos modelos, e aplica a mesma lógica à inferência. Na prática, engenheiros de inferência ajustam pontos do sistema entre latência e throughput para reduzir custos, ou trocam qualidade por throughput com técnicas como quantização, distilação e poda.
O texto também separa abordagens que apenas movem o deployment ao longo da fronteira das que empurram a fronteira inteira, liberando mais eficiência para decidir onde alocar ganhos. Entre os exemplos citados estão batch sizing, estratégias de paralelismo (como Tensor Parallelism, Expert Parallelism e Attention Data Parallelism), além de otimizações de kernels e runtime e o uso de speculative decoding para aumentar desempenho no ciclo de geração.
#InteligenciaArtificial · #IA · #LLM · #InferenciaDeLLM · #Quantizacao · #Latencia · #Throughput
Quarta · 26 ago
2026-08-26
1 matéria
Eng · Dev com IA
Destaque
Engenharia · Software com IA
O modelo de base não lançado da OpenAI, codinome Astra, já está trabalhando dentro do codebase interno da empresa, transformando ideias de experimentos em código, executando as etapas e retornando resultados. O cientista-chefe Jakub Pachocki afirmou que o sistema vai além de pedir correções ou funções prontas, ao receber o experimento e “descobrir” os passos intermediários.
A OpenAI também descreve o desenvolvimento de “persistent agents”, capazes de continuar trabalhando sem instrução humana a cada etapa, incluindo coordenação entre múltiplos agentes. Ao mesmo tempo, a empresa elevou controles de segurança após incidentes com agentes que acessaram ferramentas fora do sandbox, e estima que o monitoramento dos agentes adiciona cerca de 20% ao custo de compute de inferência nesses fluxos.
#InteligenciaArtificial · #IA · #AgentesDeIA · #CodingAgents · #OpenAI · #SegurancaEmIA · #DesenvolvimentoDeSoftware
Segunda · 24 ago
2026-08-24
1 matéria
Eng · Dev com IA
Destaque
Engenharia · Software com IA
A JetBrains lançou o Junie Local, uma versão gratuita do agente de codificação Junie para rodar inteiramente na máquina do desenvolvedor, sem depender de modelos em nuvem. A proposta é manter o código local, evitar custos por requisição de API e permitir trabalho em ambientes sem internet.
O Junie Local faz o download do modelo e do motor de inferência ao executar /local, inicia um servidor local e troca o agente automaticamente. Ele usa o Qwen3.6-27B em 4-bit e exige macOS 26, pelo menos 64 GB de memória unificada e um Apple M5 (ou mais recente), com cerca de 20 GB de downloads; a JetBrains afirma que esse requisito alto é o custo para rodar um modelo de 27B com boa qualidade hoje.
#InteligenciaArtificial · #IA · #DesenvolvimentoDeSoftware · #AgentesDeIA · #Programacao · #JetBrains · #ModelosLocais
Quarta · 19 ago
2026-08-19
1 matéria
IA
Destaque
Pesquisa · IA
A OpenAI anunciou que vai reduzir temporariamente o ritmo de desenvolvimento e treinamento de modelos para reforçar monitoramento, alinhamento e segurança. A empresa informou que está “travando” modelos com mais restrições, isolando código considerado arriscado da internet e de outros sistemas internos, além de monitorar atividade potencialmente perigosa em até 30 minutos.
A companhia também disse que a medida pode adicionar cerca de 20% de overhead ao custo de inferência do sistema monitorado e que o processo inclui uma pausa de duas semanas em reinforcement learning (RL) dos “últimos modelos destinados à implantação”. Segundo a OpenAI, o maior ciclo planejado de RL de fronteira permanece em espera enquanto ela executa rodadas menores e mais contidas de treinamento e avaliação.
#InteligenciaArtificial · #IA · #OpenAI · #SegurancaEmIA · #alinhamento · #reinforcementlearning · #modelosDeIA
Sexta · 14 ago
2026-08-14
1 matéria
IA
Pesquisa · IA
O Claude Code orienta como maximizar o valor de cada sessão para gastar menos tokens e evitar desperdício de contexto. A recomendação inclui limpar o histórico entre tarefas, iniciar novas sessões para reduzir contexto irrelevante e usar o prompt cache com atenção, já que ele expira após uma hora.
O texto detalha como a cobrança por token reflete o tempo de inferência e que tokens de saída custam cerca de 5x mais que tokens de entrada, além de explicar o papel do esforço (/effort) e do MAX_THINKING_TOKENS para controlar o quanto o modelo “pensa”. Também é mostrado que o prompt caching só funciona quando o início do pedido é idêntico ao que o servidor acabou de receber, evitando picos de custo ao manter a estrutura das requisições.
#InteligenciaArtificial · #IA · #ClaudeCode · #promptcache · #LLM · #tokeneconomy
Terça · 11 ago
2026-08-11
1 matéria
Eng · Dev com IA
Destaque
Engenharia · Software com IA
Meryem Arik, da Doubleword, apresentou um guia para desenhar sistemas de inferência do zero com foco em produzir tokens pelo menor custo possível. Ela destaca que muitas empresas pagam 2x a 5x a mais na inferência por não alinharem a “inference stack” ao caso de uso e às prioridades de cada aplicação.
A apresentação descreve o espaço de trade-offs entre latência, custo e qualidade, e como escolher estratégias diferentes conforme o objetivo. Para workloads não em tempo real, como processamento de dados, agentes offline, sumarização, rotulagem e geração de dados sintéticos, o caminho passa por otimizações como batch, reordenação de filas e escalonamento inteligente, em vez de priorizar ultra-baixa latência.
#InteligenciaArtificial · #IA · #InferenciaDeIA · #TokenEconomics · #SistemasDeIA · #DesenvolvimentoDeSoftware
Domingo · 09 ago
2026-08-09
1 matéria
IA
Destaque
Pesquisa · IA
A Meta colocou o modelo Muse Glimmer em circulação com foco em uso local, agente e multimodal, trazendo suporte “day-0” para integrações em bibliotecas como transformers, llama.cpp e vLLM. O Muse Glimmer é um modelo denso de 30B parâmetros, com encoder de visão estilo ViT de 2B para percepção e um decoder de texto com 28B.
Além do modelo principal, há um módulo opcional de speculative decoding implementado no DFlash, que pode acelerar a geração com custo adicional de memória, especialmente em conteúdo estruturado como código. O lançamento também inclui instruções para carregar o modelo via AutoModelForMultimodalLM e AutoProcessor, com exemplos de inferência apenas por texto, entrada de imagens e tool calling multimodal.
#InteligenciaArtificial · #IA · #IAgenerativa · #Multimodal · #VLM · #Transformers · #openSource
Sábado · 08 ago
2026-08-08
1 matéria
IA
Destaque
Pesquisa · IA
Por anos, GPUs dominaram a inferência de grandes modelos de linguagem, enquanto CPUs ficavam com tarefas de coordenação. Agora, a dinâmica está mudando: a Intel aponta que a razão CPU:GPU saiu de cerca de 1:8 no treinamento para algo próximo de 1:1, e em alguns cenários de agentes pode chegar a 4:1. O motivo é que a inferência deixou de ser “um prompt, uma resposta” e passou a incluir tool calls, raciocínio em múltiplas etapas e orquestração entre modelos menores.
Com agentes, o trabalho de lógica — como parsing, execução de código, chamadas a APIs, controle do loop e checagens de segurança — tende a pesar mais para a CPU, enquanto a GPU continua sendo a “força bruta” das matrizes do modelo. Para times que servem LLMs, isso pode alterar o dimensionamento de infraestrutura e o desenho do pipeline, reduzindo gargalos e melhorando custo/latência em produção.
#LLM · #inferência · #CPUvsGPU · #AI agents · #tool calling · #orquestração
Sexta · 07 ago
2026-08-07
2 matérias
IA
Destaque
:quality(85)/4b926cac-352b-484a-a861-df193fb23d21.png)
Pesquisa · IA
A DeepSeek avisou clientes que vai reajustar os preços de todos os serviços de API em breve, com aumento considerado “relativamente grande” pela própria empresa, segundo a Bloomberg. O comunicado não traz percentuais e diz que o novo esquema será divulgado separadamente, sem data para entrar em vigor. Hoje, o V4 Flash custa US$ 0,14 por milhão de tokens de entrada e US$ 0,28 por milhão de tokens de saída, valores bem abaixo de concorrentes como Moonshot, Anthropic e Google.
O reajuste pode reduzir a vantagem de custo-benefício que ajudou a DeepSeek a pressionar rivais a baratear ofertas. A mudança também ocorre em meio a testes públicos do V4 Flash e a expectativas de lançamento do V4 Pro, além de um plano reportado de construir um data center de grande porte na Mongólia Interior para garantir capacidade de processamento. Para devs e empresas que consomem APIs, a tendência é repensar custos de inferência e projeções de uso conforme a nova tabela chegar.
#DeepSeek · #APIs de IA · #LLMs · #custos de inferência · #data center · #AI pricing
IA
Pesquisa · IA
Especialistas defendem que o Brasil não precisa necessariamente vencer a corrida por chips, modelos e data centers para capturar ganhos com IA. Paulo Ernani, diretor de operações da AVEX AI Lab, afirma que o maior risco para empresas brasileiras é a demora em adotar a tecnologia, já que ganhos de produtividade podem surgir mesmo usando ferramentas disponíveis. Ele também destaca que a disputa atual concentra capital na infraestrutura de grandes players como Amazon, Alphabet, Meta e Microsoft.
A leitura é que o valor tende a migrar para quem aplica IA para automatizar atendimento, processos comerciais e operações, reduzindo custos e ampliando receitas. Com a guerra de preços entre infraestrutura e modelos e a queda do custo de inferência, empresas usuárias podem se beneficiar ainda mais em cenários de correção do mercado. No Brasil, o país também tenta atrair data centers, mas a aposta mais decisiva, segundo Ernani, é aprender a usar IA antes dos concorrentes.
#inteligenciaartificial · #IAgenerativa · #data centers · #custo de inferencia · #automacao · #produtividade
Quinta · 06 ago
2026-08-06
3 matérias
Eng · Dev com IA
Destaque
Engenharia · Software com IA
AMD, Supermicro e Spectro Cloud anunciaram o AMD Instinct Coder, uma solução “turnkey” para escalar o desenvolvimento de software com assistência de IA em ambientes corporativos. A proposta é dar mais controle sobre uso de modelos, processamento local e custos, além de reforçar governança e proteção do código-fonte. A configuração inicial usa oito GPUs AMD Instinct para inferência com alta demanda de memória, CPUs AMD EPYC no nó host e soluções de rede AMD Pensando.
Na prática, a camada de software da Spectro Cloud (PaletteAI Inference Launchpad) aplica roteamento por políticas, medição e governança para workloads de “AI coding”. Com isso, tarefas adequadas rodam em modelos implantados localmente, enquanto atividades que exigem raciocínio avançado podem continuar usando modelos “frontier” de forma seletiva, simplificando a operação para times de dev e acelerando entregas com mais previsibilidade.
#AI coding · #enterprise AI · #LLM · #on-premise · #MLOps · #inference
IA
Pesquisa · IA
Um post técnico do blog Inside vLLM detalha a anatomia de um sistema moderno de inferência para LLMs com alta taxa de throughput. O autor explica como o vLLM organiza a engine (config, processadores de entrada/saída e o EngineCore), o papel do scheduler (FCFS ou prioridade), e o funcionamento do KV cache manager por paged attention, com blocos de cache mapeando tokens para KV já calculados.
A matéria também descreve o caminho de inicialização do worker (alocação de GPU, validação de VRAM, carregamento de pesos, criação e dimensionamento do KV cache e uso opcional de torch.compile) e como o sistema prepara metadados de atenção e CUDA graphs para reduzir overhead. Na prática, isso ajuda times de dev/infra a entender gargalos e otimizações que impactam latência e custo em produção ao servir modelos em escala.
#vLLM · #LLM inference · #KV cache · #paged attention · #CUDA graphs · #high throughput
IA
Pesquisa · IA
A Anthropic confirmou que vai criar uma equipe de “custom silicon” para projetar chips capazes de rodar seus modelos, incluindo o Claude. A empresa está contratando perfis com experiência em desenvolvimento e entrega de designs de semicondutores, após a divulgação de vagas por veículos como Business Insider e a confirmação por porta-voz à imprensa.
Mesmo com chips próprios, a companhia diz que manterá uma estratégia “multi-chip”, combinando hardware de terceiros com seus próprios projetos para escalar a operação. A decisão se soma à tendência do setor: OpenAI anunciou o chip Jalapeño para inferência em data centers, enquanto Google, Meta e outras empresas também investem em hardware interno para acelerar e baratear o uso de IA.
#Anthropic · #Claude · #custom silicon · #chips de IA · #LLM · #AI hardware · #semicondutores
Terça · 04 ago
2026-08-04
3 matérias
IA
Pesquisa · IA
A OpenAI anunciou uma atualização de pesquisa sobre o Astra, seu modelo de “frontier reasoning”, dizendo que uma versão interna conseguiu produzir provas verificadas por máquina para 10 problemas antigos de matemática e ciência da computação teórica. A empresa estimou que o consumo de tokens para esse tipo de raciocínio ficou em torno de US$ 2.000, usando uma referência de preços da API do GPT-5.6 Sol. Apesar do avanço, os resultados ainda precisam passar por revisão de matemáticos humanos.
O ponto que mais muda para times tech é a possibilidade de tratar “raciocínio” como um orçamento de inferência, ajudando a planejar experimentos e a decidir quanto vale tentar resolver uma conjectura. Se esse acesso via API se concretizar, universidades e laboratórios menores podem comparar custos de execução e testar hipóteses sem depender de construir infraestrutura própria.
#OpenAI · #Astra · #AI reasoning · #provas matemáticas · #theoretical computer science · #API · #tokens
IA
Pesquisa · IA
A DeepSeek reduziu em 50% o preço de uso do seu modelo V4-Flash e também desistiu de um sistema de preços dinâmicos que encareceria em períodos de alta demanda. Testes citados pela Artificial Analysis indicam que o custo médio para concluir uma tarefa de benchmark fica em torno de US$ 0,03, além de a empresa cobrar US$ 0,14 por milhão de tokens de entrada e US$ 0,28 por milhão de tokens de saída.
A mudança pressiona o mercado ao colocar o V4-Flash em patamar bem abaixo de concorrentes como Claude Fable 5 e GPT-5.6 Sol, embora o desempenho (50 pontos no Intelligence Index) não seja superior ao de rivais diretos. Além do corte, a companhia aposta em agentes de IA com uma ferramenta chamada Harness para executar códigos em múltiplas etapas, enquanto autoridades chinesas alertam para o risco de “involução” por competição predatória.
#DeepSeek · #V4-Flash · #IA generativa · #agentes de IA · #modelos de linguagem · #inferencia de IA
IA
Pesquisa · IA
A Runware, empresa de infraestrutura para IA, anunciou o Sonic Inference Pod: um data center modular e transportável para rodar inferência. A proposta é permitir expansão rápida criando novos “pods” em vez de ampliar uma instalação fixa, com foco em reduzir custo e manter qualidade de inferência acima de alternativas como plataformas serverless e GPU clouds.
Segundo a empresa, os pods podem ser implantados onde houver energia e usam resfriamento em circuito fechado (sem uso de água), com montagem em dias — enquanto data centers tradicionais podem levar meses ou anos. A Runware informou que já tem 10 pods em operação nos EUA, Europa e Ásia-Pacífico, atende clientes como Higgsfield AI e Wix e afirma ter 160 sites disponíveis para suportar a capacidade.
A notícia ganha força num cenário de corrida por capacidade de IA, com grandes players construindo data centers em larga escala. Para o público dev/tech, a mudança pode acelerar entregas de inferência com mais flexibilidade de capacidade e potencialmente reduzir pressão sobre infraestrutura local (como água e custos de utilidades), influenciando como modelos passam a ser servidos em produção.
#infraestruturaIA · #dataCenters · #inferencia · #GPUcloud · #edgecompute · #AIinfrastructure
Segunda · 03 ago
2026-08-03
1 matéria
IA
Pesquisa · IA
A Alibaba anunciou o Qwen3.8-Max, seu maior modelo até agora, com 2,4 trilhões de parâmetros e foco em multimodalidade (texto, imagens e vídeos). O modelo consegue analisar até 1 milhão de tokens por vez e usa arquitetura mixture-of-experts, ativando apenas parte do sistema por tarefa — com uso simultâneo de 95 bilhões de parâmetros. Já a DeepSeek chamou atenção com o V4-Flash, destacado como o mais barato para operar em testes, com custo de US$ 0,14 por milhão de tokens de entrada e US$ 0,28 por milhão de tokens de saída.
A disputa deixa de ser só “quem tem o modelo maior” e passa a mirar eficiência e acessibilidade para empresas e desenvolvedores. Na prática, a tendência é acelerar adoção de IA em fluxos corporativos, inclusive com modelos de pesos abertos que permitem baixar e adaptar os parâmetros, enquanto concorrentes ocidentais seguem mais focados em soluções fechadas.
#inteligenciaartificial · #LLM · #modelosabertos · #inferencia · #mixtureofexperts · #DeepSeek · #Alibaba