Microsoft define “inteligência híbrida” no Windows com Copilot e LLMs locais

A Microsoft apresentou a “inteligência híbrida” para PCs com Windows, combinando modelos locais de IA com recursos oferecidos em nuvem. A proposta busca equilibrar acesso a capacidades de ponta, permitir a execução de diferentes LLMs localmente e reduzir o gasto de tokens em assinaturas.

A empresa diz que a arquitetura se apoia em três pilares: roteamento inteligente de tarefas para escolher o melhor modelo, execução de LLMs locais mais avançados e um runtime de alto desempenho para otimizar o uso do hardware. O Copilot deve identificar quando é necessário usar um modelo local e, no GitHub Copilot, o recurso deve ganhar um novo roteador inteligente; a novidade chega apenas a computadores Copilot PC+.