A computação na borda (Edge AI) está prestes a ganhar um novo impulso com o lançamento do LFM2.5-2.6B, o mais recente modelo de linguagem de pesos abertos da Liquid AI. Desenvolvido por cientistas da computação egressos do MIT, este modelo de 2.6 bilhões de parâmetros promete levar agentes de IA poderosos para dispositivos tão pequenos quanto um Raspberry Pi, eliminando a necessidade de infraestrutura em nuvem ou GPUs dedicadas para inferência. Essa inovação abre portas para aplicações de Inteligência Artificial em ambientes onde a conectividade é limitada, a privacidade é primordial ou os custos de processamento são uma barreira.

O que o LFM2.5-2.6B da Liquid AI Significa para a Edge AI?

A Liquid AI, startup fundada em 2023, apresentou o LFM2.5-2.6B como uma solução desenhada especificamente para cargas de trabalho de agentes de IA (AI Agents). A proposta é audaciosa: rodar inteligência artificial complexa diretamente em hardware local, como smartphones, laptops e até mesmo microcomputadores como o Raspberry Pi. Isso representa uma quebra de paradigma para empresas em setores regulados ou que lidam com informações sensíveis, onde o envio de dados para a nuvem não é uma opção viável devido a preocupações com segurança e privacidade.

Para além das questões regulatórias, o apelo de ter agentes de IA de alto desempenho funcionando com o custo mínimo de energia elétrica é uma vantagem inegável. O modelo é otimizado para tarefas de alto volume e bem definidas, como chamadas de ferramentas (tool calling), gerenciamento de documentos, automação de calendários e fluxos de trabalho, e rotinas de fundo contínuas. No entanto, trabalhos que exigem intensa codificação são mais adequados para modelos maiores e mais robustos na nuvem.

Arquitetura e Disponibilidade do LFM2.5-2.6B

O nome LFM2.5-2.6B reflete a geração do modelo (2.5) e sua contagem de parâmetros (2.6 bilhões). Ele se destaca por sua janela de contexto de 128.000 tokens e suporte nativo para chamadas de ferramentas, essenciais para a funcionalidade de agentes.

Tanto o modelo pós-treinado quanto um checkpoint base (LFM2.5-2.6B-Base) para desenvolvedores que desejam realizar fine-tuning estão disponíveis no Hugging Face. A Liquid AI também assegurou suporte imediato para as principais stacks de inferência, incluindo llama.cpp, MLX, vLLM, SGLang e ONNX, garantindo sua ampla adaptabilidade em hardware de consumo, infraestrutura empresarial e sistemas embarcados. Além disso, a empresa oferece o LEAP, um framework de fine-tuning de código aberto, incentivando a comunidade a personalizar e aprimorar o modelo para necessidades específicas.

Não Concorrente, Mas Complementar: A Visão da Liquid AI para Modelos Pequenos

Em vez de posicionar o LFM2.5-2.6B como um rival direto dos maiores e mais poderosos Large Language Models (LLMs) de fronteira, a Liquid AI argumenta que modelos menores e suficientemente capazes podem desvendar categorias inteiras de aplicações empresariais. Nestes casos, fatores como latência, privacidade, flexibilidade de implantação ou custos de inferência são mais cruciais do que a liderança absoluta em benchmarks.

Maxime Labonne, chefe de pós-treinamento da Liquid AI, ressalta: “Eu também acredito que os melhores modelos estarão na nuvem, e não há problema com isso. Queremos fazer modelos para outro tipo de usuário, e a melhor maneira de descrevê-lo é: você deve usar Edge AI quando não puder usar um modelo em nuvem.” Essa filosofia destaca a importância da diversidade no ecossistema de IA, onde diferentes modelos atendem a diferentes necessidades e restrições.

LFM2.5-2.6B em Ação: Desempenho em Dispositivos Locais

Questionado sobre o hardware mínimo viável, Labonne afirmou que o modelo roda “muito, muito bem” em CPUs, e que a arquitetura LFM2 subjacente foi explicitamente projetada para desempenho real em CPU, e não apenas para benchmarks de GPU.

“Acho que o melhor exemplo é um Raspberry Pi. Temos muitas demos que mostram que, de fato, funciona muito rápido no Raspberry Pi.” Essas demonstrações práticas validam a promessa do modelo de trazer a IA para dispositivos com recursos limitados.

As medições divulgadas pela empresa indicam um throughput de decodificação de aproximadamente 220 tokens por segundo em um Apple M5 Max e 113 tokens por segundo em um AMD Ryzen AI Max+ 395, consumindo menos de 2.5 GB de memória. Em um smartphone, o desempenho é de cerca de 30 tokens por segundo. Usuários já podem experimentar o modelo em seus telefones através do Apollo, o aplicativo móvel da Liquid AI.

No outro extremo do espectro de implantação, a Liquid AI relata que o modelo atinge quase 15.000 tokens de saída por segundo em uma única GPU Nvidia H100 sob carga concorrente sustentada — o que equivale a cerca de 1.3 bilhão de tokens por dia em uma única placa. Embora esses números sejam benchmarks do fornecedor e ainda não tenham sido verificados independentemente, eles sublinham a versatilidade do modelo para escalar, se necessário.

Treinado para Agentes, Não para Chatbots

A Liquid AI desenvolveu o LFM2.5-2.6B sob a premissa de que os modelos de linguagem estão sendo cada vez mais consumidos por meio de frameworks de agentes, em vez de interfaces de conversação tradicionais. Essa mudança de paradigma é crucial para entender o foco do modelo.

Labonne explica: “Modelos não são mais consumidos em chatbots. Eles são realmente consumidos através de agentic harnesses, como OpenClaw, como Hermes Agent. Queríamos ter certeza de que este modelo não é apenas bom em matemática ou em código, mas é bom em usar ferramentas.”

O modelo foi pré-treinado em aproximadamente 34 trilhões de tokens, com um vocabulário duplicado para 128K para melhor suporte a scripts não-latinos e uma fase dedicada de treinamento intermediário para estender a janela de contexto para 128K tokens, otimizando-o para fluxos de trabalho de agentes de longa duração.

Impacto e Oportunidades da IA de Borda com LFM2.5-2.6B

A capacidade de rodar modelos de linguagem localmente sem a dependência da nuvem traz inúmeros benefícios e abre novas avenidas para a inovação em IA:

Para Labonne, a pegada de memória e a velocidade não são meras conveniências, mas restrições rígidas que determinam o que pode ser implantado. O LFM2.5-2.6B demonstra um “excelente equilíbrio”, oferecendo um nível de qualidade comparável a modelos muito maiores, mas em um formato minúsculo. Isso significa que ele pode ser implantado em dispositivos onde outros modelos simplesmente não conseguem funcionar.

O Que Esperar a Seguir?

O lançamento do LFM2.5-2.6B pela Liquid AI é um marco importante no desenvolvimento de modelos de linguagem otimizados para a borda. À medida que a demanda por privacidade, eficiência e autonomia cresce, a importância de modelos como este só tende a aumentar. Podemos esperar que outras empresas sigam o exemplo, investindo em pesquisa e desenvolvimento de LLMs compactos e eficientes, capazes de rodar em uma gama ainda maior de dispositivos e cenários.

A democratização da IA, permitindo que a inteligência seja processada onde os dados são gerados, tem o potencial de transformar indústrias inteiras e a maneira como interagimos com a tecnologia no dia a dia. A era da IA verdadeiramente distribuída e onipresente está apenas começando.

Conclusão

O LFM2.5-2.6B da Liquid AI não é apenas mais um modelo de linguagem; é um divisor de águas para a AI de borda e para o futuro dos agentes de IA. Sua capacidade de operar em hardware modesto, sem a necessidade de recursos de nuvem ou GPUs, resolve desafios cruciais de privacidade, custo e latência. Ao focar em tarefas agenticas e oferecer flexibilidade de implantação, a Liquid AI está pavimentando o caminho para uma nova geração de aplicações de IA que são mais seguras, eficientes e acessíveis. Este é um passo significativo para levar o poder da inteligência artificial diretamente para as mãos e dispositivos dos usuários, sem as amarras da infraestrutura centralizada.

FAQ – Perguntas Frequentes sobre LFM2.5-2.6B

O que é o LFM2.5-2.6B e qual sua principal inovação?

O LFM2.5-2.6B é um modelo de linguagem de pesos abertos desenvolvido pela Liquid AI, com 2.6 bilhões de parâmetros. Sua principal inovação é a capacidade de executar agentes de IA potentes diretamente em dispositivos locais, como smartphones, laptops e Raspberry Pis, sem a necessidade de inferência em nuvem ou GPUs, tornando a AI de borda mais acessível e privada.

Quais são as vantagens de usar o LFM2.5-2.6B em vez de um LLM baseado em nuvem?

As vantagens incluem maior privacidade e segurança, pois os dados não saem do dispositivo; custos de inferência significativamente menores; latência reduzida, com respostas mais rápidas; e a capacidade de operar em ambientes sem conectividade, ideal para aplicações em IoT, robótica e veículos autônomos. Ele é otimizado para cenários onde modelos em nuvem não são viáveis ou desejáveis.

Gostou da notícia?

Inscreva-se na nossa newsletter e receba as principais novidades sobre inteligência artificial diretamente no seu e-mail.