Samaya Sterling: O Agente de IA Financeira que Supera Claude Fable com Custo 11x Menor

Asif Razzaq

O mundo da Inteligência Artificial está em constante evolução, e a corrida para desenvolver modelos mais eficientes e acessíveis é incessante. A Samaya AI acaba de lançar o Samaya Sterling, um agente de pesquisa financeira que promete revolucionar o setor. Este modelo inovador não apenas supera o renomado Claude Fable 5.1 em performance no benchmark FrontierFinance, mas o faz com um custo impressionante 11 vezes menor. É um marco que demonstra o poder da otimização e do treinamento focado em domínio específico.

O Que Torna o Samaya Sterling Tão Especial?

O Samaya Sterling é um modelo pós-treinado, otimizado para atuar como um agente autônomo em pesquisa financeira. Ele é construído sobre o Nemotron 3.5 Lightning da NVIDIA, um robusto modelo Mixture-of-Experts (MoE) de 30 bilhões de parâmetros totais, mas com apenas 3 bilhões de parâmetros ativos. Essa arquitetura MoE permite que o modelo seja eficiente, ativando apenas os parâmetros necessários para uma determinada tarefa, o que contribui para seu desempenho superior e menor custo operacional.

Em testes realizados no benchmark FrontierFinance da própria Samaya, o Sterling atingiu uma pontuação de 58,9%, enquanto o Claude Fable 5.1 alcançou 55,9%. A diferença é notável, mas o que realmente impressiona é o custo por pergunta: apenas US$ 0,61 para o Sterling, contra US$ 6,89 para o Fable 5.1. Isso representa uma economia drástica, tornando a pesquisa financeira avançada com IA muito mais acessível para empresas e desenvolvedores.

Uma 'Receita Concreta' para o Sucesso com Agentes de IA

O desenvolvimento do Samaya Sterling oferece uma lição valiosa para a comunidade de IA: o co-treinamento de um modelo pequeno com sua “harness” (um sistema de orquestração e ferramentas) pode gerar resultados excepcionais em domínios específicos. Este é um testemunho do valor da especialização e da engenharia inteligente sobre a escala bruta de modelos muito maiores.

Os Bastidores: Como o Agente de Pesquisa Financeira Samaya Sterling Foi Treinado

A equipe da Samaya adaptou sua “harness” de produção financeira para funcionar de forma otimizada com um modelo menor. Isso incluiu simplificar o system prompt, descrever ferramentas de forma concisa e até mesmo mesclar ferramentas para reduzir o tamanho do prompt. Além disso, dois modelos auxiliares foram empregados para gerenciar o contexto de forma eficiente:

Condenser: um modelo que condensa resultados longos de ferramentas, garantindo que apenas as informações mais relevantes sejam passadas para o Sterling.Compactor: resume o histórico da pesquisa (trace) à medida que ele cresce, mantendo o contexto gerenciável.

Um “orçamento de pesquisa” também limita o tempo de trabalho do agente. Uma vez atingido esse limite, um “escritor de relatórios” separado compila as descobertas, garantindo que o processo seja eficiente e objetivo.

As Quatro Fases de Treinamento do Samaya Sterling

O treinamento do Samaya Sterling foi um processo meticuloso, dividido em quatro etapas principais, utilizando a API de treinamento Tinker, do Thinking Machines Lab:

SFT em traces sintéticas: A Samaya gerou 968 perguntas sintéticas de analistas. O modelo “professor”, Kimi K3, respondeu a cada uma duas vezes, e um LLM juiz selecionou a melhor resposta. Isso ensinou o Sterling a usar 37 ferramentas com argumentos válidos.SFT nas “melhores de 8” estratégias: Kimi K3 respondeu a 1.819 perguntas escritas por especialistas usando 8 estratégias de pesquisa. A melhor resposta avaliada para cada pergunta se tornou dado de treinamento, resultando em 1.157 perguntas filtradas.GRPO Offline: O método GRPO (Generative Reinforcement Learning with Policy Optimization) pontuou as 8 respostas do modelo professor umas contra as outras. Não foi necessária nova geração, tornando cada etapa mais barata.GRPO Online: O modelo respondeu a cada pergunta 8 vezes e aprendeu com as tentativas classificadas. Uma amostragem de importância truncada corrigiu uma incompatibilidade conhecida do amostrador MoE.

Cada uma dessas etapas contribuiu significativamente para a melhoria da qualidade do modelo, elevando sua pontuação no FrontierFinance de 42,5% (base) para os impressionantes 58,9% finais.

Performance Detalhada no Benchmark FrontierFinance

O FrontierFinance é um benchmark crucial que consiste em 220 consultas públicas, avaliadas por rubricas escritas por especialistas e um painel de juízes composto por três modelos. A Samaya garante que nenhuma das perguntas do benchmark foi usada no treinamento do Sterling, e os checkpoints foram escolhidos com base em 100 perguntas de validação interna.

Os resultados são claros: o Samaya Sterling alcança 58,9% com um custo de US$ 0,61 e latência de 282 segundos por pergunta. Em contraste, o Claude Fable 5.1 atinge 55,9% a um custo de US$ 6,89 e 268 segundos. Curiosamente, o próprio sistema de “alta performance” da Samaya obteve 2,9 pontos percentuais a menos que o Sterling, mas com um custo mais alto de US$ 1,81, demonstrando a superioridade da nova abordagem.

Em modo de “alto esforço”, o Sterling alcança 60,6% de acerto, custando US$ 1,83 e levando 372 segundos. Isso mostra a flexibilidade do modelo para tarefas que exigem maior profundidade. O custo do modelo em si é de apenas US$ 0,04 por pergunta, com o restante do valor total de US$ 0,61 sendo atribuído às ferramentas e modelos auxiliares, destacando a eficiência de cada componente.

Samaya Sterling em Comparação com o Mercado

Para contextualizar ainda mais, é importante ver como o Samaya Sterling se posiciona em relação a outros players e tecnologias-base no mercado:

Total / Parâmetros ativos: Sterling (30B / 3B MoE) vs. Nemotron 3.5 Lightning (30B / 3B MoE). Claude Fable e o sistema Samaya de alta performance não tiveram seus detalhes divulgados.Contexto: O Sterling não teve seu contexto de serviço divulgado, mas o modelo base Nemotron 3.5 Lightning suporta até 1M de tokens. Claude Fable também suporta 1M.Licença / Acesso: Atualmente, o Sterling não possui pesos públicos ou API anunciada. Claude Fable é uma API proprietária, enquanto o Nemotron 3.5 Lightning tem acesso OpenMDW-1.1 com pesos abertos.Score FrontierFinance: Sterling lidera com 58,9% (60,6% em alto esforço), superando Fable 5.1 (55,9%) e o sistema Samaya de alta performance (56,0%).Custo por pergunta: A grande vantagem do Sterling é seu custo de US$ 0,61 (US$ 1,83 em alto esforço), significativamente menor que os US$ 6,89 do Fable 5.1 e os US$ 1,81 do sistema Samaya de alta performance.Latência por pergunta: Sterling (282s) está em linha com Fable 5.1 (268s) e o sistema Samaya (278s).

Esses dados, embora auto-relatados pela Samaya, pintam um quadro claro da competitividade e eficiência do Sterling no nicho de IA financeira.

Impacto e Oportunidades no Cenário da IA Financeira

O lançamento do Samaya Sterling é um divisor de águas por diversas razões. A capacidade de um modelo menor e mais focado superar gigantes como o Claude Fable, com uma fração do custo, sinaliza uma tendência importante na Inteligência Artificial: a busca por eficiência e especialização. Isso abre portas para:

Redução de Custos: Empresas financeiras podem agora acessar capacidades avançadas de pesquisa de IA sem os altos custos associados aos modelos maiores.Democratização da IA: Mais startups e equipes menores poderão desenvolver e implantar soluções de IA sofisticadas no setor financeiro.Novas Metodologias de Treinamento: O sucesso do co-treinamento do Sterling incentiva a exploração de abordagens semelhantes para outros domínios.Competição Acirrada: A ascensão de modelos especializados como o Sterling forçará os desenvolvedores de LLMs maiores a inovar ainda mais em eficiência e custo-benefício.

Este avanço demonstra que nem sempre o maior modelo é o melhor, especialmente quando se trata de tarefas específicas e complexas. A abordagem “agêntica” do Sterling, que planeja, chama ferramentas, coleta evidências e sintetiza resultados, é um modelo para o futuro da automação inteligente. [LINK_INTERNO]

O Que Esperar do Futuro para o Samaya Sterling e Agentes de IA?

A Samaya AI ainda não anunciou planos para tornar o Sterling publicamente acessível via pesos abertos ou API, mas o impacto do seu lançamento já é palpável. É provável que vejamos:

Mais Modelos Especializados: Outras empresas podem ser inspiradas a criar seus próprios agentes de IA otimizados para nichos específicos.Melhorias Contínuas: A Samaya AI provavelmente continuará a refinar o Sterling, explorando novos limites de performance e eficiência.Novas Aplicações: A capacidade de agentes de IA para realizar pesquisa aprofundada pode se estender a outras áreas além das finanças, como pesquisa jurídica, médica ou científica.

O Samaya Sterling é mais do que apenas um novo modelo; é uma prova do poder da engenharia inteligente e da especialização no cenário da Inteligência Artificial, apontando para um futuro onde a IA de alta performance será não apenas poderosa, mas também surpreendentemente acessível.

Conclusão

A conquista da Samaya AI com o Samaya Sterling é um marco significativo. Ao demonstrar que um modelo de 3 bilhões de parâmetros ativos pode superar concorrentes mais robustos e caros em um domínio complexo como a pesquisa financeira, a empresa estabelece um novo padrão para a eficiência em IA. Este avanço não só valida a abordagem de co-treinamento entre modelo e “harness”, mas também abre caminho para uma nova era de agentes de IA especializados que prometem democratizar o acesso à inteligência artificial avançada em diversos setores. O futuro dos agentes de IA, especialmente no mercado financeiro, parece mais promissor e acessível do que nunca.

FAQ: Perguntas Frequentes sobre o Samaya Sterling

O que é o Samaya Sterling?

O Samaya Sterling é um avançado agente de Inteligência Artificial desenvolvido pela Samaya AI, projetado especificamente para pesquisa financeira. Ele utiliza uma arquitetura Mixture-of-Experts (MoE) e é pós-treinado para planejar pesquisas, usar ferramentas financeiras, coletar evidências e sintetizar descobertas.

Qual a principal vantagem do Samaya Sterling em relação a outros modelos de IA financeira?

A principal vantagem do Samaya Sterling é sua combinação de alta performance e custo-eficiência. Ele superou o Claude Fable 5.1 no benchmark FrontierFinance e opera com um custo por pergunta 11 vezes menor, tornando a pesquisa financeira avançada com IA muito mais acessível.

Gostou da notícia?

Inscreva-se na nossa newsletter e receba as principais novidades sobre inteligência artificial diretamente no seu e-mail.

Fonte: https://www.marktechpost.com

Veja também