Executar inteligência artificial poderosa em seu smartphone não é apenas um problema de hardware — é uma questão de arquitetura de modelo. A maioria dos codificadores de visão de última geração, que são a ‘visão’ de uma IA, são enormes. Ao tentar reduzi-los para caber em dispositivos de borda, como celulares e headsets de Realidade Aumentada, eles acabam perdendo as capacidades que os tornaram úteis. O problema se agrava porque modelos especializados tendem a ser excelentes em um tipo de tarefa, como classificação de imagens ou segmentação de cenas, mas falham drasticamente quando solicitados a realizar algo fora de sua especialidade.

Diante desse cenário, as equipes de pesquisa em inteligência artificial da Meta estão propondo um caminho diferente. Eles apresentaram o Efficient Universal Perception Encoder (EUPE): um codificador de visão compacto que pode lidar com diversas tarefas de visão simultaneamente, sem a necessidade de ser um modelo gigantesco. Esta inovação promete democratizar o acesso a capacidades avançadas de IA em dispositivos de uso diário, abrindo portas para aplicações mais sofisticadas e eficientes.

O Desafio: Modelos Especialistas vs. Generalistas

Para entender a importância do EUPE, é fundamental compreender como funcionam os codificadores de visão e por que a especialização é um problema. Um codificador de visão é a parte de um modelo de visão computacional que transforma os pixels brutos de uma imagem em uma representação compacta – um conjunto de vetores de características – que outras tarefas (como classificação, segmentação ou resposta a perguntas sobre a imagem) podem utilizar. Pense nele como os ‘olhos’ de um pipeline de IA.

Modelos de codificação de visão modernos são treinados com objetivos específicos, o que lhes confere uma vantagem em domínios particulares. No entanto, essa especialização gera limitações notáveis em dispositivos de borda, onde a versatilidade é crucial:

Para um dispositivo de borda – como um smartphone ou um óculos de Realidade Aumentada – que precisa lidar com todos esses tipos de tarefas simultaneamente, a solução típica é implantar múltiplos codificadores de uma vez. Isso rapidamente se torna proibitivo em termos de capacidade computacional. A alternativa é aceitar que um único codificador terá desempenho inferior em vários domínios.

Tentativas Anteriores e Seus Limites

Pesquisadores já tentaram combinar os pontos fortes de múltiplos codificadores especialistas por meio de um conjunto de métodos chamado destilação multi-professor aglomerativa. A ideia básica: treinar um único codificador ‘aluno’ para imitar simultaneamente vários modelos ‘professores’, cada um sendo um especialista em seu domínio.

AM-RADIO e seu sucessor RADIOv2.5 são talvez os exemplos mais conhecidos dessa abordagem. Eles mostraram que a destilação aglomerativa pode funcionar bem para codificadores grandes — modelos com mais de 300 milhões de parâmetros. No entanto, a pesquisa do EUPE demonstra uma limitação clara: quando a mesma receita é aplicada a arquiteturas eficientes, os resultados degradam substancialmente. O RADIOv2.5-B, a variante em escala ViT-B, apresenta lacunas significativas em comparação com especialistas de domínio em tarefas de previsão densa e de VLM.

Outro método aglomerativo, o DUNE, que mescla professores de visão 2D e percepção 3D através de codestilação heterogênea, também apresenta dificuldades na escala de backbones eficientes. A equipe de pesquisa argumenta que a causa raiz é a capacidade. Codificadores eficientes simplesmente não possuem capacidade representacional suficiente para absorver diretamente diversas representações de características de múltiplos professores especialistas e unificá-las em uma representação universal. Tentar fazer isso em uma única etapa resulta em um modelo que é medíocre em todas as áreas.

A Solução do EUPE: Primeiro Escalar, Depois Reduzir

A principal sacada por trás do EUPE é um princípio nomeado ‘primeiro escalar e depois reduzir’ (first scaling up and then scaling down). Em vez de destilar diretamente de múltiplos professores especialistas em domínio para um aluno pequeno, o EUPE introduz um modelo intermediário: um grande professor ‘proxy’ com capacidade suficiente para unificar o conhecimento de todos os especialistas de domínio. Esse professor proxy, então, transfere seu conhecimento unificado e universal para o aluno eficiente através da destilação, tornando o processo mais eficaz.

As Três Etapas do Treinamento do EUPE

O pipeline completo de treinamento do EUPE compreende três estágios:

(O artigo original é interrompido aqui, a continuação das etapas de treinamento não está disponível na fonte fornecida.)

Impacto no Mercado e O Que Esperar

A abordagem do EUPE representa um avanço significativo na busca por modelos de IA mais versáteis e eficientes. Ao permitir que um único codificador compacto execute múltiplas tarefas de visão com alta performance, o EUPE tem o potencial de revolucionar a forma como a inteligência artificial é implementada em dispositivos de borda. Isso pode levar a smartphones, óculos de realidade aumentada e outros gadgets com capacidades de IA muito mais robustas, sem comprometer a duração da bateria ou exigir hardware superpotente.

Para desenvolvedores, a capacidade de integrar um único modelo generalista de alta performance simplifica o desenvolvimento e a implantação de aplicações de IA. Para empresas, abre caminho para novos produtos e serviços que dependem da compreensão visual sofisticada e em tempo real. A sociedade, por sua vez, pode esperar uma nova geração de dispositivos inteligentes que interagem de forma mais natural e eficiente com o mundo ao seu redor, desde assistentes virtuais mais capazes até sistemas de segurança avançados, tudo impulsionado por uma IA mais compacta e poderosa.

Conclusão

O EUPE da Meta AI é uma resposta engenhosa ao dilema de modelos de visão especializados versus generalistas em dispositivos de borda. Sua estratégia de ‘escalar para cima e depois para baixo’ promete oferecer a versatilidade e a performance necessárias para impulsionar a próxima onda de inovações em inteligência artificial móvel e embarcada. Ao unificar o conhecimento de diversos especialistas em um modelo compacto, o EUPE não apenas desafia as limitações atuais, mas também pavimenta o caminho para um futuro onde a IA robusta é verdadeiramente ubíqua e acessível a todos.

Gostou da notícia? Inscreva-se na nossa newsletter para receber as principais novidades sobre inteligência artificial diretamente no seu e-mail.

Fonte: https://www.marktechpost.com