A Inteligência Artificial (IA) está rapidamente se transformando de uma ferramenta experimental em um pilar central da infraestrutura empresarial. Nesse cenário de constante evolução, líderes de negócios precisam investir em uma governança de IA robusta para gerenciar com segurança seus sistemas e, assim, proteger as tão importantes margens de lucro de suas companhias. É o que destaca a IBM, por meio de seu SVP e CCO, Rob Thomas, apontando os desafios e a importância da abertura nesse novo paradigma.
A Evolução da IA: De Produto a Infraestrutura Essencial
Ao longo da história da adoção de software empresarial, um padrão se repete: a tecnologia amadurece de um produto autônomo para uma plataforma, e depois de uma plataforma para uma infraestrutura fundamental. Essa transição altera completamente as regras de governança e operação. No estágio inicial de um produto, o controle corporativo rigoroso, com ambientes de desenvolvimento fechados, permite iterações rápidas e gestão centralizada, concentrando o valor financeiro em uma única entidade – uma abordagem eficaz no início do ciclo de vida do produto.
No entanto, a análise da IBM ressalta que as expectativas mudam drasticamente quando uma tecnologia se solidifica como uma camada fundamental. Quando outras estruturas institucionais, mercados externos e sistemas operacionais amplos passam a depender do software, os padrões predominantes se adaptam a uma nova realidade. Em escala de infraestrutura, a abertura deixa de ser uma postura ideológica e se torna uma necessidade altamente prática. A IA está exatamente nesse ponto, cruzando esse limiar dentro da arquitetura empresarial.
Modelos de Inteligência Artificial estão cada vez mais embutidos diretamente na forma como as organizações protegem suas redes, criam códigos-fonte, executam decisões automatizadas e geram valor comercial. A IA funciona menos como uma utilidade experimental e mais como uma infraestrutura operacional central.
Riscos Imediatos: O Poder dos Modelos de IA e a Vulnerabilidade Empresarial
A prévia limitada recente do modelo Claude Mythos da Anthropic trouxe essa realidade para um foco mais nítido para executivos que gerenciam riscos. A Anthropic relatou que este modelo específico pode descobrir e explorar vulnerabilidades de software em um nível que se compara a poucos especialistas humanos. Em resposta a esse poder, a Anthropic lançou o Projeto Glasswing, uma iniciativa restrita projetada para colocar essas capacidades avançadas diretamente nas mãos dos defensores de rede primeiro.
Da perspectiva da IBM, esse desenvolvimento força os diretores de tecnologia a confrontar vulnerabilidades estruturais imediatas. Se modelos autônomos possuem a capacidade de escrever exploits e moldar o ambiente geral de segurança, Thomas observa que concentrar o entendimento desses sistemas em um pequeno número de fornecedores de tecnologia convida a uma grave exposição operacional.
Com os modelos de IA atingindo o status de infraestrutura, a IBM argumenta que a questão principal não é mais exclusivamente o que essas aplicações de Machine Learning podem executar. A prioridade se torna como esses sistemas são construídos, governados, inspecionados e ativamente melhorados por longos períodos.
Por Que Modelos de IA Fechados Prejudicam as Empresas
Dificuldade na Defesa e Resolução de Problemas
À medida que as estruturas subjacentes crescem em complexidade e importância corporativa, manter pipelines de desenvolvimento fechados torna-se extremamente difícil de defender. Nenhum fornecedor isolado pode antecipar com sucesso todos os requisitos operacionais, vetores de ataque adversários ou modos de falha do sistema. A implementação de estruturas de IA opacas introduz um atrito significativo em toda a arquitetura de rede existente.
A conexão de modelos proprietários fechados com bancos de dados vetoriais empresariais estabelecidos ou data lakes internos altamente sensíveis frequentemente cria gargalos massivos de solução de problemas. Quando ocorrem saídas anômalas ou as taxas de alucinação disparam, as equipes carecem da visibilidade interna necessária para diagnosticar se o erro se originou no pipeline de Geração Aumentada por Recuperação (RAG) ou nos pesos do modelo base.
Latência e Custos Elevados
A integração de arquitetura legada on-premises com modelos em nuvem altamente restritos também introduz uma latência severa nas operações diárias. Quando os protocolos de governança de dados empresariais proíbem estritamente o envio de informações sensíveis do cliente para servidores externos, as equipes de tecnologia são forçadas a tentar remover e anonimizar conjuntos de dados antes do processamento. Essa constante higienização de dados cria um enorme “arrasto operacional”.
Além disso, os custos crescentes de computação associados às chamadas contínuas de API para modelos bloqueados corroem as margens de lucro que esses sistemas autônomos deveriam aprimorar. A opacidade impede que os engenheiros de rede dimensionem com precisão as implantações de hardware, forçando as empresas a acordos de superprovisionamento caros para manter a funcionalidade básica.
A Essência da Resiliência Operacional: IA de Código Aberto
Restringir o acesso a aplicações poderosas é um instinto humano compreensível que se assemelha à cautela. No entanto, como Thomas aponta, em escala massiva de infraestrutura, a segurança geralmente melhora através de um rigoroso escrutínio externo, em vez de um ocultamento estrito. Isso representa a lição duradoura do desenvolvimento de software de código aberto.
O código aberto não elimina o risco empresarial. Em vez disso, a IBM defende que ele muda ativamente a forma como as organizações gerenciam esse risco. Uma fundação aberta permite que uma base mais ampla de pesquisadores, desenvolvedores corporativos e defensores de segurança examinem a arquitetura, identifiquem fraquezas subjacentes, testem suposições fundamentais e fortaleçam o sistema, tornando-o mais resiliente e seguro.
Conclusão
À medida que a Inteligência Artificial transcende o status de produto para se tornar uma infraestrutura fundamental, a forma como as empresas a governam se torna um fator decisivo para sua segurança e rentabilidade. A visão da IBM enfatiza que a abertura e a colaboração, características intrínsecas ao código aberto, são essenciais para construir sistemas de IA robustos e resilientes. Investir em uma governança de IA transparente e que abrace o escrutínio externo não só protege as margens empresariais, mas também pavimenta o caminho para a inovação contínua e a confiança na era da IA.
Gostou da notícia? Inscreva-se na nossa newsletter para receber as principais novidades sobre inteligência artificial diretamente no seu e-mail.
