O E.SUN Bank, em parceria com a IBM Consulting, acaba de dar um passo significativo na regulamentação da Inteligência Artificial (IA) no setor bancário. A colaboração resultou na criação de um framework robusto de governança de IA, projetado para orientar o uso ético e seguro dessa tecnologia dentro das instituições financeiras. Este movimento reflete uma tendência global, onde bancos, que já utilizam IA para detecção de fraudes e avaliação de crédito, agora buscam formas mais claras de gerenciar esses sistemas para cumprir normas legais e de risco.
A Ascensão da IA no Setor Financeiro e Seus Desafios
A Inteligência Artificial tem transformado o setor bancário, expandindo-se para além das funções tradicionais. Hoje, além de combater fraudes e calcular scores de crédito, a IA auxilia no atendimento ao cliente, revisão de documentos e sistemas internos de conhecimento. No entanto, essa expansão levanta questões cruciais para o setor: Como testar um modelo de IA antes de colocá-lo em produção? Quem se responsabiliza por decisões errôneas? E, principalmente, como garantir aos reguladores que os sistemas são justos e seguros?
O Framework de Governança de IA do E.SUN Bank e IBM
Para responder a esses desafios, o E.SUN Bank e a IBM Consulting desenvolveram um framework de governança de IA especificamente para o setor bancário. O projeto inclui também um white paper que detalha como as empresas financeiras podem construir controles internos eficazes em torno de seus sistemas de IA. Este trabalho adapta padrões globais de renome, como o EU AI Act da União Europeia e a ISO/IEC 42001, para as particularidades dos serviços financeiros.
O framework estabelece diretrizes claras para a revisão de modelos de IA antes de sua implantação e para o monitoramento contínuo após entrarem em produção. Ele abrange também regras sobre o uso de dados e a realização de revisões de risco, visando ajudar as instituições financeiras a introduzir sistemas de IA em larga escala – em operações como empréstimos e pagamentos – mantendo a supervisão regulatória e a governança.
Gerenciando os Riscos da 'Caixa-Preta' da IA
Bancos têm fortes motivos para implementar salvaguardas nos sistemas de IA. O setor financeiro é baseado na confiança, e os reguladores exigem que as empresas rastreiem como as decisões são tomadas. Muitos modelos de IA, no entanto, operam como “caixas-pretas” (em inglês, black boxes), o que significa que pode ser difícil explicar como eles chegam a um resultado final. Isso pode gerar problemas sérios em áreas como decisões de crédito ou detecção de fraudes, onde a transparência é essencial.
As autoridades reguladoras em diversas regiões já estão focando nesses riscos. O EU AI Act, adotado em 2024, impõe regras rigorosas para sistemas de IA usados em setores de alto risco, como finanças, exigindo avaliação de riscos, documentação de dados de treinamento e monitoramento pós-implantação. Da mesma forma, a ISO/IEC 42001, publicada em 2023, orienta as organizações na construção de sistemas de gestão para IA, focando em supervisão, monitoramento de modelos e gestão de dados. O projeto do E.SUN Bank e IBM se inspira em ambos para mostrar como essas regras podem ser aplicadas no dia a dia bancário.
Da Experimentação à Implementação Empresarial
Há anos, bancos utilizam o Machine Learning para análise de risco e detecção de fraudes. No entanto, os modelos de IA mais recentes expandem drasticamente o uso da tecnologia, chegando a áreas como atendimento ao cliente e sistemas de conhecimento internos. Essa expansão traz consigo novas necessidades de governança. Um sistema que sugere respostas a consultas de clientes pode parecer de baixo risco, mas um modelo que ajuda a aprovar empréstimos ou detectar fraudes pode ter impactos financeiros diretos e significativos.
O framework de governança desenvolvido por E.SUN Bank e IBM estabelece um processo para rastrear esses riscos. Os modelos são revisados antes de serem ativados, e as equipes monitoram seus resultados após a implantação. Além disso, o framework atribui responsabilidades claras entre as equipes, desde desenvolvedores até a equipe de compliance, detalhando como os bancos podem classificar os sistemas de IA por nível de risco e aplicar diferentes níveis de supervisão.
Impacto no Mercado Financeiro: Uma Tendência Global
O trabalho do E.SUN Bank reflete uma tendência crescente no mercado financeiro global: a governança de IA é vista como um passo essencial antes de escalar a tecnologia para todas as operações. Pesquisas de mercado corroboram essa visão: um relatório de 2024 da NVIDIA indicou que cerca de 91% das empresas de serviços financeiros estão avaliando ou já utilizando IA, principalmente em detecção de fraudes e modelagem de risco.
Além disso, uma pesquisa da Deloitte revela que mais de 70% das instituições financeiras planejam aumentar seus investimentos em IA, grande parte focada em monitoramento de conformidade e análise de risco. Ao mesmo tempo, reguladores estão mais atentos, alertando bancos para monitorar o impacto de sistemas automatizados em decisões críticas, o que impulsiona ainda mais o investimento em sistemas de supervisão interna, focando não apenas na precisão do modelo, mas também nas fontes de dados e na lógica de decisão ao longo do tempo.
Conclusão: Um Futuro Mais Seguro e Transparente com a IA Bancária
A iniciativa do E.SUN Bank e IBM Consulting representa um marco importante na forma como o setor financeiro aborda a Inteligência Artificial. Ao estabelecer um framework de governança abrangente, eles não apenas pavimentam o caminho para uma adoção mais segura e regulamentada da IA, mas também incentivam a confiança e a transparência em um setor crucial para a economia global. À medida que a IA se torna cada vez mais integrada às operações bancárias, a capacidade de gerenciar seus riscos e garantir sua conformidade será fundamental para o sucesso e a sustentabilidade das instituições financeiras.
Gostou da notícia? Inscreva-se na nossa newsletter para receber as principais novidades sobre inteligência artificial diretamente no seu e-mail.
