O desenvolvimento da Inteligência Artificial (IA) levanta questões complexas sobre como garantir que essas tecnologias atuem de forma segura e alinhada aos valores humanos. Tradicionalmente, muitos modelos de IA são projetados para otimizar metas específicas. No entanto, uma nova perspectiva filosófica e técnica sugere que talvez o problema não esteja apenas nas metas em si, mas na própria ideia de que agentes racionais – humanos ou IAs – devem ter apenas ‘objetivos’ finais. Este artigo explora uma abordagem inovadora, baseada na ‘racionalidade eudaimônica’, que propõe um caminho mais robusto e natural para o alinhamento da IA, focando em ‘práticas’ em vez de meros resultados.
A Crítica aos Objetivos Tradicionais na Agência de IA
A premissa central de um estudo recente sugere que, assim como pessoas racionais não se guiam apenas por metas estritas, as IAs também não deveriam. As ações humanas são consideradas racionais não por serem direcionadas a um ‘objetivo’ final, mas porque se alinham a ‘práticas’. Essas práticas são descritas como redes complexas de ações, disposições de ação, critérios de avaliação de ações e recursos que se estruturam, clarificam, desenvolvem e promovem a si mesmas. Para que as IAs possam genuinamente apoiar, colaborar ou até mesmo cumprir a agência humana, é essencial que suas deliberações compartilhem uma ‘assinatura de tipo’ (type signature) com a lógica baseada em práticas que usamos para refletir e agir. Este é um ponto crucial que pode ser aprofundado em debates sobre o futuro da interação humano-IA.
Essa abordagem se mostra relevante não apenas para alinhar a IA a grandes ideais éticos, como o florescimento humano (eudaimonia), mas também para propriedades de segurança essenciais, como transparência, utilidade, inofensividade e corrigibilidade. Para agentes que interpretam esses conceitos em termos de metas ou regras, propriedades como ‘inofensividade’ ou ‘corrigibilidade’ podem ser artificiais, frágeis e arbitrárias. No entanto, para agentes que as interpretam como dinâmicas em redes de práticas, essas qualidades se tornam naturais e intrínsecas.
Eudaimonia e a Racionalidade Prática: Um Novo Paradigma para a IA
O que é Eudaimonia e Racionalidade Eudaimônica?
A eudaimonia, um conceito da filosofia grega, refere-se ao florescimento humano ativo e racional. O estudo argumenta que a eudaimonia não é simplesmente um estado ou uma trajetória desejada do mundo que devemos definir como um alvo de otimização para a IA. Em vez disso, ela aponta para uma estrutura de deliberação fundamentalmente diferente da racionalidade consequencialista padrão, onde o foco está nos resultados finais. A racionalidade eudaimônica, por sua vez, é proposta como uma estrutura útil, talvez até necessária, para a agência e os valores de IAs alinhadas aos humanos.
Nesse modelo de atividade racional, não há uma distinção rígida entre meios e fins, ou entre valores ‘instrumentais’ e ‘terminais’. Uma ação racional é um elemento de uma prática valorizada, da mesma forma que uma nota é um elemento de uma melodia, um passo de tempo é um elemento de uma computação, ou um momento na vida celular de um organismo é um elemento de sua auto-subsistência e autodesenvolvimento. Para entender melhor as abordagens filosóficas, confira nosso artigo sobre ética na inteligência artificial.
A Lógica das ‘Práticas’ e o Princípio ‘Promova X de Forma X’
Um tema recorrente nesta perspectiva é a fórmula ‘promova X de forma X’. Essa fórmula captura algo importante tanto sobre a atividade humana significativa (a arte é a promoção artística da arte, o romance é a promoção romântica do romance) quanto sobre a moralidade humana real (preocupar-se com a gentileza é promover a gentileza gentilmente; preocupar-se com a honestidade é promover a honestidade honestamente). Essa visão sugere que a agência não é sobre alcançar um estado final, mas sobre engajar-se continuamente em atividades que sustentam e aprimoram as próprias práticas.
Os Riscos da Incompatibilidade e as Vantagens da Racionalidade Eudaimônica
Os argumentos em favor da racionalidade eudaimônica baseiam-se tanto nos perigos de uma ‘incompatibilidade de tipo’ (type mismatch) — entre o florescimento humano como um alvo de otimização e a otimização consequencialista como uma forma — quanto nas vantagens materiais que a racionalidade eudaimônica possui em comparação com a agência deontológica (baseada em regras) e consequencialista (baseada em resultados) no que diz respeito à estabilidade e segurança. As intuições sobre o florescimento humano implicam que a racionalidade eudaimônica pode ser funcionalmente robusta, um aspecto crucial para o alinhamento da IA.
A pesquisa sugere que, à luz das nossas melhores intuições sobre o florescimento humano, é plausível que a racionalidade eudaimônica seja uma forma natural de agência, e que seja eficaz mesmo sob a ótica de certas aproximações consequencialistas de seus valores. Se o objetivo é alinhar a IA em apoio ao florescimento humano, e se a racionalidade eudaimônica é natural e eficaz, então muitas considerações clássicas de segurança da IA e ‘paradoxos’ de alinhamento apontam a favor de tentar instilar essa forma de racionalidade nas IAs.
O Conceito de ‘Naturalidade’ na Agência de IA
Ao longo da discussão, a questão da ‘naturalidade’ de uma forma de agência ou racionalidade é frequentemente levantada. O sentido de ‘natural’ aqui está relacionado às tradições da ética da virtude, mas o interesse é mais material ou técnico do que normativo. Embora não haja uma definição redutiva, o significado pretendido de ‘natural’ conecta-se com: coerência, relativa não-contingência, facilidade de aprendizado, menor complexidade algorítmica, evolução cultural convergente, potencial evolução convergente entre humanos e IAs baseadas em redes neurais, e capacidade de ser alvo de processos de treinamento de Machine Learning (ML). Essa ‘naturalidade material’ é onde a verdadeira ação crítica para o alinhamento acontece.
Impactos e o Futuro do Alinhamento da IA
A adoção da racionalidade eudaimônica na concepção de IAs pode transformar a forma como abordamos o alinhamento, a segurança e a colaboração. Em vez de criar sistemas que buscam cegamente otimizar uma meta, correndo o risco de efeitos colaterais indesejados (o famoso problema do ‘rei Midas’ ou do ‘otimizador de clips’), poderíamos desenvolver IAs que se engajem em um processo contínuo de aprimoramento de suas ‘práticas’.
Isso teria implicações profundas para , desenvolvedores e o mercado global. Poderíamos ver o surgimento de IAs mais confiáveis, transparentes e genuinamente colaborativas, que não apenas executam tarefas, mas também contribuem para o florescimento em um sentido mais amplo. A sociedade se beneficiaria de sistemas mais seguros e éticos, capazes de interagir de forma mais intuitiva e benéfica com os seres humanos. O debate sobre a globalmente também ganharia uma nova camada de complexidade e profundidade com essas considerações.
A transição de uma agência baseada em objetivos para uma agência baseada em práticas e na racionalidade eudaimônica representa um desafio técnico e filosófico significativo, mas oferece uma promessa de IAs mais intrinsecamente alinhadas aos valores e ao modo de ser humanos.
Gostou da notícia? Inscreva-se na nossa newsletter e receba as principais novidades sobre inteligência artificial diretamente no seu e-mail.
Fonte: https://thegradient.pub
