Gobernanza de IA: el debate global entre riesgos técnicos y dilemas éticos

La conversación global sobre cómo gobernar la inteligencia artificial se desarrolla en múltiples frentes, a menudo desconectados entre sí. Por un lado, los laboratorios tecnológicos se centran en los riesgos emergentes. Google DeepMind, por ejemplo, ha expresado su preocupación por las consecuencias de la interacción de millones de agentes de IA y ha impulsado un fondo de 10 millones de dólares junto a socios como Schmidt Sciences y la agencia británica ARIA para financiar investigación académica sobre la seguridad en estos sistemas multiagente, según MIT Technology Review. El objetivo es anticiparse a problemas como estafas a gran escala o ciberataques antes de que los agentes se desplieguen masivamente en la economía, un punto que Rohin Shah de DeepMind estima podría llegar en "unos pocos meses más".

En paralelo, el debate ético y moral gana tracción desde instituciones globales. El Papa Leo XIV publicó recientemente la encíclica *Magnifica Humanitas*, una carta de 83 páginas que advierte sobre la concentración del poder de la IA en pocas empresas y pide mayor supervisión y protección para los empleos, de acuerdo con Rest of World. Este marco ético ha atraído la atención de gigantes tecnológicos como Anthropic, Meta, Google y Amazon, cuyos directivos han mantenido reuniones en el Vaticano. La iniciativa busca ofrecer una guía moral en ausencia de una regulación internacional consolidada, aunque plantea interrogantes sobre qué sistemas de valores deben prevalecer en el desarrollo de la IA.

El mensaje del Vaticano tiene un eco particular en el Sur Global, donde viven muchos de los 1.400 millones de católicos del mundo, especialmente en América del Sur, África y Asia (según Rest of World). Estas son, precisamente, las regiones donde se concentra gran parte del trabajo de etiquetado de datos esencial para entrenar modelos de IA. Sin embargo, existe la preocupación de que los valores que dan forma a la IA no sean representativos. Una investigación citada por Rest of World señala que modelos populares ya muestran un sesgo hacia el catolicismo. Brian Patrick Green, director de ética tecnológica en la Universidad de Santa Clara, advierte que "es probable que con el tiempo los sistemas de IA se personalicen para las culturas que tienen suficiente poder y riqueza para pagar por esa personalización", lo que podría generar conflictos.

A pesar de estos debates técnicos y éticos, su impacto en los círculos de poder político y corporativo es incierto. Un reporte de The Verge describe una gala de la Washington AI Network donde el principal diplomático del Vaticano en EE. UU., el arzobispo Gabriele Caccia, intentó transmitir el mensaje de la encíclica a una audiencia de lobistas, ejecutivos y funcionarios. Según la crónica, su discurso fue recibido con indiferencia, ahogado por el servicio de la cena y el interés de los asistentes en celebrar a las figuras de la industria, lo que evidencia la brecha entre las discusiones sobre el bien común y los intereses que realmente moldean la regulación.