India debate el futuro de la IA: la confianza es la clave, no la inteligencia

La confianza y la supervisión humana, por encima de la pura capacidad técnica, definirán el éxito de la inteligencia artificial. Esa fue la conclusión principal de la Conferencia Internacional sobre Sistemas de Inteligencia Artificial Seguros y Confiables (ICSTAIS-2026), celebrada en la Universidad de Chandigarh, India. El evento reunió a investigadores, académicos y líderes de la industria para debatir sobre los desafíos y tendencias en IA, ciberseguridad y confianza digital. Según los organizadores, de 261 trabajos de investigación recibidos de toda la India, se seleccionaron 158 y se presentaron 63 durante las sesiones técnicas.

La tecnología, por avanzada que sea, no puede reemplazar el juicio humano. Joyce Rodriguez, jefa de Ciberseguridad Digital de Airbus India, enfatizó en su discurso que el principio de "humano en el circuito" (human in the loop) es fundamental, especialmente en sectores críticos como la aviación. Rodriguez explicó que en su industria se aplica el "principio de cuatro ojos", un control de gobernanza que exige la revisión y aprobación de al menos dos personas para cualquier acción crítica. Comparó la IA con la electricidad: su verdadero potencial no reside en la tecnología en sí, sino en las herramientas que se construyen con ella para mejorar la vida de las personas. "La IA debe mejorar la inteligencia humana, no reemplazar la sabiduría, la empatía y el coraje, que son insustituibles", afirmó.

El éxito de la IA se medirá por cuánta confianza genera, no por cuán inteligente se vuelve. Así lo expuso el ex vicemariscal del aire Devesh Vatsa, asesor en el Consejo de Seguridad de Datos de la India (DSCI-NASSCOM). Advirtió que la integración de la IA en infraestructuras críticas sin las salvaguardas adecuadas contra ciberataques, sesgos, violaciones de la privacidad y riesgos autónomos, amenaza la confianza pública y crea graves vulnerabilidades de seguridad nacional y económica. Según Vatsa, "al combinar la innovación tecnológica con una gobernanza sólida, la India está en una posición única para liderar al mundo en la innovación responsable de la IA".

El debate en la India refleja una conversación global sobre la necesidad de una gobernanza de IA robusta. La insistencia en la supervisión humana y la construcción de confianza no es un desafío exclusivo de Asia, sino un pilar fundamental para la adopción segura de estas tecnologías en todo el mundo, incluyendo América Latina. Para los países del Sur Global, el desarrollo de marcos regulatorios y éticos propios es crucial para aprovechar los beneficios de la IA y, al mismo tiempo, proteger a sus ciudadanos y su soberanía digital, asegurando que la tecnología potencie a las personas en lugar de concentrar el poder en unas pocas manos.