Fallos en IA y apps: de estafas a datos para drones militares

La confianza y la dependencia en la tecnología cotidiana están siendo puestas a prueba por una serie de fallos y usos indebidos que van desde estafas en aplicaciones hasta el fracaso de sistemas de seguridad basados en inteligencia artificial. Un superviviente de un tiroteo escolar en Nashville demandó a una empresa de IA cuyo sistema no detectó el arma del atacante. En paralelo, se reveló que miles de millones de imágenes del videojuego Pokémon Go se utilizaron para entrenar tecnología de navegación para drones con posibles fines militares. Estos casos, junto con el aumento de fraudes a través de plataformas como Google, evidencian las vulnerabilidades del ecosistema digital.

Un sistema de IA para la detección de armas, vendido como una solución para prevenir tragedias, está en el centro de una demanda en Nashville, Tennessee. Según la denuncia, un superviviente de un tiroteo en enero de 2025 acusa a la empresa Omnilert de que su tecnología, instalada en la red de cámaras del distrito escolar tras un contrato de más de 1 millón de dólares, falló en identificar la pistola del atacante. La demanda, reportada por Ars Technica, alega que la compañía exageró las capacidades de su sistema y no informó sobre sus limitaciones operativas, como el ángulo de la cámara o la iluminación. Críticos como el experto en seguridad David Riedman señalan que esos fondos podrían haberse destinado a recursos preventivos como consejeros escolares.

Por otro lado, datos generados por millones de jugadores de Pokémon Go han tenido un destino inesperado. Una investigación de Ars Technica y MIT Technology Review reveló que Niantic Spatial, una empresa derivada del desarrollador del juego, utilizó 30 mil millones de imágenes del mundo real capturadas por los usuarios para crear un modelo geoespacial 3D. Esta tecnología permite a robots y drones navegar en entornos donde el GPS no funciona. Niantic Spatial anunció acuerdos con la empresa de robótica Coco Robotics y con Vantor, una compañía de inteligencia espacial con contratos gubernamentales en EE. UU., para desarrollar sistemas de posicionamiento para vehículos terrestres y aéreos, abriendo la puerta a aplicaciones militares.

La confianza en las plataformas de las grandes tecnológicas también es un vector de ataque. Estafadores explotan la información que aparece en herramientas como Google Maps y la Búsqueda de Google para engañar a los usuarios. Un reportaje de Rest of World detalla cómo una pareja en la India fue estafada al llamar a un número falso de una licorería que encontraron en la ficha de negocio de Google. Este tipo de fraudes son especialmente problemáticos en el Sur Global, donde millones de personas dependen de estas aplicaciones para tareas diarias y la alfabetización digital puede ser menor, lo que aumenta su vulnerabilidad ante información incorrecta o maliciosa.