Los riesgos del uso militar de la inteligencia artificial dominaron parte del debate este 17 de septiembre en el Foro Xiangshan de Beijing, donde funcionarios, militares, diplomáticos y expertos reclamaron reglas y salvaguardas para evitar que sistemas cada vez más autónomos aceleren decisiones críticas sin suficiente supervisión humana.
De acuerdo con Reuters, el encuentro reunió a más de 2,000 participantes de alrededor de 100 países y puso especial atención en el impacto de la IA sobre armas autónomas, drones, operaciones cibernéticas y procesos de toma de decisiones en escenarios de conflicto.
La velocidad de la IA preocupa a los expertos
Uno de los principales riesgos discutidos es que los sistemas automatizados reduzcan el tiempo disponible para verificar información o corregir errores antes de una respuesta militar. En situaciones de alta tensión, esa velocidad podría elevar el riesgo de escalada por una interpretación equivocada o una acción no autorizada.
Los participantes también señalaron que la expansión de sistemas autónomos complica la atribución de responsabilidades y exige definir con claridad cuándo y cómo debe intervenir una persona antes del uso de la fuerza.
Supervisión humana y reglas internacionales
Delegados de distintos países defendieron la necesidad de mantener control humano significativo sobre decisiones militares sensibles y avanzar hacia mecanismos internacionales que reduzcan riesgos compartidos.
El debate ocurre en momentos en que Estados Unidos y China compiten por liderazgo en inteligencia artificial y, al mismo tiempo, enfrentan presiones para establecer canales de comunicación y salvaguardas en áreas de alto riesgo, incluidas redes nucleares y operaciones cibernéticas.
Un problema que trasciende la competencia tecnológica
La discusión del foro muestra que la preocupación ya no se limita a quién desarrolla los modelos más avanzados. El foco también está en cómo evitar errores, usos no autorizados o decisiones automáticas que puedan desencadenar consecuencias difíciles de revertir.
Por ahora, no existe un marco internacional único que regule de manera integral el uso militar de la IA. Las propuestas debatidas apuntan a normas de conducta, supervisión humana, comunicación entre potencias y límites específicos para sistemas de alto riesgo.
Acerca del autor
