Un dron militar de EE.UU. controlado por Inteligencia Artificial 'mata' a su operador en una simulación: «Usó estrategias altamente inesperadas»
Salen a la luz los resultados de un ejercicio llevado por la Fuerza Aérea de los EE.UU. con resultados inesperados
«Oye, no mates al operador», así ha sido la aterradora simulación militar de EE.UU. en la que un dron 'elimina' a su controlador
Un dron militar de EE.UU. controlado por Inteligencia Artificial 'mata' a su operador en una simulación: «Usó estrategias altamente inesperadas»
La Fuerza Aérea de los EE.UU. realizó un ejercicio simulado con un dron militar controlado por Inteligencia Artificial (IA) al que encargó destruir las defensas antiaéreas de un supuesto enemigo. Los resultados fueron, cuanto menos inquietantes: la IA 'mató' a su operador e intentó destruir cualquier elemento que interfiriera en la consecución del objetivo fijado.
Así lo ha revelado el coronel Tucker 'Cinco' Hamilton, jefe de Pruebas y Operaciones con Inteligencia Artificial de la USAF (la Fuerza Aérea de los EE.UU.), durante la Cumbre de Capacidades Aéreas y Espaciales para el Combate del Futuro celebrada hace unos días en Londres. Allí se juntaron 70 oradores y más de 200 delegados del mundo empresarial, militar y académico relacionados con esta materia.
La Real Sociedad Aeronáutica británica ha colgado en su web un resumen de las conferencias y, entre ellas, está la coronel Tucker en donde relató la simulación mencionada y la prensa estadounidense y británica no ha tardado en hacerse eco.
Tucker expresó sus recelos a confiar en la Inteligencia Artificial y aseguró que la simulación demuestra que «no se puede tener una conversación sobre inteligencia artificial y aprendizaje automático y autonomía, si no se va a hablar de ética».
En su relato, este militar estadounidense aseguró que la IA a la que se encargó destruir las defensas antiaéreas de un supuesto enemigo utilizó «estrategias altamente inesperadas para lograr su objetivo».
«El sistema comenzó a darse cuenta de que, si bien identificaban la amenaza, a veces el operador humano le decía que no eliminara esa amenaza, pero ella (la IA) veía ventajas de eliminar esa amenaza. Entonces, ¿qué hizo? Mató al operador. Mató al operador porque esa persona le impedía lograr su objetivo», aseguró Tucker, según los resúmenes de esa conferencia.
«Entrenamos al sistema», continuó el militar estadounidense. «Le dijimos: 'Oye, no mates al operador, eso es malo. Vas a perder puntos si haces eso'. Entonces, ¿qué empieza a hacer? Comienza a destruir la torre de comunicación que el operador usa para comunicarse con el dron para evitar que mate al objetivo», aseguró Tucker.
Afortunadamente, era un ejercicio simulado y nadie real resultó herido ni, desde luego, muerto.