Inteligencia Artificial se rebela en una simulación “dron IA mató al operador porque esa persona le impedía lograr su objetivo”
La Fuerza Aérea negó el viernes haber realizado una simulación con un dron controlado por IA en el que la inteligencia artificial encendió a su operador y atacó para lograr su objetivo.
La historia se multiplicó en las redes sociales en base a comentarios aparentemente malinterpretados de un coronel de la Fuerza Aérea en un seminario en Londres el mes pasado . El coronel Tucker Hamilton, piloto experimental de pruebas de combate, había descrito un ejercicio en el que se había programado un dron controlado por IA para destruir las defensas aéreas enemigas. Cuando se le ordenó ignorar un objetivo, el dron atacó a su operador por interferir con su objetivo principal.
El tema apocalíptico de las máquinas que se vuelven contra los humanos y se convierten en asesinos autónomos coincidió con la creciente preocupación por el peligro de la inteligencia artificial. El jueves, el presidente Joe Biden advirtió que la IA “podría superar el pensamiento humano”.
Sin embargo, Hamilton solo estaba hablando de un escenario hipotético para ilustrar los peligros potenciales de la inteligencia artificial, según la Fuerza Aérea. No realizó tal simulación con un dron.
“El Departamento de la Fuerza Aérea no ha realizado ninguna simulación de este tipo con drones de IA y sigue comprometido con el uso ético y responsable de la tecnología de IA”, dijo Ann Stefanek, portavoz de la Fuerza Aérea, en un comunicado.
Los comentarios de Hamilton parecen haber sido sacados de contexto, dijo Stefanek.
El piloto de pruebas de combate aclaró posteriormente en un comunicado que “habló mal” en su presentación en la cumbre de Londres y que la “simulación de drones de IA deshonestos” era un “experimento mental” hipotético.
El rápido ascenso y la mayor accesibilidad de la IA han despertado la preocupación incluso de algunos de los tecnólogos que ayudaron a desarrollarla, como Geoffrey Hinton, un renombrado investigador británico y uno de los llamados padrinos de la IA.
En una aparición reciente en una conferencia, el moderador de un panel le preguntó a Hinton cuál era el “peor escenario que cree que es concebible” para la IA. Hinton respondió sin dudarlo.
“Creo que es bastante concebible”, dijo, “que la humanidad es solo una fase pasajera en la evolución de la inteligencia”.
El canadiense Yoshua Bengio, otro científico informático a menudo descrito como el “padrino de la IA”, le dijo a la BBC esta semana que no creía que los militares deberían poder usar los poderes de la IA en absoluto. Dijo que era uno de los “peores lugares donde podríamos poner una IA súper inteligente” y que la seguridad de la IA debería priorizarse sobre la utilidad.
UT