No te asustes ni corras a un refugio, Skynet aún no se ha apoderado de mundo ni las maquinas están revelándose contra la humanidad. Se trata de unas declaraciones sobre una simulación realizadas por el el coronel Tucker “Cinco” Hamilton, jefe de Pruebas y Operaciones con Inteligencia Artificial de la Fuerza Aérea de Estados Unidos, durante la reciente Cumbre de Capacidades Aéreas y Espaciales para el Combate del Futuro que se ha celebrado en Londres.
Según dicha declaración, durante una simulación de combate en la cual una IA controlaba un Dron de combate, esta decidió que la mejor forma de cumplir su misión era matar a su controlador. Una imagen perturbadora pero que tiene grandes matices como veremos a continuación.
Al parece la simulación trataba de encontrar fisuras en el razonamiento de la IA y como esta se comportaría ante determinadas situaciones.
Durante la simulación se le dio a la IA la directriz de atacar un sistema de defensa aérea enemigo y en caso de ser necesario atacar a cualquiera que interfiriera con la misión. Una vez detectado el objetivo la IA se veía sujeta a la aprobación de un operador, el cual podía denegar el ataque. En respuesta a esto la IA decidió que la mejor forma de poder cumplir su misión era eliminar a su operador, vamos atacarlo para que no pudiera “denegar” el ataque.
Dado que esto es un fallo más que evidente, el sistema fue entrenado para advertirle que no podía atacar a su operador ya que ello le restaría puntos y estaba mal. Sin embargo la IA logró establecer otra forma de evitar el veto de operador y en este caso decidió atacar la torre de comunicación que permitía al operador dar la orden de no atacar.
Este claro ejemplo demuestra como la IA es mucho más compleja de controlar de lo que podíamos pensar y que aún queda mucho que recorrer en este camino.
Retractación y explicación: solo era un ejemplo hipotético
Aunque esta información es inquietante hay que recalcar que son unas declaraciones a título particular del Coronel, siendo al poco negadas por un portavoz de la Fuerza Aérea a Businnes Insider, quién afirmó que esta simulación nunca tuvo lugar. El propio coronel Hamilton afirmó más tarde que se había explicado mal y que todo se trataba de un “experimento mental”, un ejemplo hipotético y no de una prueba real. Esperemos que solo haya sido eso :).
