En una entrevista al diario The Guardian, una ex-ingeniera de Google, Laura Nolan, emitió una advertencia acerca de la construcción de «robots asesinos».
La mujer, que trabajó en el proyecto de drones militares de la compañía, advirtió que esta forma de inteligencia artificial podría causar «cosas calamitosas para la que no se encontraban originalmente programados».
Numerosas son las películas de ciencia ficción que nos muestran un escenario distópico producto del desborde humano al desarrollar la inteligencia artificial. Nada más que recordar la saga Terminator, en la que una inteligencia artificial, llamada Skynet, lidera un ejército de robots asesinos tras ser capaz de, originalmente, controlar las máquinas militares de Estados Unidos con autonomía de los humanos.
Ahora, esta mujer nos advierte que quizás, lo que creíamos una mera ficción, puede en alguna medida, tornarse real.
Nolan fue reclutada por Google en el año 2017 para trabajar en el Proyecto Maven, luego de convertirse en una de las ingenieras en sistema más importantes de la compañía en Irlanda.
El Proyecto que se llevó a cabo para colaborar con el Departamento de Defensa de Estados Unidos, se centró en el uso de la Inteligencia Artificial para el mejoramiento de drones militares; acelerar los sistemas de reconocimiento que permiten seleccionar objetivos enemigos y distinguir entre personas y objetos.
Sin embargo, tras la indignación de muchos de los empleados de Google, quienes firmaron una petición en símbolo de protesta, el proyecto fue eliminado y la compañía dejo que el contrato expirara en Marzo de 2019. Nolan, quien además presentó su renuncia, tras «una preocupación creciente desde el punto de vista ético», declaró:
«Aunque no estuve involucrada directamente en acelerar el reconocimiento por grabación de video, me di cuenta que de todas formas, sí era parte de la cadena de asesinatos; que esto, en última instancia, conduciría a que más personas se convirtieran en objetivos y fueran asesinadas por el ejército estadounidense en lugares como Afganistán», cuenta en el medio The Guardian.
A pesar de que este proyecto fue cancelado, Nolan advierte que las armas con autonomía que se están desarrollando, presentan un riesgo inmenso para la especie humana. Y, es que según la mujer, pueden enfrentarse a condiciones extrañas para las que originalmente fueron programados, como clima inusual, señales de radares inesperadas y hasta encontrarse con personas que portan armas por cuestiones distintas a la guerra, como la caza. «La máquina no posee el discernimiento o el sentido común que posee el humano», detalla.
Además, señala que estos sistemas sólo pueden probarse en zonas de combate reales. «la otra cuestión aterradora sobre estos sistemas autónomos de guerra es que sólo pueden probarse realmente, desplegándolos en una zona de combate real. Quizás eso es lo que esté sucediendo con los rusos en Siria. ¿Quién sabe? Lo que sí sabemos es que en la ONU Rusia se ha opuesto a cualquier tratado y mucho menos prohibir estas armas, por cierto”.
Por último, señala la poca importancia que se le da al tema, «si no somos cuidadosos una o más de estas armas, estos robots asesinos, podrían accidentalmente iniciar una guerra, destruir una central nuclear y causar atrocidades masivas». En este sentido, la ex-ingeniera de Google aboga por instar a los países a declarar una prohibición total del desarrollo y uso de estas armas autónomas con intención de asesinar, algo similar a las convenciones sobre el uso de armas químicas.
