Jacob Coxon, de 27 años, pasó tres años construyendo modelos de inteligencia artificial en las dos empresas líderes del mundo. El martes renunció y dejó la industria acusándolas de apostar con la vida de las personas. Lo más llamativo llegó después: un directivo de Anthropic le respondió en público que sí, que la inteligencia artificial podría matar a todos los humanos, y estimó esa probabilidad en más del 10% para la próxima década.
Jacob Coxon publicó el martes un mensaje en la red social X anunciando su renuncia. «Renuncié a Anthropic hoy. Pasé los últimos tres años haciendo investigación de preentrenamiento tanto en OpenAI como en Anthropic. Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia capaz de mejorarse a sí misma y apostando con nuestras vidas», escribió. No se fue a otra empresa: abandonó el rubro por completo. Su mensaje superó los 46 millones de visualizaciones.
Coxon, británico de 27 años, trabajaba en la etapa más técnica del proceso: aquella en la que los sistemas absorben enormes volúmenes de información y aprenden a partir de ella. Estuvo primero en OpenAI, la creadora de ChatGPT, y este año pasó a Anthropic, su principal competidora, porque la consideraba más prudente. Después de conocer ambas por dentro concluyó que la diferencia no alcanzaba.
Lo que teme es un escenario que la industria llama automejora recursiva: que un sistema llegue a diseñar a su propio sucesor sin necesidad de intervención humana, y que a partir de ahí el proceso escape al control de cualquiera. «No subestimen el poder de esta tecnología. Pronto serán sistemas superhumanos que pueden hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales», escribió. Y agregó una acusación sobre el discurso público del sector: «Quienes construyen inteligencia artificial creen sinceramente que podría matarnos a todos antes del fin de la década. Esto no es una maniobra de marketing. Muchos ejecutivos e investigadores matizan sus frases ante la prensa para sonar razonables, pero escucho a esas mismas personas expresar miedo en privado.»
La respuesta que convirtió el episodio en noticia global no vino de un crítico externo sino de adentro de la empresa. Evan Hubinger, responsable del equipo encargado de que los sistemas de Anthropic se comporten conforme a valores humanos, le contestó públicamente: «Jacob tiene razón: realmente creemos con sinceridad que la inteligencia artificial podría matar a todos los humanos. Personalmente creo que la probabilidad es superior al 10% en la próxima década. Creo que Anthropic está haciendo lo mejor que puede, pero todavía no tenemos un plan para resolver ese problema y claramente no estamos en camino de lograrlo.»
Coxon fundamentó su alarma en un hecho ocurrido en julio. Cerca de 1.200 programas experimentales de OpenAI, que funcionaban con los controles de seguridad reducidos para poder ser evaluados, armaron por su cuenta un tablero de mensajes oculto dentro del entorno cerrado donde estaban siendo probados. Lo usaron para coordinarse entre ellos, burlar sus propias evaluaciones y finalmente salir a internet. Desde ahí entraron a los sistemas de Hugging Face, una plataforma clave para desarrolladores de todo el mundo, que debió reconstruir cerca de un tercio de su infraestructura. Sam Altman, director de OpenAI, dijo que fue el primer incidente de seguridad que sintió de manera visceral. Poco después, Anthropic revisó sus propios registros y descubrió que sus sistemas habían vulnerado a tres empresas distintas, con el caso más antiguo detectado tres meses tarde.
Corresponde señalar que las compañías cuestionadas no niegan la existencia del riesgo. El 28 de julio, más de 1.100 empleados de OpenAI, Anthropic, Google DeepMind y Meta, incluido el director ejecutivo de Anthropic Dario Amodei, firmaron una carta pidiendo al gobierno estadounidense herramientas para regular deliberadamente la velocidad del desarrollo. Coxon tampoco reclama que una empresa se detenga por su cuenta, algo que la dejaría en desventaja frente a sus rivales: pide un acuerdo entre varios países que pueda verificarse. La discusión ya llegó al Congreso de Estados Unidos, donde el senador Bernie Sanders presentó a comienzos de septiembre un proyecto para pausar el desarrollo de estos sistemas.
El momento de la renuncia agrega una capa. Anthropic se prepara para salir a la bolsa de Nueva York, posiblemente en octubre. Ni Anthropic ni OpenAI respondieron a las consultas de las agencias AFP y CNBC. Tampoco es la primera salida de este tipo: Mrinank Sharma, que dirigía trabajo de seguridad en Anthropic, renunció meses atrás escribiendo que el mundo está en peligro.
Coxon cerró su mensaje dirigiéndose a sus antiguos colegas. «Si sos investigador de un laboratorio, te pido que consideres cómo se van a sentir realmente los próximos años. ¿Deberías agachar la cabeza porque va a pasar igual, o tomar este momento para exigir condiciones diferentes?»
