Los máximos responsables de las principales empresas de inteligencia artificial —Anthropic, OpenAI y xAI— coincidieron este fin de semana en la necesidad de frenar el ritmo de desarrollo de la tecnología y reforzar los controles de seguridad. El planteo surgió de un ensayo del director ejecutivo de Anthropic, Dario Amodei, que recibió el respaldo de sus competidores Sam Altman y Elon Musk.
Los máximos responsables de las principales empresas de inteligencia artificial (IA) coincidieron este fin de semana en la necesidad de frenar el ritmo de desarrollo de la tecnología para que las medidas de seguridad puedan alcanzarla. El planteo fue impulsado por el director ejecutivo de Anthropic, Dario Amodei, y respaldado por Sam Altman, de OpenAI, y Elon Musk, de xAI.
Amodei publicó el 12 de septiembre un ensayo titulado «We Must Pace the Frontier» («Debemos marcar el ritmo de la frontera»), en el que sostiene que la industria mejora las capacidades de los modelos más rápido de lo que puede manejar sus consecuencias. Su tesis es que se debe frenar el ritmo al que se mejoran las capacidades de los modelos. El texto se difundió después de que un exinvestigador de la propia Anthropic advirtiera que la tecnología podría representar una amenaza existencial para la humanidad hacia 2030.
El plan que propone Amodei consta de tres pasos: la incorporación de evaluadores externos e independientes con acceso a los sistemas, la coordinación de estándares de seguridad entre las empresas y los gobiernos democráticos, y una cooperación a escala global. Anthropic se comprometió de manera unilateral con el primer punto, al ofrecer a evaluadores externos un acceso de nivel similar al de sus propios empleados.
El respaldo de los competidores llegó en pocas horas. Musk recompartió el ensayo y afirmó que Amodei «tiene razón», y recordó que viene advirtiendo sobre los riesgos de la IA desde hace más de una década. Altman, por su parte, coincidió en la necesidad de pausar el avance y comprometió a OpenAI a abrir también sus sistemas a evaluadores independientes.
Los pronunciamientos reavivaron el debate sobre la regulación de la IA en Estados Unidos, donde legisladores de ambos partidos reclaman controles, aunque sin consenso sobre su alcance. En paralelo, algunas voces del sector cuestionaron el trasfondo de las advertencias: el científico Yann LeCun las calificó como un intento de «captura regulatoria» para perjudicar a los modelos de código abierto, mientras otros críticos hablan de una estrategia de imagen sin compromisos concretos.
