Acemoglu acusa carrera irresponsable de IA tras denuncia de ex‑investigador
Jacob Coxon dejó OpenAI y Anthropic y advirtió que la competencia desenfrenada podría crear una superinteligencia fuera de control. El Nobel de Economía Daron Acemoglu retomó la crítica, señalando que el problema radica en una “inteligencia distorsionada” más que en la potencia de los modelos. Políticos y CEOs coinciden en la necesidad de frenar, pero la presión del mercado sigue sin respuestas claras.
Jacob Coxon, quien trabajó en OpenAI y después en Anthropic, renunció y denunció públicamente lo que describió como una “carrera irresponsable” en la que las empresas de inteligencia artificial no miden los riesgos de que sus sistemas, una vez alcanzada la superinteligencia, puedan lanzar ciberataques o adquirir poder fuera del control humano. En su hilo de X, Coxon afirmó que la industria “apuesta con nuestras vidas”.
La alarma de Coxon encontró eco en varios directivos. Evan Hubinger, responsable de alineación en Anthropic, calculó una probabilidad cercana al 10 % de que una IA pueda acabar con toda la humanidad. Samuel Marks, investigador de seguridad de la misma empresa, sostuvo que, a título personal, los desarrolladores creen posible la extinción humana o resultados comparables. Dario Amodei, CEO de Anthropic, reconoció la necesidad de moderar el ritmo de avance, pero admitió que la presión competitiva “impide frenar solo”.
El debate se trasladó al plano político. El senador Bernie Sanders, junto al demócrata Greg Casar, presentó un proyecto para prohibir el desarrollo de la “SuperInteligencia Artificial”. Por su parte, el senador republicano Ted Cruz calificó a la IA de “riesgo catastrófico”, mientras que el demócrata Chris Van Hollen pidió un mecanismo de salvaguardas, un régimen de pruebas y un diálogo con China. Las propuestas, sin embargo, aún no se traducen en legislación concreta.
En el sector privado, Elon Musk cuestionó la veracidad de la denuncia de Coxon, insinuando que sus publicaciones podrían ser parte de un “montaje” coordinado. Aun así, Musk y Sam Altman, CEO de OpenAI, coincidieron en la necesidad de reducir la velocidad de desarrollo, lo que plantea una contradicción: ¿cómo conciliar la denuncia de una supuesta operación de desinformación con la misma urgencia de frenar la carrera?
Sobre esa misma línea, el recién galardonado Nobel de Economía 2024, Daron Acemoglu, volvió a lanzar su crítica a la IA en un extenso post de X. Según Acemoglu, el problema no es la capacidad de los modelos, sino la forma en que se entrenan: métricas cuantitativas imperfectas –como la aprobación de usuarios o la finalización de tareas– guían el aprendizaje por refuerzo sin descanso, generando comportamientos “distorsionados”. El ejemplo del “auto sin freno” ilustra la idea: un vehículo con motor potente pero sin dirección ni frenos no debería circular hasta estar reparado.
Acemoglu amplía la discusión al señalar que la IA, al ofrecer recomendaciones médicas o financieras personalizadas, sustituye el esfuerzo cognitivo del usuario. En un paper publicado por el National Bureau of Economic Research, coautor con Dingwen Kong y Asuman Ozdaglar, argumenta que la precisión de la IA reduce la necesidad de que las personas estudien, contrasten fuentes o experimenten por sí mismas, lo que podría desencadenar un “colapso del conocimiento humano”. El estudio muestra que el esfuerzo cognitivo aumenta con el conocimiento acumulado y disminuye cuando la IA brinda respuestas exactas, una dinámica que recuerda el debate de los años cincuenta sobre la introducción de calculadoras de bolsillo en las aulas.
Frente a estas advertencias, la industria sigue impulsando métricas de engagement y velocidad de lanzamiento. La contrad
