‘LA IA PODRIA ACABAR CON TODOS ANTES DE QUE TERMINE LA DECADA’…

Según el ingeniero Jacob Coxon, las empresas como en la que trabajaba y OpenAI están en una carrera en la que no pueden detenerse aunque son conscientes de que «ponen en juego nuestras vidas»

Las empresas de inteligencia artificial (IA) «se dirigen a toda velocidad hacia una superinteligencia capaz de automejorarse, poniendo en juego nuestras vidas«, afirma en su cuenta de X Jacob Coxon y lo cita como la razón por la cual ha renunciado a la compañía Anthropic, la creadora de Claude.

Coxon asegura en X que ha pasado «los últimos tres años investigando el preentrenamiento tanto en OpenAI como en Anthropic», lo que le ha permitido darse cuenta de que «ninguna de las dos empresas está actuando de manera responsable».

«Pronto estaremos ante sistemas sobrehumanos capaces de hackear cualquier cosa, revolucionar cualquier campo de la noche a la mañana y adquirir poder y recursos reales», señaló el investigador en IA justo en la tarde del día en que OpenAI anunció que había resuelto uno de los Problemas del Milenio en matemáticas en apenas una semana.

Las declaraciones de Coxon también coinciden con un debate sobre la seguridad de la IA entre Estados Unidos y China previo a la reunión entre los presidentes Donald Trump y Xi Jinping a finales de este mes, en la que se espera que aborden el tema.

«Quienes desarrollan la IA creen sinceramente que esta podría acabar con todos nosotros antes de que termine la década«, asegura Coxon y añade que «muchos ejecutivos e investigadores de alto nivel suavizan sus declaraciones ante la prensa para parecer sensatos, pero en privado expresan el mismo temor».

«Ninguna otra actividad humana entraña un peligro de tal magnitud», sentencia.

El ingeniero de 27 años se preguntan entonces: «Si realmente creen esto, ¿por qué siguen desarrollándola?», y su respuesta es que están en una carrera en la que no pueden detenerse.

Sin embargo, «aceptar esta carrera y entrar en la fase final —el ‘endgame’— es una apuesta temeraria nacida de la soberbia, algo que no debería decidirse desde el canal de Slack de una empresa privada» dice Coxon. 

OpenAI y Anthropic no son diferentes

Coxon, quien no ha tenido responsabilidades ejecutivas en las empresas en que ha trabajado, distingue entre las razones por la que las dos principales empresas estadounidenses de IA, la pionera OpenAI —creadora de ChatGPT y la primera en señalar los peligros potenciales de la IA—, y Anthropic participan en la carrera: 

«En OpenAI muchos no han interiorizado plenamente lo que está en juego para la civilización. En Anthropic, comprenden perfectamente la situación, pero están inmersos en una carrera por llegar primero: creen que nadie más actuará con responsabilidad, por lo que deben hacerlo ellos mismos, a pesar de los riesgos», asegura.

«Soy optimista respecto a las posibilidades de coordinación», dice Coxon de manera un tanto contradictoria, pues considera que «las señales de alerta, como el ataque a Hugging Face —en que una IA de prueba, actuando de manera autónoma, hackeó un sitio externo—, han hecho más viables los acuerdos de ritmo entre los laboratorios estadounidenses«.

Pero añade que no cree «que estemos en camino de evitar una carrera desenfrenada a nivel mundial, algo que podría requerir medidas drásticas, como una prohibición temporal de mejorar las capacidades de los modelos».

Coxon termina invitando a otros investigadores de IA a reflexionar sobre si quieren seguir participando en los procesos que conducirán «a una superinteligencia sin comprender a fondo su funcionamiento interno» o no.

«¿Deberías limitarte a seguir trabajando porque ‘va a ocurrir de todos modos’, o aprovechar este momento para exigir condiciones diferentes?», concluye.