ZUCKERBERG RECHAZA FRENO COORDINADO A LA IA Y DEFIENDE QUE CADA EMPRESA GESTIONE SUS RIESGOS

El director general de Meta afirmó que cada compañía tiene la responsabilidad y el incentivo de avanzar al ritmo necesario para entrenar sus modelos de forma segura y la capacidad de tomar sus propias medidas

AP.- El director general de Meta, Mark Zuckerberg, manifestó que le corresponde a cada empresa de inteligencia artificial asegurarse de que su tecnología sea segura, con lo que se distanció de las exhortaciones de compañías rivales a que haya una desaceleración coordinada en el desarrollo de la IA avanzada.

Zuckerberg publicó sus comentarios en redes sociales después de una propuesta del director ejecutivo de Anthropic, Dario Amodei, que rápidamente encontró apoyo entre líderes tecnológicos, incluidos Sam Altman, de OpenAI, y Elon Musk, en SpaceXAI.

Las advertencias de investigadores sobre las posibles amenazas de la tecnología para la humanidad han desatado un debate entre líderes de la industria sobre la mejor manera de poner freno a esta tecnología, antes de que pudiese escapar al control humano.

Las empresas de IA ya están motivadas a desarrollar sus modelos de manera segura y enfrentan una “responsabilidad significativa” para evitar que causen daño, sostuvo Zuckerberg.

“Cada laboratorio tiene la responsabilidad y el incentivo de avanzar al ritmo necesario para entrenar sus modelos de forma segura, y la capacidad de tomar sus propias medidas para garantizar que eso ocurra”, escribió Zuckerberg en la red social X.

Zuckerberg, quien no mencionó a Anthropic ni a ninguna otra empresa, publicó el mensaje días después de que Amodei expusiera un plan de tres pasos para garantizar la seguridad de la IA, incluida una propuesta para que empresas y países coordinen una desaceleración de su desarrollo.

Zuckerberg indicó que Meta retrasó durante varios meses el lanzamiento de Muse, su agente de IA, para garantizar su seguridad y protección.

“No pedimos que todos los demás hicieran esto antes de que nosotros lo hiciéramos”, manifestó.

Las empresas deberían darle prioridad a la construcción de modelos de IA seguros en lugar de sistemas que puedan mejorarse automáticamente, una función conocida como automejora recursiva, escribió Zuckerberg.

“Destinar la gran mayoría de la capacidad de cómputo a servir a las personas, en lugar de correr hacia la automejora recursiva, es una de las mejores maneras de garantizar que desarrollemos esta tecnología de forma segura”, agregó.