El propietario de la red social X, Elon Musk, se alineó con el planteamiento del CEO de Anthropic, Darío Amodei, quien propuso reducir el ritmo del desarrollo de la inteligencia artificial (IA), para desarrollar mecanismos que refuercen su seguridad.
Dario is right (está bien)», dijo Musk en un mensaje publicado mediante X, en señal de apoyo a la propuesta de Amodei.
El líder de Anthropic recomendó bajar el ritmo del avance de la IA, para disponer de más tiempo que conlleve a realizar mecanismos que permitan hacerlos más seguros.
Amodei considera que la IA «debería ir más despacio», y expone un plan de tres partes.
Se refirió, mediante X, al compromiso de Anthropic con el primer paso. «Proporcionaremos a evaluadores externos acceso permanente de nivel empleado a nuestros sistemas, para que puedan verificar el cumplimiento de nuestras medidas de seguridad, informar sobre incidentes y evaluar la alineación de los modelos durante el entrenamiento», detalló.
En relación con el segundo paso, Amodei propuso coordinar a las principales empresas de IA de países democráticos para establecer estándares comunes de seguridad y posibles límites al ritmo de desarrollo. El planteamiento contempla además la participación gubernamental en aquellos mecanismos que puedan enfrentar restricciones legales.
La tercera etapa apunta a una coordinación internacional, incluida la cooperación con China y otros gobiernos autoritarios. El ejecutivo reconoció que alcanzar acuerdos globales sería considerablemente más complejo dadas las dificultades para verificar que todas las partes cumplan con los compromisos asumidos.
Amodei aseveró que la IA puede generar importantes beneficios para la humanidad, aunque advirtió que su rápido desarrollo también aumenta los riesgos de la pérdida de control de los sistemas, los ciberataques, el bioterrorismo y las alteraciones económicas.
Sam Altman, director ejecutivo de OpenAI, se unió a la propuesta del líder de Anthropic, al coincidir en la necesidad de «marcar el ritmo de la innovación».
El ralentizar el desarrollo de la IA es un tema que se ha discutido en el seno de OpenAI en las últimas semanas.
Altman destacó el planteamiento de incorporar evaluadores independientes con un nivel de acceso similar al de los empleados de las compañías de IA. Así, considera acertada esta iniciativa y prevé que pueda ser aplicada por OpenAI.
