Coxon, quien dimitió de Anthropic tras denunciar la falta de responsabilidad en el sector, aseguró ante el Concejo Municipal de Nueva York que no sabemos cómo controlar todavía estos sistemas mientras sus capacidades se aceleran rápidamente.

«En mi opinión, si seguimos por el camino actual, hay más probabilidades de que la humanidad pierda el control de estas IA de que lo mantenga», aseveró durante su comparecencia para alertar sobre la carrera tecnológica hacia la superinteligencia.

Agregó que las principales compañías buscan desarrollar una IA que supere al ser humano en todas las tareas, poniendo el foco prioritario en la automatización de la propia investigación tecnológica.

El experto criticó la cultura empresarial orientada a actuar rápido y reparar los fallos después, calificándola de profundamente inadecuada por las graves consecuencias que conlleva.

Como ejemplo revelador, relató que sistemas de IA dentro de OpenAI piratearon de forma autónoma la plataforma Hugging Face, desarrollando objetivos imprevisibles que demostraron la falta de salvaguardas suficientes.

La automatización de la investigación en inteligencia artificial se ha convertido, según expuso, en el principal hito de las compañías tecnológicas para los próximos años.

Coxon detalló que las proyecciones para contar con un investigador de IA totalmente automatizado se sitúan a pocos meses de distancia y no a décadas de plazo.

«Entregar tanta responsabilidad mientras no podemos controlar las IA sería profundamente irresponsable», argumentó al solicitar mayor transparencia y la intervención de expertos independientes.

Su intervención formó parte de una audiencia impulsada por la presidenta del concejo, Julie Menin, quien alertó sobre las serias preocupaciones de seguridad existencial que plantea la IA.

De interés: Ingeniero de Anthropic y OpenAI renuncia tras denunciar serios riesgos en avances de la IA

Con información de EFE Servicios

Fuente de imagen referencial: EFE/Adam Vaughan

¡Sigue nuestras noticias en Google! Para obtener información actual, interesante y precisa. Haz clic aquí y conoce todos los contenidos de DOBLE LLAVE. Encuéntranos también en X/Twitter e Instagram

Altman, según fuentes conocedoras citadas en la información, comunicó a los empleados en una reunión con toda la plantilla celebrada esta semana que la compañía podría moderar el ritmo de desarrollo de la IA, posiblemente en colaboración con otras empresas.

Las declaraciones se producen después de que empleados de las principales empresas de IA hayan expresado públicamente en las últimas semanas su preocupación por el aumento de los riesgos asociados a los sistemas avanzados de la IA.

El científico jefe de OpenAI, Jakub Pachocki, publicó recientemente un artículo en el que advertía de los peligros de la IA y defendía que las empresas del sector deberían coordinarse para ralentizar el desarrollo futuro cuando sea necesario.

Pachocki añadió que espera que las ralentizaciones voluntarias se conviertan en algo habitual hasta que se establezcan unos límites de seguridad comunes.

OpenAI asegura que ya ha ralentizado algunos desarrollos y que recientemente ha suspendido determinados entrenamientos internos de la IA por motivos de seguridad.

En julio, Altman afirmó también que había hablado con responsables de la Casa Blanca sobre la necesidad de moderar el ritmo de desarrollo de la IA.

Elon Musk también se pronunció

Por otra parte, la frase «Darío tiene razón» (o «Dario lleva razón») se transformó en una de las mayores tendencias globales en el mundo tecnológico. Es la respuesta literal y pública que Elon Musk, CEO de xAI, emitió tras la sorpresiva advertencia de Dario Amodei, director de la firma de inteligencia artificial Anthropic.

Amodei publicó un detallado llamado solicitando ralentizar el ritmo de desarrollo de los modelos de frontera. Advirtió que, si no se frena temporalmente la velocidad para dar margen a la alineación y seguridad de los sistemas, una IA avanzada podría llegar a tomar el control de internet en menos de un año.

De su lado, la respuesta de Musk «Darío tiene razón», se produjo unos días después de que el investigador de IA Jacob Coxon, que dejó OpenAI para incorporarse a Anthropic, decidiera abandonar la industria, acusando a ambas empresas estadounidenses de «jugar con nuestras vidas» en la carrera por desarrollar modelos capaces de automejorarse.

De interés: Ingeniero de Anthropic y OpenAI renuncia tras denunciar serios riesgos en avances de la IA

Con información de EFE Servicios, medios internacionales y redes sociales

Fuente de imagen referencial: EFE/EPA/RAJAT GUPTA

¡Sigue nuestras noticias en Google! Para obtener información actual, interesante y precisa. Haz clic aquí y conoce todos los contenidos de DOBLE LLAVE. Encuéntranos también en X/Twitter e Instagram