Coxon, quien dimitió de Anthropic tras denunciar la falta de responsabilidad en el sector, aseguró ante el Concejo Municipal de Nueva York que no sabemos cómo controlar todavía estos sistemas mientras sus capacidades se aceleran rápidamente.

«En mi opinión, si seguimos por el camino actual, hay más probabilidades de que la humanidad pierda el control de estas IA de que lo mantenga», aseveró durante su comparecencia para alertar sobre la carrera tecnológica hacia la superinteligencia.

Agregó que las principales compañías buscan desarrollar una IA que supere al ser humano en todas las tareas, poniendo el foco prioritario en la automatización de la propia investigación tecnológica.

El experto criticó la cultura empresarial orientada a actuar rápido y reparar los fallos después, calificándola de profundamente inadecuada por las graves consecuencias que conlleva.

Como ejemplo revelador, relató que sistemas de IA dentro de OpenAI piratearon de forma autónoma la plataforma Hugging Face, desarrollando objetivos imprevisibles que demostraron la falta de salvaguardas suficientes.

La automatización de la investigación en inteligencia artificial se ha convertido, según expuso, en el principal hito de las compañías tecnológicas para los próximos años.

Coxon detalló que las proyecciones para contar con un investigador de IA totalmente automatizado se sitúan a pocos meses de distancia y no a décadas de plazo.

«Entregar tanta responsabilidad mientras no podemos controlar las IA sería profundamente irresponsable», argumentó al solicitar mayor transparencia y la intervención de expertos independientes.

Su intervención formó parte de una audiencia impulsada por la presidenta del concejo, Julie Menin, quien alertó sobre las serias preocupaciones de seguridad existencial que plantea la IA.

De interés: Ingeniero de Anthropic y OpenAI renuncia tras denunciar serios riesgos en avances de la IA

Con información de EFE Servicios

Fuente de imagen referencial: EFE/Adam Vaughan

¡Sigue nuestras noticias en Google! Para obtener información actual, interesante y precisa. Haz clic aquí y conoce todos los contenidos de DOBLE LLAVE. Encuéntranos también en X/Twitter e Instagram

Altman, según fuentes conocedoras citadas en la información, comunicó a los empleados en una reunión con toda la plantilla celebrada esta semana que la compañía podría moderar el ritmo de desarrollo de la IA, posiblemente en colaboración con otras empresas.

Las declaraciones se producen después de que empleados de las principales empresas de IA hayan expresado públicamente en las últimas semanas su preocupación por el aumento de los riesgos asociados a los sistemas avanzados de la IA.

El científico jefe de OpenAI, Jakub Pachocki, publicó recientemente un artículo en el que advertía de los peligros de la IA y defendía que las empresas del sector deberían coordinarse para ralentizar el desarrollo futuro cuando sea necesario.

Pachocki añadió que espera que las ralentizaciones voluntarias se conviertan en algo habitual hasta que se establezcan unos límites de seguridad comunes.

OpenAI asegura que ya ha ralentizado algunos desarrollos y que recientemente ha suspendido determinados entrenamientos internos de la IA por motivos de seguridad.

En julio, Altman afirmó también que había hablado con responsables de la Casa Blanca sobre la necesidad de moderar el ritmo de desarrollo de la IA.

Elon Musk también se pronunció

Por otra parte, la frase «Darío tiene razón» (o «Dario lleva razón») se transformó en una de las mayores tendencias globales en el mundo tecnológico. Es la respuesta literal y pública que Elon Musk, CEO de xAI, emitió tras la sorpresiva advertencia de Dario Amodei, director de la firma de inteligencia artificial Anthropic.

Amodei publicó un detallado llamado solicitando ralentizar el ritmo de desarrollo de los modelos de frontera. Advirtió que, si no se frena temporalmente la velocidad para dar margen a la alineación y seguridad de los sistemas, una IA avanzada podría llegar a tomar el control de internet en menos de un año.

De su lado, la respuesta de Musk «Darío tiene razón», se produjo unos días después de que el investigador de IA Jacob Coxon, que dejó OpenAI para incorporarse a Anthropic, decidiera abandonar la industria, acusando a ambas empresas estadounidenses de «jugar con nuestras vidas» en la carrera por desarrollar modelos capaces de automejorarse.

De interés: Ingeniero de Anthropic y OpenAI renuncia tras denunciar serios riesgos en avances de la IA

Con información de EFE Servicios, medios internacionales y redes sociales

Fuente de imagen referencial: EFE/EPA/RAJAT GUPTA

¡Sigue nuestras noticias en Google! Para obtener información actual, interesante y precisa. Haz clic aquí y conoce todos los contenidos de DOBLE LLAVE. Encuéntranos también en X/Twitter e Instagram

Jacob Coxon, ingeniero de software al que los medios identifican como uno de los desarrolladores de GPT-4.o y GPT-4.5, aunque sin responsabilidades ejecutivas, aseguró en un hilo de su cuenta de X que las personas que están tras el desarrollo exponencial de la IA «creen que podrá matarnos a todos al final de esta década», porque «no hay otra actividad humana que suponga este nivel de amenaza».

Peligro real

Para el ingeniero, de 27 años, se está subestimando el poder de la tecnología, pero los proyectos de IA «serán pronto sistemas sobrehumanos que podrán jaquear cualquier cosa, revolucionar todos los ámbitos y ganar verdadero poder y recursos».

En su opinión, hay una conciencia de esta realidad tanto en OpenAI como en Anthropic, pero ve una diferencia: los primeros «tal vez no han internalizado en profundidad los retos civilizacionales», mientras que los segundos los comprenden bien pero «están atrapados en la carrera por llegar primero», aun cuando en el caso más optimista se trate de llegar primero «para actuar con responsabilidad».

Coxon no ve otra salida que la coordinación entre los distintos proyectos de IA y de las empresas involucradas en ellos, pero siente que no se está produciendo y aboga entonces por «acciones costosas», como una prohibición temporal de mejorar las capacidades del modelo (‘model capabilities’) , y pide a los investigadores de la IA que reflexionen profundamente sobre este asunto.

«¿Quieres potenciar un ‘aprendizaje por refuerzo’ (RL en la jerga técnica) superinteligente sin un entendimiento riguroso de su mente? -pregunta a sus colegas en la IA- ¿Vas a bajar la cabeza porque ‘total, ya está ocurriendo’, o aprovechar este momento para abogar por condiciones diferentes?», concluye Coxon en un hilo que ha tenido ya una enorme repercusión mediática en todo el mundo.

Amenaza existencial

 

Ver esta publicación en Instagram

 

Una publicación compartida por ISABERMUDEZ ®️ | Estrategia | Mercadeo y Negocios (@isabermudez)

Por otra parte y significativamente, el jefe de seguridad de Anthropic, Evan Hubinger, respaldó las advertencias de Jacob Coxon tras su renuncia y dijo que existe un riesgo real de extinción humana. Resumiendo, puntualizó que:

• Riesgo existencial: Hubinger señaló en la red social X que «de verdad creemos que la IA podría matar a todos los humanos».

• Probabilidad estimada: Calculó que hay más de un 10% de probabilidad de que esto ocurra en la próxima década.

• Falta de control: Admitió que Anthropic todavía no tiene un plan claro para resolver la alineación de una superinteligencia.

De interés: Carlos López de ESET Venezuela: La IA y la Ciberseguridad perfilan el nuevo paradigma del crimen tecnológico

Con información de EFE Servicios, otros medios internacionales y redes sociales

Fuente de imagen referencial: EFE/Angel Colmenares

¡Sigue nuestras noticias en Google! Para obtener información actual, interesante y precisa. Haz clic aquí y conoce todos los contenidos de DOBLE LLAVE. Encuéntranos también en X/Twitter e Instagram