Jacob Coxon, ingeniero de software al que los medios identifican como uno de los desarrolladores de GPT-4.o y GPT-4.5, aunque sin responsabilidades ejecutivas, aseguró en un hilo de su cuenta de X que las personas que están tras el desarrollo exponencial de la IA «creen que podrá matarnos a todos al final de esta década», porque «no hay otra actividad humana que suponga este nivel de amenaza».

Peligro real

Para el ingeniero, de 27 años, se está subestimando el poder de la tecnología, pero los proyectos de IA «serán pronto sistemas sobrehumanos que podrán jaquear cualquier cosa, revolucionar todos los ámbitos y ganar verdadero poder y recursos».

En su opinión, hay una conciencia de esta realidad tanto en OpenAI como en Anthropic, pero ve una diferencia: los primeros «tal vez no han internalizado en profundidad los retos civilizacionales», mientras que los segundos los comprenden bien pero «están atrapados en la carrera por llegar primero», aun cuando en el caso más optimista se trate de llegar primero «para actuar con responsabilidad».

Coxon no ve otra salida que la coordinación entre los distintos proyectos de IA y de las empresas involucradas en ellos, pero siente que no se está produciendo y aboga entonces por «acciones costosas», como una prohibición temporal de mejorar las capacidades del modelo (‘model capabilities’) , y pide a los investigadores de la IA que reflexionen profundamente sobre este asunto.

«¿Quieres potenciar un ‘aprendizaje por refuerzo’ (RL en la jerga técnica) superinteligente sin un entendimiento riguroso de su mente? -pregunta a sus colegas en la IA- ¿Vas a bajar la cabeza porque ‘total, ya está ocurriendo’, o aprovechar este momento para abogar por condiciones diferentes?», concluye Coxon en un hilo que ha tenido ya una enorme repercusión mediática en todo el mundo.

Amenaza existencial

 

Ver esta publicación en Instagram

 

Una publicación compartida por ISABERMUDEZ ®️ | Estrategia | Mercadeo y Negocios (@isabermudez)

Por otra parte y significativamente, el jefe de seguridad de Anthropic, Evan Hubinger, respaldó las advertencias de Jacob Coxon tras su renuncia y dijo que existe un riesgo real de extinción humana. Resumiendo, puntualizó que:

• Riesgo existencial: Hubinger señaló en la red social X que «de verdad creemos que la IA podría matar a todos los humanos».

• Probabilidad estimada: Calculó que hay más de un 10% de probabilidad de que esto ocurra en la próxima década.

• Falta de control: Admitió que Anthropic todavía no tiene un plan claro para resolver la alineación de una superinteligencia.

De interés: Carlos López de ESET Venezuela: La IA y la Ciberseguridad perfilan el nuevo paradigma del crimen tecnológico

Con información de EFE Servicios, otros medios internacionales y redes sociales

Fuente de imagen referencial: EFE/Angel Colmenares

¡Sigue nuestras noticias en Google! Para obtener información actual, interesante y precisa. Haz clic aquí y conoce todos los contenidos de DOBLE LLAVE. Encuéntranos también en X/Twitter e Instagram