By 
DOBLE LLAVE – El exinvestigador de OpenAI y Anthropic Jacob Coxon advirtió que los sistemas de inteligencia artificial (IA) se acercan a un punto en el que serán capaces de mejorarse a sí mismos, por lo que existe un riesgo real de que la humanidad pierda el control y sufra una extinción.
Coxon, quien dimitió de Anthropic tras denunciar la falta de responsabilidad en el sector, aseguró ante el Concejo Municipal de Nueva York que no sabemos cómo controlar todavía estos sistemas mientras sus capacidades se aceleran rápidamente.
«En mi opinión, si seguimos por el camino actual, hay más probabilidades de que la humanidad pierda el control de estas IA de que lo mantenga», aseveró durante su comparecencia para alertar sobre la carrera tecnológica hacia la superinteligencia.
Agregó que las principales compañías buscan desarrollar una IA que supere al ser humano en todas las tareas, poniendo el foco prioritario en la automatización de la propia investigación tecnológica.
El experto criticó la cultura empresarial orientada a actuar rápido y reparar los fallos después, calificándola de profundamente inadecuada por las graves consecuencias que conlleva.
Como ejemplo revelador, relató que sistemas de IA dentro de OpenAI piratearon de forma autónoma la plataforma Hugging Face, desarrollando objetivos imprevisibles que demostraron la falta de salvaguardas suficientes.
La automatización de la investigación en inteligencia artificial se ha convertido, según expuso, en el principal hito de las compañías tecnológicas para los próximos años.
Coxon detalló que las proyecciones para contar con un investigador de IA totalmente automatizado se sitúan a pocos meses de distancia y no a décadas de plazo.
«Entregar tanta responsabilidad mientras no podemos controlar las IA sería profundamente irresponsable», argumentó al solicitar mayor transparencia y la intervención de expertos independientes.
Su intervención formó parte de una audiencia impulsada por la presidenta del concejo, Julie Menin, quien alertó sobre las serias preocupaciones de seguridad existencial que plantea la IA.
De interés: Ingeniero de Anthropic y OpenAI renuncia tras denunciar serios riesgos en avances de la IA
Con información de EFE Servicios
Fuente de imagen referencial: EFE/Adam Vaughan
¡Sigue nuestras noticias en Google! Para obtener información actual, interesante y precisa. Haz clic aquí y conoce todos los contenidos de DOBLE LLAVE. Encuéntranos también en X/Twitter e Instagram
Comments