OpenAI advierte que se puede perder el «control del futuro» ante la IA

DOBLE LLAVE – El director ejecutivo de OpenAI, Sam Altman, volvió a llamar la atención sobre la perdida del «control del futuro» ante la IA e insistió en la necesidad de crear modelos seguros en su desarrollo.

Además de la necesidad de un mayor control, Altman advirtió sobre la creación de «un mundo con demasiada concentración de poder», dado que «si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos».

«Hay dos formas (la pérdida de control y la concentración) en que el progreso de la IA podría salir muy mal y que debemos evitar», destacó.

El directivo de OpenAI consideró que para evitar estas dos amenazas se debe «caminar por un angosto camino intermedio», que evite que tanto un país o un laboratorio tenga demasiado poder.

Siguiendo con su reflexión, Altman pidió confianza en las empresas estadounidenses que desarrollan la IA, ya que, en su opinión, «cada vez más actuarán de manera responsable, especialmente ahora que la trayectoria del progreso se ha acelerado».

En este sentido, apeló a un marco legal federal en EEUU que «establezca requisitos de seguridad consistentes para la IA de frontera (frontier AI)», un conjunto de sistemas de inteligencia artificial que se sitúan en el límite superior de la tecnología actual.

Estos requisitos pueden suponer la evaluación de los nuevos modelos de forma preventiva, durante su desarrollo, no cuando estén a punto de salir al mercado.

De interés: Sam Altman estudia ralentizar el desarrollo de la IA y espera que otros le imiten

Con información de EFE Servicios

Fuente de imagen referencial: EFE/EPA/Etienne Laurent

¡Sigue nuestras noticias en Google! Para obtener información actual, interesante y precisa. Haz clic aquí y conoce todos los contenidos de DOBLE LLAVE. Encuéntranos también en X/Twitter e Instagram