«Este acuerdo, que está abierto también a los países no europeos, establece un marco legal que se aplica a la totalidad del ciclo de vida de los sistemas de IA y se centra en los riesgos que pueda entrañar, al mismo tiempo que promoverá una innovación responsable», indicó el Consejo de Europa, después de que los 46 ministros de Exteriores del organismo adoptasen en Estrasburgo el tratado.

Este convenio internacional obliga a los estados signatarios a poner en marcha medidas para «identificar, evaluar, prevenir y atenuar posibles riesgos» de la IA -tanto en el sector público, como en el privado- especialmente cuando el uso de esta tecnología pueda presentar «riesgos incompatibles con las normas de los derechos humanos».

Asimismo, los estados han de «controlar que estos sistemas de IA respeten la igualdad, incluyendo la de género, impidan la discriminación y protejan la vida privada».

El tratado tendrá también como misión evitar que la IA se pueda utilizar para «atacar a las instituciones y a los procesos democráticos, respetando los principios de la separación de poderes».

Acuerdo de regulación de la IA

El acuerdo de regulación se elaboró durante los dos últimos años gracias a un comité en el que participaron miembros de los 46 estados del Consejo de Europa, junto a otros 11 países: Argentina, Australia, Canadá, Costa Rica, El Vaticano, Israel, Japón, México, Perú, Estados Unidos y Uruguay.

También se tuvo en cuenta a representantes del sector privado, la sociedad civil y la académica.

La convención marco sobre la IA, que se abrirá a la firma el próximo 5 de septiembre en una conferencia de ministros de Justicia en Vilna, se aplicará de dos maneras.

O bien los signatarios optan por acogerse a las disposiciones tal y como figuran en el tratado de regulación o se comprometen a poner en marcha otras medidas que sean equiparables a las del documento, siempre y cuando protejan «los derechos humanos, la democracia y el Estado de Derecho».

Estas dos modalidades de adopción se han planteado debido a la «disparidad de los sistemas jurídicos de los diferentes países» que integran el acuerdo.

El Consejo de Europa explicó que el tratado tendrá un mecanismo de seguimiento «para asegurarse de que se pone en marcha de manera efectiva».

Le puede interesar: EEUU y Reino Unido anuncian colaboración en pruebas de seguridad de la IA

Fiorella Tagliafico R.

Con información de EFE Servicios y redes sociales

Fuente de imagen referencial principal: EFE/EPA/Robert Ghement

Visita nuestro canal de noticias en Google News y síguenos para obtener información precisa, interesante y estar al día con todo. También en Twitter e Instagram puedes conocer diariamente nuestros contenidos

Altman enfatizó que la intervención regulatoria por parte de los gobiernos es crucial ante la creciente potencia de los modelos de IA. Además, subrayó la necesidad de que el desarrollo se base en valores democráticos, y resaltó el papel determinante del liderazgo de Estados Unidos en este ámbito.

Tras el lanzamiento del ChatGPT, un robot conversacional capaz de generar contenido similar al humano de manera instantánea, los gobiernos de todo el mundo se encuentran bajo presión para tomar medidas al respecto.

Gobiernos deben establecer marcos legales

Ante este escenario, se espera que los gobiernos y las instituciones internacionales trabajen en conjunto para establecer marcos legales y normativos que promuevan la transparencia, la responsabilidad además de la protección de los derechos humanos en el ámbito de la IA.

La regulación adecuada y actualizada permitirá maximizar los beneficios de la IA mientras se minimizan los riesgos y se protege el bienestar de las sociedades en el mundo digital en constante evolución.

«Si esta tecnología sale mal, puede salir bastante mal».

– El CEO de @OpenAI, Sam Altman, admite que sus «peores temores» son que la IA «cause un daño significativo al mundo» en una audiencia sobre inteligencia artificial en el Senado. pic.twitter.com/HSV6ZRtVJ7

— Tecnología & Gadgets (@revolutegplus) May 16, 2023

De interés: Edulcorantes pueden aumentar el riesgo de diabetes