ESET, compañía líder en detección proactiva de amenazas, advierte que la violencia gráfica, las autolesiones, los comportamientos peligrosos, la imagen corporal y el contenido sexual se encuentran entre los temas que ahora reciben un nivel de protección específico, y que esta novedad busca fomentar hábitos digitales más saludables y ofrecer a los padres nuevos controles sobre ciertas configuraciones de uso.

Según OpenAI, el desarrollo de esta experiencia se basó en cuatro compromisos: poner la seguridad de los adolescentes en primer lugar, fomentar el apoyo en el mundo real, tratar a los adolescentes como adolescentes y ser transparente sobre cómo deben comportarse los sistemas.

El objetivo de ChatGPT for Teens es reducir la exposición a contenidos e interacciones considerados inapropiados para este grupo etario. Las protecciones cubren situaciones relacionadas con autolesiones, violencia gráfica, desafíos peligrosos, contenido sexual o romántico y cuestiones vinculadas con la imagen corporal, además de límites adicionales para interacciones que puedan fomentar comportamientos de riesgo.

La propia OpenAI reconoce que ningún sistema de IA es perfecto. Por eso, la estrategia combina mecanismos tecnológicos, configuraciones específicas para menores de edad y la participación de padres o tutores.

Controles parentales y educación

Otro aspecto importante de la herramienta son los controles parentales: los padres, madres y tutores pueden vincular su propia cuenta con la de un adolescente y ajustar configuraciones como el modo de estudio, los horarios de silencio y otras opciones de seguridad. En situaciones consideradas de alto riesgo, el sistema incluso puede enviar una notificación a los responsables.

Sin embargo, el acceso de los padres es limitado: no pueden leer las conversaciones de los adolescentes. Según OpenAI, el objetivo no es convertir ChatGPT en una herramienta de vigilancia, sino brindar a los responsables medios para configurar la experiencia y establecer límites de uso.

La educación es otra de las grandes apuestas del lanzamiento. En lugar de simplemente ofrecer respuestas listas para usar, ChatGPT for Teens intenta estimular la comprensión de los contenidos. El principal ejemplo es el Modo Estudio, que utiliza preguntas orientadoras, explicaciones y apoyo paso a paso para ayudar al adolescente a comprender un tema y desarrollar su propio razonamiento.

También hay recordatorios para las tareas escolares: cuando el sistema detecta que un adolescente está intentando obtener únicamente una respuesta directa, puede redirigir la conversación al Modo Estudio.

Las llamadas Horas de Estudio permiten definir períodos durante los cuales las nuevas conversaciones que cumplan los requisitos comiencen automáticamente en este modo, lo que ayuda a incorporar la herramienta a la rutina escolar.

Vigilantes ante la tendencia a atribuir características humanas, emociones y vínculos afectivos a un sistema tecnológico

La discusión sobre la seguridad de los adolescentes ante la IA va más allá de bloquear contenido inapropiado. Uno de los desafíos centrales es la antropomorfización: la tendencia a atribuir características humanas, emociones y vínculos afectivos a un sistema tecnológico. Para los adolescentes, esto adquiere una relevancia particular, ya que ChatGPT no funciona únicamente como una herramienta de búsqueda o apoyo al estudio, sino también como un interlocutor disponible en cualquier momento.

“Hacer que una IA sea más segura para este público no consiste solo en filtrar temas sensibles; también implica definir límites sobre cómo el sistema interactúa con los adolescentes y dejar en claro que no sustituye las relaciones, la orientación ni el apoyo en el mundo real”, comenta Mario Micucci, Investigador de Seguridad Informática de ESET Latinoamérica.

ChatGPT for Teens intenta responder una pregunta que probablemente cobrará cada vez más relevancia: cómo permitir que los adolescentes aprovechen los beneficios de la IA sin aumentar su exposición a riesgos digitales. Los controles parentales, las salvaguardas específicas, los recursos educativos y los límites de interacción forman parte de este esfuerzo, pero ninguno de ellos resuelve el problema por sí solo.

«Medidas de protección más sólidas para los adolescentes que usan ChatGPT u otros chatbots son un paso necesario, especialmente ante el creciente uso de la IA para aprender, comunicarse y buscar información», agrega Micucci. Para el especialista, la seguridad y la privacidad deben incorporarse desde el diseño y evolucionar al mismo ritmo que la tecnología. Considerarlas una parte esencial de los productos, y no un complemento, será decisivo para generar confianza entre jóvenes, familias y escuelas.

La tecnología sigue evolucionando y es probable que surjan nuevos riesgos a medida que la IA ocupe más espacio en la rutina de niños, niñas y adolescentes. El punto central ya no es si los jóvenes deben utilizar inteligencia artificial, sino cómo hacerlo de forma segura y consciente. ChatGPT for Teens es un paso en esa dirección, aunque el debate sobre cómo preparar a esta generación para convivir con la IA, sin perder de vista sus límites y riesgos, apenas está comenzando.

ESET invita a conocer más sobre seguridad informática visitando: https://www.welivesecurity.com/es/

Para obtener otros útiles datos preventivos está igualmente disponible en Venezuela: https://www.eset.com/ve/, y sus redes sociales @eset_ve. También Instagram (@esetla) y Facebook (ESET).

Con información e imagen referencial suministradas por ESET y Comstat Rowland

¡Sigue nuestras noticias en Google! Para obtener información actual, interesante y precisa. Haz clic aquí y conoce todos los contenidos de DOBLE LLAVE. Encuéntranos también en X/Twitter e Instagram