En este nuevo curso escolar, colaboramos con Cadena SER Euskadi en una sección semanal llamada “AbIAn”, cuyo objetivo será acercar la Educación digital a la ciudadanía. A lo largo de varios capítulos trataremos de profundizar, desde diferentes puntos de vista, en los beneficios que nos puede aportar el uso de la IA, así como en los riesgos de la inteligencia artificial para menores que pueden derivarse de su uso.
En este primer programa hablamos de un tema tan apasionante como preocupante: los riesgos de la IA para niños y adolescentes.
¿Por qué empezar por aquí? Pues porque la IA ya está en todas partes: en las redes sociales que usan nuestros hijos e hijas, en los vídeos que ven en YouTube, en los trabajos que hacen para clase, en esos filtros que “rejuvenecen” o “envejecen” las fotos…
Y como pasa siempre con la tecnología, los y las más jóvenes son los primeros que la adoptan… y por tanto, los que más expuestos quedan a sus riesgos.
Pero no todo son malas noticias: la IA también puede ser una gran herramienta para la educación, la creatividad y la inclusión. Veamos estos puntos paso a paso.
Los riesgos de la inteligencia artificial (IA)
La inteligencia artificial trae consigo riesgos que afectan especialmente a niños, niñas y adolescentes sobre todo en base al uso que hacen de ella.
Para ser más claros, hablaremos de dos tipos de riesgos. Por un lado están los riesgos “clásicos” de internet, como el ciberacoso, la adicción a las pantallas o la exposición a contenidos inadecuados. Estos ya existían, pero la IA los potencia y los hace más sofisticados y difíciles de controlar. Y por otro lado aparecen los riesgos “nuevos”, que no conocíamos hasta ahora y que surgen del propio uso de la IA: desde adolescentes que usan un chatbot como si fuera su psicólogo de cabecera, hasta deepfakes hiperrealistas o bots que se hacen pasar por personas reales.
Veamos con un poco más de detalle algunos de estos riesgos.
Riegos «clásicos» potenciados por la IA
Muchas de las amenazas digitales que ya conocíamos no han desaparecido, simplemente se han vuelto más sofisticadas gracias a la inteligencia artificial.
- Ciberacoso: lo que hasta ahora podían ser faltas de respeto o insultos más o menos directos, con la IA se pueden convertir en fotos o un audios manipulados. Lo que antes era un comentario ofensivo, ahora puede ser un vídeo falso que parece real. Y todo ello con herramientas al alcance de cualquiera y sin requerir ningun conocimiento técnico específico para realizarlas.
- Grooming: recordemos que hablamos de grooming cuando nos referimos a adultos que se hacen pasar por menores hasta ganarse su confianza, manipulandolos con el objetivo de conseguir imágenes íntimas, encuentros o algún tipo de abuso generalmente de carácter sexual.
Este proceso en el que el adulto trataba de ganarse la confianza del o la menor solía ser largo y requería de cierto esfuerzo. Hoy en día, un bot conversacional con IA puede mantener charlas largas, realistas y creíbles, fingiendo ser un chico o chica de cualquier edad.
- Adicción: los algoritmos de las aplicaciones y sobre todo de las redes sociales más usadas como TikTok, YouTube o Instagram funcionan con IA. Analizan lo que nos gusta y nos muestra lo necesario para que no dejemos de hacer scroll. Y estos algoritmos mejoran cada vez más. Por eso, no es casualidad que los y las menores (y también los adultos) digan “veo un vídeo más y me acuesto” y acaben apagando el móvil unas horas después.
- Contenidos inadecuados: los y las menores se ven expuestos a imágenes falsas que parecen auténticas y que, en muchas ocasiones, pueden afectarles de muchas formas. Y no solo eso, ahora, además de recibirlos, los propios menores pueden generarlos con herramientas de IA.
Nuevos riesgos de la inteligencia artificial para menores
Además de estos riesgos que ya nos suenan, la inteligencia artificial también ha abierto riesgos completamente nuevos que hace unos años ni imaginábamos:
- La IA como “psicólogo”: la IA está siempre ahí, en nuestro bolsillo, no nos juzga, nos responde al instante… y claro, para un adolescente puede ser un refugio, una especie de “psicólogo” que les escucha y les aconseja. El peligro aquí no es tanto que hablen un rato con un chatbot, sino que lo conviertan en su único confidente.
Y lo sabemos pero no está de más recordarlo: una máquina, por muy inteligente que sea, nunca sustituirá un abrazo, una mirada o un silencio compartido.
- La IA como experto/a o como médico/a de urgencias: en la juventud y la adolescencia es habitual que los y las menores se preocupen por su aspecto físico, que busquen encajar en un grupo y no verse excluidos/as. Por eso es muy fácil recurrir a la IA para que genere una dieta que les ayude a perder peso o a ganar músculo. Incluso que la usen para consultar síntomas y recibir recomendaciones para automedicarse.
- Deepfakes hiperrealistas: con la IA se pueden crear vídeos falsos que imitan a la perfección a una persona. Con ellos, un menor puede ser víctima de chantaje, burla o difamación pública. Si para los adultos es difícil distinguir lo verdadero de lo falso, imaginemos lo que supone para un adolescente.
- Bots conversacionales avanzados: son capaces de hacerse pasar por personas reales y mantener conversaciones de largo recorrido. ¿Cómo distinguirlos cuando incluso nosotros dudamos?
- Dependencia de los asistentes de IA: la IA está cada vez más presente y es habitual que se consulte cada vez para más cosas: desde resolver un problema de matemáticas hasta tomar una decisión personal.
El riesgo en este caso es que acaben dependiendo de ella para tomar decisiones.
Qué podemos hacer para prevenir estos riesgos o minimizarlos en menores
Cuando comprendemos los riesgos derivados del uso de la IA y pensamos en que hacer para prevenirlos lo primero que nos viene a la cabeza es: ¿prohibimos la IA?
La respuesta por nuestra parte es clara: no se trata de prohibir, sino de acompañar. A esto se le llama mediación parental y deberíamos aplicarla desde el primer momento en el que ofrecemos tecnología a los y las menores.
La mediación parental consiste en estar presentes, interesarnos, hablar, poner límites y sobre todo enseñar a los y las menores a pensar de manera crítica.
Algunas ideas sencillas que podemos poner en práctica desde ya mismo:
- Interésate por lo que hacen: aunque no entiendas de videojuegos o redes, pregúntales qué usan y cómo lo usan. Lo importante no es saber de tecnología, sino mostrar interés.
- Enséñales a dudar: si algo parece demasiado real, demasiado fácil o demasiado bonito… quizá no lo sea. Esa semilla de desconfianza sana es fundamental.
- Marca tiempos de uso: no se trata de cortar de raíz, pero sí de establecer horarios y rutinas saludables.
- Conoce los recursos de ayuda: no tenemos que resolverlo todo solos/as. Si tenemos dudas o problemas contamos con ayudas de organismos oficiales como el teléfono 017 de INCIBE o el servicio de Cyberzaintza en Euskadi (900 104 891).
Cosas buenas de la IA
Pero no todo son malas noticias con la IA. Como decimos en el programa, la inteligencia artificial también tiene un enorme potencial para la infancia y la adolescencia.
Veamos algunas cosas que podemos hacer con IA que pueden ayudar a los y las menores:
- Apoyo educativo: aplicaciones que explican matemáticas paso a paso, o que sirven para practicar idiomas incluso en forma de conversación.
- Creatividad: niños y niñas que inventan una historia y usan la IA para ilustrarla con dibujos, o para ponerle música.
- Inclusión: subtítulos automáticos para menores con problemas auditivos, lectura en voz alta para quienes tienen dislexia o pictogramas para alumnado con autismo.
- Pensamiento crítico: pedirle a la IA varias versiones sobre un mismo tema ayuda a reflexionar y comparar, algo que puede ser un gran ejercicio en el aula.
- Bienestar: aplicaciones que fomentan hábitos saludables, nos animan a hacer ejercicio, dormir mejor o llevar rutinas más saludables.
Conclusión
En esta intervención, hemos hablado de muchos riesgos que los niños y adolescentes encuentran en internet y que la inteligencia artificial puede agravar: deepfakes, grooming con chatbots, adicción a las pantallas… Pero siempre nos gusta terminar con un mensaje positivo: la IA no tiene por qué ser un enemigo, puede ser una herramienta fantástica si sabemos usarla bien y acompañamos a los y las menores en ese camino.
La inteligencia artificial ya está ayudando a muchos niños a aprender mejor, con aplicaciones que explican matemáticas paso a paso o que practican idiomas como si fueran un compañero o compañera de clase. También puede fomentar la creatividad, porque con ella se pueden inventar historias, generar ilustraciones o incluso crear música. Y no nos olvidemos de la inclusión: gracias a la IA, un niño o niña con dislexia puede escuchar los textos en voz alta, o un alumno con problemas auditivos puede disponer de subtítulos automáticos.
Eso sí: la diferencia la marca el acompañamiento. Un menor que usa la IA solo, sin supervisión, puede correr riesgos. Pero acompañado por su familia o su profesorado, puede descubrir un mundo de oportunidades y aprender a usarla con criterio.
Por eso, más que prohibir, lo que necesitamos es enseñar a los jóvenes a pensar de forma crítica, a preguntar, a contrastar y a poner límites saludables. Así, la inteligencia artificial no será un peligro, sino un aliado en su educación, su creatividad y su bienestar digital.
La inteligencia artificial ya forma parte de la vida de nuestros hijos e hijas. La cuestión no es si la van a usar, sino cómo queremos que lo hagan: ¿a escondidas, con miedo, o acompañados, con confianza responsable y criterio?
La IA ya forma parte de la vida de nuestros hijos e hijas.
La cuestión no es si la van a usar, sino cómo queremos que lo hagan: ¿a escondidas, con miedo, o acompañados, con confianza responsable y criterio?
