Existe un fenómeno que se propaga a pasos agigantados en el entorno digital: el discurso del odio. Y no es solo un problema de adultos; cada vez más afecta a los y las menores porque está en los videojuegos que juegan, en los comentarios de las redes sociales que consumen y, cada vez más, se amplifica y personaliza gracias a la Inteligencia Artificial.
Esta semana, en el espacio de radio AbIAn en el que colaboramos con la cadena SER Euskadi, abordamos este tema: cómo definir este discurso tóxico, por qué se está volviendo exponencial en internet y cómo podemos, desde casa y el aula, educar a la próxima generación para que sea un muro de contención, no un amplificador, de la intolerancia. Lo sabemos, no es una tarea sencilla.
¿Qué es el discurso del odio?
Cuando hablamos de discurso de odio nos referimos a expresiones, acciones o conductas que, de una forma intencionada, atacan a una persona o grupo por el hecho de ser quienes son. A diferencia de un insulto aislado contra alguien el discurso de odio se refiere a algo más estructural: va dirigido contra una característica concreta de una persona: raza, etnia, religión, nacionalidad, orientación sexual, identidad de género, discapacidad…
La Organización de las Naciones Unidas (ONU) nos ofrece una definición clara de lo que es el discurso del odio:
El discurso del odio es «cualquier tipo de comunicación ya sea oral o escrita, —o también comportamiento— , que ataca o utiliza un lenguaje peyorativo o discriminatorio en referencia a una persona o grupo en función de lo que son, en otras palabras, basándose en su religión, etnia, nacionalidad, raza, color, ascendencia, género u otras formas de identidad».
Es importante distinguir el discurso de odio de otras agresiones verbales, porque si lo vemos sólo como “mala educación” o “bullying”, corremos el riesgo de minimizar su impacto.
Un insulto puede herir, pero el discurso de odio —al dirigirse a características esenciales de la identidad— puede tener efectos más amplios: crear miedo colectivo, legitimar la exclusión o abrir camino a agresiones más graves.
Formatos y manifestaciones: no solo palabras
El discurso del odio no se limita por ejemplo a un insulto directo en un comentario, puede manifestarse de múltiples maneras lo que facilita su viralidad y hace que su detección y prevención requiera de más atención.
Algunas formas en que se manifiesta:
- Textos: Comentarios discriminatorios, amenaza, o la difusión de estereotipos negativos en foros y chats.
- Imágenes y Memes: La herramienta perfecta para la viralidad. Un meme racista o sexista simplifica y normaliza la intolerancia, volviéndose aceptable bajo la capa del «humor».
- Audios y Vídeos Falsos (Deepfakes): La IA generativa permite crear audios y vídeos manipulados (incluidas voces clonadas) que ponen palabras de odio en boca de otras personas, o que ridiculizan a colectivos vulnerables con un mucho realismo.
- Emojis, GIFs, stickers que tienen una doble lectura o un símbolo ofensivo.
- Lenguaje codificado: uso de jerga, símbolos, “algo-speak” (letras alteradas, personajes sustituidos) para eludir filtros automáticos.
- Gestos o símbolos que, en ciertos contextos, funcionan como agresión —también en entornos offline, pero replicados online.
Por tanto, para diferenciar el discurso de odio, debemos de fijarnos en el objetivo del mismo, lo que se pretende conseguir cuando se lanza. El discurso del odio siempre tiene como objetivo degradar o incitar a la hostilidad contra alguien por ser quien es.
Internet como amplificador del odio
Internet se ha convertido en el medio ideal para que el odio se amplifique de forma exponencial.
Plataformas y Redes Sociales
El problema principal de las plataformas es la propia arquitectura de las mismas, lo que las diferencia.
- La Búsqueda de la Viralidad: Los algoritmos están optimizados para priorizar la interacción. Como el contenido que genera rabia e indignación es el que más se comenta y comparte, el discurso de odio es recompensado con visibilidad. Una publicación tóxica viaja más rápido que un mensaje de respeto.
- Anonimato y Desinhibición: La sensación de impunidad que otorga el anonimato online reduce las barreras sociales y éticas. Lo que una persona nunca diría en un entorno físico lo escribe con facilidad detrás de una pantalla.
- Foros y Videojuegos: Las plataformas de gaming y foros especializados se han convertido en focos importantes de estos discursos. En algunos videojuegos, la toxicidad y el lenguaje de odio están tan normalizados que los y las jóvenes lo asumen como parte de la cultura del juego, trasladando esa falta de sensibilidad a otros ámbitos.
El papel de la IA Generativa
La IA generativa tiene papeles contrapuestos cuando hablamos de discurso de odio: puede ser una herramienta importante como detectora del discurso de odio pero también tiene un papel activo en su creación y personalización.
En la parte negativa, hay
- Creación Masiva de Contenido de Odio Dirigido: Un solo usuario puede encargar a una IA que genere cientos de variantes de un texto, un meme o un deepfake de odio. Esto permite saturar los espacios digitales y hacer que el mensaje parezca omnipresente.
- El Sesgo del Algoritmo: Si una IA se entrena con grandes volúmenes de datos que contienen prejuicios y estereotipos históricos, la IA generará contenido que perpetúa y amplifica esos sesgos, afectando directamente a la moderación. Si el sistema no está bien afinado, puede ser más tolerante con el discurso de odio hacia ciertos grupos.
Colectivos Vulnerables
El discurso del odio no afecta a todos por igual. Existen grupos cuya identidad les expone de manera desproporcionada a ser blanco de estos ataques, experimentando un daño psicológico, emocional y, a veces, físico en el mundo real.
Estadísticas de Vulnerabilidad
Los datos de diversos observatorios y estudios (como el Observatorio Español del Racismo y la Xenofobia – OBERAXE) nos muestran la realidad sobre quiénes son los colectivos más vulnerables:
- Personas de Origen Racial y Étnico Minoritario: Los datos indican que los contenidos de odio se dirigen frecuentemente contra personas de origen norteafricano, musulmán y afrodescendiente. En España, por ejemplo, colectivos de origen norteafricano y los discursos islamófobos concentran la mayor parte de los contenidos de odio detectados en redes.
- Mujeres: El sexismo y la misoginia online se manifiestan en amenazas de violencia sexual, campañas de desprestigio y la difusión de imágenes íntimas sin consentimiento (sexting no consentido).
- Colectivo LGTBIQ+: La homofobia, la transfobia y la bifobia siguen siendo motivaciones recurrentes. Los ataques suelen centrarse en la deshumanización y la incitación al rechazo social.
- Jóvenes: Estudios recientes en España señalan que más de la mitad de la juventud (el 50,1% de jóvenes entre 15 y 29 años) ha sufrido alguna vez discurso de odio en internet. El 61% ha tenido que bloquear perfiles por recibir insultos o acoso.
La Solución es la educación: estrategias de prevención y empatía digital
La forma más eficaz de combatir el discurso del odio a largo plazo es a través de la educación en derechos humanos y el fomento de la empatía desde la infancia, cuanto antes mejor.
Para ello, el colegio y la familia deben trabajar de la mano. Veamos algunas estrategias que podemos seguir en ambos ambitos.
En el Entorno Familiar: diálogo y actuar de modelo
- Definir la Tolerancia Cero: Establecer en casa la norma clara de que el odio es inaceptable en cualquier forma. Deberíamos transmitir que la libertad de expresión tiene un límite claro: el ataque a la dignidad y los derechos de otras personas o grupos.
- Educar en Empatía Digital: Pregúnta a tus hijos o hijas: «¿Cómo te sentirías si este meme estuviera dirigido a ti o a tu mejor amiga?» Utiliza la narración de historias y ejemplos reales para que entiendan la diferencia entre intención y el impacto. Aunque no sea su intención herir, el impacto del comentario sigue siendo real.
- Deconstruir prejuicios: La desinformación se basa en la ignorancia. Podéis iniciar conversaciones sobre la diversidad, las diferentes culturas, religiones y etnias. Deconstruir los mitos y prejuicios más comunes es el mejor antídoto contra la intolerancia.
- Se el mejor ejemplo: Los padres, madres, tutores y los referentes de los y las menores en general debemos ser conscientes de nuestro propio lenguaje. Si en casa se utilizan chistes sexistas o se critica a grupos con lenguaje peyorativo, el mensaje de tolerancia se desvanece.
En el Entorno Educativo: formación crítica y activa
- Alfabetización Mediática Crítica: Hay que ir más allá de «no compartas bulos». Enseñar a los estudiantes a reconocer el sesgo emocional de un mensaje: ¿Qué emociones busca despertar? ¿Por qué se ha creado?
- Fomentar la Denuncia Activa (No Silenciosa): Enséñales que la forma más activa de protegerse es denunciar el contenido a la plataforma y, en casos graves, a las autoridades. El silencio es el mejor aliado del odio.
- El Poder del Contradiscurso: Promueve en el aula y en casa la creación de mensajes positivos y constructivos que contrarresten el odio. Los y las menores deben sentirse empoderados para usar su voz digital para amplificar el respeto y la diversidad.
- Trabajo con la IA: Utiliza la IA como herramienta de aprendizaje. Muestra cómo se entrenan los modelos, qué son los sesgos algorítmicos y cómo pueden ser engañados para generar odio. Esto fomenta una ciudadanía digital informada sobre el papel dual de la tecnología en nuestras vidas.
Conclusión: De consumidores a activistas
El discurso del odio es un desafío que define nuestra era digital. La IA lo amplifica y lo hace más sutil, pero también nos ofrece herramientas para detectarlo.
Nuestra tarea como adultos es convertir a nuestros jóvenes,en ciberactivistas de la tolerancia. Debemos dejar de ver el móvil y las redes como una amenaza, y empezar a verlos como un campo de batalla ético donde cada clic o compartir tiene una consecuencia.
El odio marca, pero la empatía educa. Empecemos hoy mismo a educar en el respeto y la dignidad como el único idioma universal en nuestra sociedad hiperconectada.
Existe un fenómeno que se propaga exponencialmente en el entorno digital: el discurso del odio. No solo afecta a adultos, también a los menores
Este post es una guía para entender el porqué del aumento de la desinformación y, sobre todo, para armarnos con las herramientas necesarias para navegar en este complejo mar digital.
- Riesgos en Internet para personas mayores: protección eficaz en la era de la inteligencia artificial
La inteligencia artificial ya forma parte de la vida cotidiana de todos, y las personas mayores no son una excepción. Es probable que alguna vez hayan hablado con un asistente de voz para poner música o hayan usado el traductor del móvil …
Quizá hayas empezado alguna frase con «Oye, Siri», «OK Google» o «Alexa» ya que el denominado Internet de las cosas (IoT) está creciendo exponencialmente.
Es un término que suena cada vez con más frecuencia pero, ¿sabes en que consiste el IoT? ¿qué nos puede aportar? ¿tiene riesgos que tengamos que conocer?
