¿Qué sucede cuando un comprobador de IA dice que un texto ha sido creado por un sistema predictivo, pero no es cierto? En un panorama en el que cada día dependemos más de la tecnología, no es un escenario exagerado.
Ya puedes imaginarlo, presentas tu tesis para esa cátedra que cursas en la universidad. Días después, el profesor afirma que todo tu trabajo es resultado de la IA.
Pero está equivocado, pasaste interminables horas trabajando en él, es resultado de tu esfuerzo.
O tal vez eres redactor freelance, y un cliente importante dice que su servicio de detección de IA ha señalado que tu trabajo no es más que una escritura automatizada.
Estas situaciones se deben a solo una cosa. Se trata de un falso positivo, un resultado probable de estos sistemas, que sólo analizan estadísticas. No tienen acceso a ninguna verdad absoluta.
Veamos por qué sucede esto.
¿Qué es un falso positivo?
El falso positivo se presenta cuando un detector de IA clasifica a un escrito como generado por IA equivocadamente.
Todos confiamos en las maravillas de la Inteligencia Artificial. Pero incluso si pueden actuar con precisión, puede fallar si se lo emplea masivamente.
Es un problema serio cuando la consecuencia puede ser la nota de un estudiante, el empleo de un redactor o la reputación de un escritor.
La dificultad no radica en la falla, sino en la respuesta que genera dicho diagnóstico.
Es entonces cuando hay que recordar que estos sistemas son útiles, pero no infalibles. Deben usarse como herramientas, no considerarlos jueces omnipotentes.
¿Por qué los comprobadores de IA se pueden equivocar?
Además del concepto básico de que no son sistemas perfectos, hay razones por las cuáles pueden emitir un análisis equivocado. Algunas de las causas son las siguientes:
- Algunos tipos de textos son predecibles por naturaleza. Los trabajos académicos, legales, corporativos o técnicos tienden a tener estructuras regulares. Lo que no significa que las haya creado la IA. El lenguaje formal es muy similar al generativo.
- Las buenas prácticas de escrituras que lucen como IA. Un vocabulario formal, un texto simétrico, un tono impersonal, o un vocabulario promedio, fácilmente puede parecer robótico.
- Textos editados previamente, mayormente correctos. Si un escrito ya fue editado, pulido, optimizado o repetitivo, puede ser confundido como uno producido por la IA.
- Sesgos lingüísticos y de dominio. Algunos detectores aún no están del todo adaptados a otros idiomas, por lo que no funcionan bien en otras lenguas. Incluso señalan mal textos cortos, dado que poseen un bajo rango estadístico.
- Carrera acelerada. La IA avanza continuamente y modelos de detección que en un inicio eran correctos, en algún momento pueden quedar desactualizados. Los cambios en el estilo promedio hacen más compleja la tarea de diagnóstico.
¿Se puede ajustar la IA para evitar este problema?
Entonces, ¿qué hacer para que esto no suceda? Algunas voces suelen proponer ajustes en los sistemas automáticos que mejoren la precisión con la que trabajan.
Sin embargo, incrementar su sensibilidad ante algunos patrones, podría no ser suficiente. Los creadores de las IA trabajan continuamente en la optimización de su funcionamiento, pero en muchos casos esto sólo desplaza el problema, no lo elimina del todo.
Lo más importante es la conciencia plena de que no son infalibles, y que la evaluación humana debe ser la norma ante cualquier dificultad.
¿Cómo emplear los detectores de IA de forma constructiva?
En cualquier ámbito, ya sea estudiantil o profesional, debe establecerse una política clara y distinguible, a través de reglas claras de qué se considera un uso aceptable de la IA.
También es importante no usarlas para sancionar. Por el contrario, deberían aplicarse en la enseñanza, como herramienta para mejorar la forma en que se escribe o redacta un informe.
Siempre se puede solicitar como evidencia los medios utilizados en el proceso, como versiones previas, notas preliminares o bosquejos iniciales de un ensayo en el terreno educativo.
En los ambientes empresariales, lo mejor es advertir del uso de la IA en un informe. Puede ser el punto de partida para medir el impacto en sus procesos internos.
Conclusión
Este problema es un reflejo de nuestra dependencia creciente de sistemas automatizados. Queremos confiar ciegamente en ellos, porque parecen facilitar muchas tareas.
No obstante, jamás hay que dejar de lado el criterio propio, y el sentido común.
Un comprobador de IA debe ser una guía, no una sentencia absoluta.
Su presencia no es un riesgo para el trabajo humano, usarla como si fuese un juez todopoderoso, sí.
Lo que realmente importa es desarrollar una cultura de la transparencia, en la que el aprendizaje real sea un objetivo noble que alcanzar.
Además, si una herramienta emite un diagnostico compuesto de probabilidades, se debe proceder con humanidad y partiendo de hechos verificables.
Es la mejor manera de que estos sistemas se utilicen realmente a nuestro favor.
