- Los detectores de IA no ofrecen respuestas de sí o no, sino que presentan un grado de seguridad con el que el texto analizado se ha creado por una IA o por una persona.
- A través de análisis de los textos, tanto desde una perspectiva del lenguaje como del contexto o la coherencia que tienen, se analizan si está escrito por una persona.
En qué consisten los detectores de Inteligencia Artificial
La detección de IA, como su propio nombre indica, se refiere a la capacidad de determinadas plataformas de identificar si un texto ha sido escrito por una persona o si, por el contrario, lo ha hecho un programa informático.
En paralelo al incremento de la popularidad y los niveles de uso de la Inteligencia Artificial también ha ido aumentándose la utilización de estos detectores, con especial incidencia o relevancia en ambientes académicos, creativos o profesionales en los que la autenticidad debe primar.
A través de algoritmos que han aprendido de numerosos ejemplos de textos tanto escritos por humanos como por máquinas, los detectores de IA no ofrecen una respuesta maniqueísta, sino que presentan una puntuación para medir el grado de seguridad con la que el texto ha sido escrito por una persona o no.
Pero veamos de qué manera se comportan estos detectores de IA.
Cómo funcionan los detectores de Inteligencia Artificial
Los detectores de IA suelen funcionar combinando pruebas.
Por ejemplo, mediante modelos de aprendizaje automático se analizan diferentes características de los textos, como el estilo, la estructura y la longitud de las oraciones, el vocabulario o la hipotética repetición de patrones poco naturales para identificar cuáles pueden haber sido hechas por Inteligencia Artificial.
Yendo a algún caso concreto, como la longitud de las oraciones, los humanos suelen alternar frases más largas con otras cortas, mientras que los modelos de IA replican estructuras que son más homogéneas.
En lo que respecta al vocabulario, las personas tienen cierta tendencia a utilizar frecuentemente expresiones o palabras con las que están más familiarizados para la escritura. Por el contrario, los modelos de Inteligencia Artificial presentan patrones diferentes dependiendo de los datos con los que han sido entrenados.
Otra cuestión analizada va más allá de lo meramente lingüístico y estudia la creatividad, la coherencia, el sentido o el nivel de profundidad que pueden tener los textos, ya que en líneas generales aquellos que han sido escritos por manos humanas pueden contar con un mayor grado de originalidad o con un nivel de detalle y concreción mayor.
Una de las capacidades que presentan las herramientas de análisis y detección de textos elaborados por IA es que pueden detectar fragmentos específicos que le resulten sospechosos, no únicamente el conjunto de lo escrito.
Limitaciones en la detección
Habría que puntualizar que, pese a todo lo que hemos analizado a lo largo del artículo, ningún detector resulta infalible: pueden ofrecer como resultados tanto falsos positivos (considerar textos humanos como escritos por Inteligencia Artificial) como falsos negativos (a la inversa: no captar como realizados por IA los que sí lo son).
A ello habría que añadir posibles ediciones posteriores “a mano” sobre el texto hechos con IA, una capacidad que, paradójicamente, también presentan los propios modelos de Inteligencia Artificial: “humanizar” los textos para que tengan mayor apariencia de estar hechos por una persona.
Por ello, la recomendación es la combinación de herramientas de detección de IA con medios humanos, especialmente en contextos en los que la autenticidad es crucial, como pueden ser los entornos académicos.
¿Es plagio usar la IA para escribir textos?
Uno de los debates generados respecto a la utilización de textos creados por IA es la posibilidad de encontrarnos ante plagios.
Un reciente estudio de la Universidad del País Vasco publicado en la revista ‘Interactive Learning Environments’ desmiente que la utilización de IA sea un desencadenante de plagio y pone el foco en que “el problema no es la tecnología en sí, sino cómo se utiliza y el contexto académico en el que se emplea”.
Sin embargo, sí que habría que puntualizar que -y esto es algo que no es exclusivo del uso de modelos de IA- si se presenta el texto en cuestión generado por la herramienta como una creación propia, sin modificaciones sustanciales ni una correcta atribución, sí que podría estar incurriéndose en plagio.
Por el contrario, no constituye plagio un uso adecuado de esta tecnología, entendiendo como tal la edición del texto o las referencias correctamente indicadas a las fuentes.
