¿Puede una IA detectar el trabajo de otra IA?

Si trabajas con frecuencia con inteligencias artificiales, seguramente habrás escuchado hablar sobre los detectores de contenido de IA. Se han convertido en aliados valiosos a la hora de controlar la calidad del contenido que se produce para el mundo online.

Seguramente te estarás preguntando qué son, y qué es lo que pueden hacer por vos. Lo que te contaremos a continuación podría sorprenderte.

¿Qué es un detector de contenido de IA?

Se trata de una herramienta desarrollada en base a un modelo de machine learning, que estima la posibilidad de que un texto fuese escrito por una persona o por un generador de texto automatizado.

El problema se presentó cuando se hizo evidente que las IA, si bien escriben textos en segundos, no lo hacen de forma interesante o creíble. Debido a que son sistemas lógicos, mantienen estructuras demasiado homogéneas y predecibles, cuya lectura es tediosa.

También devela un problema de baja calidad de trabajo, ya que la información y la forma en que la transmiten ofrece poco valor a cualquier lector.

A raíz de esto se volvió necesario detectar este tipo de artículos, y adaptarlos a la imperfección humana.

Cómo funcionan

Estos modelos han estudiado la forma en que las mismas IA generan texto y las comparan con la forma en que escriben personas reales. Y en base a esto emiten un diagnóstico.

Aprendieron a detectar la regularidad excesiva. Es decir, patrones que se repiten, como oraciones con la misma estructura o cantidad de palabras.

También una baja variabilidad en los vocablos que eligen y una estructura demasiado repetitiva y simple.

Además, los textos generados por la IA no tienen imperfecciones propias de la redacción humana. No emplean muletillas, no varían el estilo ni plasman ninguna incongruencia. Ni siquiera una pequeña.

Preservan además un tono excesivamente neutro, demasiado elegante y sin detalles personales.

Métricas de detección

Para esta tarea los detectores de contenido con IA se apoyan en métricas muy concretas, que hacen la diferencia en todo escrito.

Perplejidad

En inglés es perplexity, un indicador que señala que nivel de sorpresa puede tener un texto. Si es predecible su perplejidad es baja y si no lo es, su perplejidad es alta.

Burstiness

O variabilidad. Mientras que los humanos alternan oraciones simples con otras más complejas, la IA tiende a repetir la estructura en su redacción.

Clasificadores entrenados

Se trata de modelos predictivos que aprenden a detectar en base a corpus etiquetados, que comparan el contenido humano con el generado a partir de la IA.

Detección de Watermarking

Algunos modelos suelen dejar señales que delatan que un texto ha sido generado por ellas. No siempre están presentes, pero es importante que de existir estas marcas sean detectadas.

¿Funcionan realmente?

Sabiendo lo que pueden hacer, es lógico preguntarse si realmente pueden detectar algo producido por la IA.

En general, si lo hacen. Pero también pueden equivocarse. Por eso, lo que hacen es un diagnóstico estimativo, no una afirmación absoluta. 

¿Por qué fallan, entonces? Porque incluso la forma de redactar de los seres humanos, en ocasiones puede parecer producto de una IA. Por ejemplo, si están escritos de manera demasiado técnica o excesivamente formal. Son redacciones que tienden a mantener una homogeneidad consistente.

También puede suceder cuando se trata de traducciones detalladas, de textos legales, técnicos o instructivos, o si el autor mantiene un lenguaje demasiado académico.

¿Cómo debe usarse el análisis realizado por una IA detectora de IA?

Como dijimos antes, hay que entender que su informe es estadístico y estimativo. Señala probabilidades, no una certeza absoluta.

En todo caso debe emplearse para sugerir adaptaciones a un estilo más empático y menos formal.

Para un redactor responsable, es la oportunidad perfecta para mejorar su trabajo y hacerlo más interesante.

Es la evidencia de que, a pesar del avance de la tecnología, el ser humano no es reemplazado. De hecho, sigue siendo indispensable para guiar la acción de las IA.

Las IA y la detección del contenido que generan

¿Qué hacer para evitar el uso excesivo de las IA? Para empezar, hay que aceptar que llegaron para quedarse, y que lo más honesto es aprovechar sus virtudes para obtener un mejor resultado en la producción de textos.

Si empleas las IA en tu trabajo, no uses lo que resulta de ellas sin revisar. Reescribe cualquier parte que no suene a cómo tú escribirías y esfuérzate en agregar reflexiones o tu visión personal sobre un tópico.

La IA no puede manifestar conceptos abstractos, por lo que de esta manera les estarás imprimiendo tu humanidad.

Los expertos afirman que la IA no llegó para suplantarnos. No es más que un ciervo útil, creado para facilitarnos la vida.

Pero eso no significa que la utilicemos sin criterio, para que se hagan cargo de todo.

A vos te corresponde expresar el punto de partida en tus proyectos, elegir el enfoque con el que trabajarás y asegurarte de que lo que hagas ofrezca un buen valor agregado para quien quiera que esté destinado.