El detector de IA de Substack me convirtió en una máquina
Corregí un verbo, una tilde y una repetición y Pangram pasó de decir que era 100 % humano a decir que era 100 % artificial. Las dos veces con certeza absoluta.
Esto se basa en una experiencia que tuve con el prólogo de la novela que estoy escribiendo y que, de paso, invito a leer a quien quiera.
Comparto dos versiones del prólogo. Las dos reciben un 100 % de certeza según Pangram. La primera versión fue escrita por mí y la herramienta la clasifica como 100 % humana, con un 100 % de confianza. La segunda, en cambio, aparece clasificada como 100 % escrita por inteligencia artificial, también con un 100 % de confianza.
Sin embargo, entre las dos versiones hay apenas unas pocas correcciones.
La frontera entre una especie y la otra, entonces, parece ser apenas el uso de un verbo, un error de tipeo y un par de redundancias.
Substack incorporó hace poco una herramienta llamada Pangram, que es un detector de inteligencia artificial. Uno le da un texto y Pangram determina si fue escrito por una persona o por una máquina. Encima tiene el tupé de poner un nivel de certeza.
Hay gente que paga por esto. Me imagino que Substack quiere asegurarles a las personas que pagan una suscripción que no van a recibir textos generados con inteligencia artificial. Qué sé yo. Es un tema que se debate mucho ahora. Pero lo que quiero discutir acá no es tanto el uso de la inteligencia artificial como la supuesta capacidad de los detectores para reconocerla.
Aclaro algo: no quiero decir con esto que yo cometa pocos errores. Lo que ocurre es que, cuando una versión ya fue muy revisada, suelen quedar pocos errores y, además, difíciles de ver. A veces. Otras veces no.
Durante la corrección puede quedar una frase repetida, un párrafo duplicado o una misma idea expresada de dos maneras distintas. Son errores comunes de los borradores. Por eso digo que, en este caso, eran pocos los errores que tenía el texto. Los que quedaron son bastante claros y pueden verse al comparar las dos versiones, pero eran pocos porque el prólogo ya había pasado por varias revisiones.
También debería contar cómo es mi forma de trabajar.
Primero escribo un texto. Muchas veces se lo dicto a una inteligencia artificial para que lo transcriba. Otras veces lo escribo con los dedos, pero sinceramente prefiero mucho más dictar, porque siento que las ideas fluyen mejor. Depende de las circunstancias, aunque la mayoría de las veces elegiría dictar.
Después corrijo el texto. Luego lo paso por varias inteligencias artificiales y les pido sugerencias, mejoras y que me hagan ver los errores. La mayoría de las veces las correcciones que sugieren son tan buenas que las acepto. Otras son malas.
Con el paso del tiempo, los escritores empezamos a reconocer ciertos recursos que la inteligencia artificial repite demasiado y tendemos a eliminarlos. Los casos más típicos son las tríadas y las antítesis. La inteligencia artificial escribe textos plagados de ellas.
En este caso, yo había escrito una versión y ya la había corregido. Después la pasé por una inteligencia artificial, que detectó algunos errores, me sugirió unificar los nombres, encontró que había una frase repetida, me hizo cambiar un verbo y señaló un par de cosas más.
Esos cambios hicieron que el texto quedara muchísimo mejor.
Entre una versión y la otra hay una diferencia de dieciséis palabras: una tiene 350 y la otra 366. Estas son las diferencias que anoté:
«Le dijo ánimos» pasó a «le dio ánimos».
«Algunos rezaba» pasó a «algunos rezaban».
En la versión anterior, a «capitán» se le había caído una letra y había quedado «capián», sin la te. En la nueva le devolví el grado.
El nombre completo de Hermes Peña Torra aparecía demasiadas veces, así que en algunos lugares lo dejé simplemente como «Hermes».
También saqué una aclaración inútil: «Jorge, el que se había caído» quedó solamente en «Jorge», porque la caída había ocurrido veinte líneas antes y el lector no padece de amnesia.
Cambié «aquella noche» por «esa noche», porque me sonó más natural.
Moví una frase de lugar y corregí una tilde. «La paciencia de quién sabe» pasó a «la paciencia de quien sabe». Ese sí era un cambio de sentido: una cosa es preguntarse quién sabe algo y otra es hablar de la paciencia de alguien que sabe.
Además, eliminé una frase repetida.
Eso es todo. Eso es todo lo que cambia entre ser considerado 100 % humano, con un 100 % de certeza, y ser considerado 100 % inteligencia artificial, también con un 100 % de certeza.
Entonces me pregunto: ¿qué carajo controla Pangram?
¿Controla los errores? ¿Las repeticiones? ¿La estructura de las ideas? Pareciera que no.
También habría que definir qué significa ese 100 %. ¿Qué es un texto 100 % ia? ¿Algo que escupió ChatGPT y que una persona simplemente copió y pegó? ¿Y qué es un texto 100 % humano? ¿Una grabación transcripta? ¿Algo que una persona se sentó a escribir y después corrigió sin utilizar ninguna herramienta?
Lo único que podemos afirmar con certeza es que un cuento de Borges fue escrito sin inteligencia artificial. Quizás, dentro de un tiempo, solamente podamos afirmar eso de las personas que escribieron antes de 2022. No sé si 2022 es el año exacto, porque ya antes empezaban a existir algunas herramientas, pero se entiende la idea.
A partir de determinado momento va a ser imposible asegurar que un escritor no utilizó inteligencia artificial en ninguna parte de su proceso.
Pero, en realidad, saberlo no me suma nada.
Como analistas de un texto, ¿qué nos interesa: el escritor o el texto? ¿Por qué queremos saber si algo fue escrito con inteligencia artificial o sin ella? ¿Qué ganamos con esa información?
Supongamos que Borges hubiera tenido acceso a una inteligencia artificial. ¿Creemos que, asistido por ella, no habría podido escribir «El Aleph»?
Yo creo que sí. Estoy seguro de que habría podido hacerlo y también creo que la habría utilizado. ¿Por qué? Porque Borges era un tipo inteligente.
Por supuesto, no podemos saberlo. Pero imaginemos que un día nos enteráramos de que «El Aleph» fue escrito con la ayuda de ChatGPT. ¿Cambiaría nuestra opinión sobre el cuento? ¿Sería peor? ¿Dejaría de producir lo que produce?
Me parece que estamos dedicándole demasiado tiempo y demasiada energía a una discusión vacía. Una discusión que no le agrega nada a la literatura. La verdad es que no sé a qué le agrega algo.
Yo preferiría discutir cómo utilizar la inteligencia artificial para mejorar los textos.
De todos modos, entiendo que existe un miedo genuino. Hay personas que se sienten engañadas cuando descubren que les pasaron algo escrito por ChatGPT. Eso es cierto. A mí no me pasa. Si el texto está bueno y está bien corregido, no me molesta que haya sido escrito con inteligencia artificial. Pero hay mucha gente a la que sí le molesta.
También creo que esa reacción va a desaparecer, porque todos vamos a terminar escribiendo con inteligencia artificial.
Muchas veces se define como «escrito con inteligencia artificial» a un texto poco corregido que conserva todos los vicios que produce una máquina. Si uno le pide a una inteligencia artificial que le arme una idea para contar una historia, probablemente le devuelva algo lleno de esos vicios. Después hay que pasar muchísimas horas corrigiendo, leyendo, reescribiendo y reformulando frases.
Es decir, escribiendo.
La inteligencia artificial está mejorando la escritura. Ahora, personas con muy buenas ideas pueden proponer relatos muy buenos, fáciles de leer, entretenidos y bien pensados. El problema es que hay que intentar ser mucho más original, porque la inteligencia artificial maneja muy bien los tropos y los arquetipos. Si uno se limita a aceptar lo primero que produce, el resultado suele ser reconocible y repetitivo.
La herramienta puede servir muchísimo cuando hay un escritor que se sienta a corregir obsesivamente.
Por eso, en resumen, no tomen a Pangram como el oráculo de la verdad. Puede equivocarse. Puede considerar humano un texto y artificial ese mismo texto después de corregir un verbo, una letra, una tilde y una repetición.
Incluso vamos a ver qué dice sobre este artículo que estoy escribiendo.
Probablemente diga que fue escrito 100 % por una inteligencia artificial.