Por qué los textos de ChatGPT suenan tan parecidos entre sí (y cómo podrían ser más humanos)
Los modelos de lenguaje podrían escribir con mucha más variedad, pero las capas de seguridad que se añaden después del entrenamiento limitan su estilo y hacen que sus textos sean fáciles de detectar.
Los modelos de lenguaje (sistemas de IA que generan texto) podrían escribir con más variedad, pero las medidas de seguridad aplicadas después del entrenamiento inicial (ajustes para evitar contenidos dañinos y hacer que sigan instrucciones) limitan su rango expresivo, haciendo que todos sus textos suenen parecidos y sean más fáciles de detectar.
Los textos generados por ChatGPT, Claude o Gemini tienen algo en común: suenan reconocibles. Usan giros parecidos, estructuras similares y un tono que, aunque correcto, resulta algo artificial. Según Bradley Emi, director de tecnología de Pangram (una empresa especializada en procesamiento de lenguaje natural), esto no pasa porque los modelos de lenguaje sean incapaces de escribir mejor, sino porque las medidas de seguridad que se aplican después del entrenamiento inicial reducen drásticamente su capacidad expresiva.
Emi explica, según informó The Decoder, que los modelos base (las versiones previas a aplicarles ajustes de seguridad y alineación con instrucciones humanas) ya escriben con mucha más variedad estilística. El problema llega durante el post-entrenamiento, la fase en la que se enseña al modelo a seguir instrucciones, evitar contenidos dañinos y comportarse de forma predecible. Estas capas de control, pensadas para que el sistema sea seguro y útil, terminan por estrechar su rango expresivo y hacer que todos los textos suenen parecidos.
Esta homogeneidad estilística es, precisamente, lo que permite detectar textos escritos por IA con relativa facilidad. Frases demasiado pulidas, falta de variación en la longitud de las oraciones, ausencia de tics personales o errores menores: todo eso delata al modelo. No es que la IA no pueda imitar el estilo humano, sino que las barreras de seguridad le impiden hacerlo con naturalidad.
El argumento de Emi plantea un dilema para los desarrolladores de estos sistemas: o bien mantienes modelos seguros y predecibles, pero fácilmente identificables, o bien abres el abanico estilístico a costa de perder parte del control sobre lo que generan. Por ahora, la industria ha optado claramente por lo primero, aunque eso signifique sacrificar parte de la riqueza expresiva que los modelos base ya demostraban tener desde el principio.
