Qué es un modelo de lenguaje y por qué inventa

Un juego que ya juegas todos los días

Cuando escribes en WhatsApp y el teclado te sugiere la palabra siguiente, eso es un modelo de lenguaje. Chiquito, tonto, pero es exactamente lo mismo.

Escribes "estoy llegando en" y te ofrece "cinco". Escribes "feliz" y te ofrece "cumpleaños". Nadie programó esas reglas: el teclado vio millones de mensajes y aprendió qué palabra suele venir después de cuál.

ChatGPT es ese mismo juego, con dos diferencias: vio una cantidad de texto enormemente mayor, y en vez de mirar las dos últimas palabras mira todo lo que llevan escrito los dos.

Ya está. Ese es el mecanismo entero, y no estoy escondiéndote la parte complicada: predecir la palabra que sigue, una tras otra 🐣

Cómo funciona un modelo de lenguaje: mira el texto que lleva, predice la palabra siguiente, la escribe y vuelve a empezar, sin comprobar nunca si lo que dice es cierto — El bucle entero. Lo que no está en el dibujo es lo importante: en ningún punto hay una comprobación. Un dato falso bien escrito le parece igual de buena continuación que uno real.

"Pero eso es demasiado simple para lo que hace"

Es la reacción normal y es una buena objeción. ¿Cómo puede algo que solo adivina la palabra siguiente escribir un correo decente, resumir un texto o explicarte un tema?

Porque para acertar la palabra siguiente de verdad bien, hay que haber aprendido un montón de cosas por el camino.

Piénsalo con una frase: "El gato que perseguía a los ratones del vecino de arriba estaba muy...". Para completar eso bien tienes que saber que el sujeto es el gato y no los ratones ni el vecino, que "estaba" pide un adjetivo, y que después de perseguir ratones lo razonable es "cansado" y no "morado".

Nada de eso se lo enseñó nadie por separado. Salió de perseguir la palabra siguiente millones de millones de veces. Es lo mismo del capítulo 2: el sistema persigue una sola cosa, y por el camino aprende lo que haga falta para conseguirla 🔍

Y ahora la parte que te importa: por qué inventa

Acá está lo único que de verdad tienes que llevarte de este capítulo.

El modelo no tiene una base de datos que consultar. No tiene una lista de cosas ciertas. No hay ningún momento en el proceso donde se pregunte "¿esto es verdad?". Solo produce la continuación que le parece mejor puesta.

Y aquí está el problema: un dato falso bien escrito le parece igual de bien puesto que uno verdadero.

A esto le dicen alucinación, y vas a ver la palabra en todas partes. Es una palabra desafortunada porque suena a que el sistema tuvo una visión rara, y no hay nada raro pasando: está haciendo su trabajo normal, que es continuar el texto. Prefiero decir que inventa, aunque conviene que sepas cómo se llama para entender lo que te venden 📄

Si le pides el nombre de un libro sobre un tema, "El arte de decidir con datos, de María Fernández, editorial Planeta, 2019" es una continuación perfectamente razonable. Suena a título de libro, suena a nombre de autora, suena a editorial. Que exista o no es una pregunta que el modelo nunca se hace 😐

Mira la trampa de arriba, la del abogado. Es el caso más famoso de esto y terminó en sanción.

Por qué suena tan seguro cuando se equivoca

Esta parte molesta más que la anterior, y es la que engaña a la gente lista.

El modelo escribe con el mismo tono cuando acierta y cuando inventa. No hay un "creo que" que aparezca solo en las respuestas dudosas, porque el tono también es texto y también se predice igual. Aprendió de textos escritos por gente que sabía de lo que hablaba, así que suena como esa gente siempre.

Y por eso no sirve preguntarle "¿estás seguro?". Esa pregunta también se contesta produciendo la continuación que suena bien, y después de "¿estás seguro?" lo que suena bien es "sí, lo confirmo". El abogado del caso hizo exactamente eso.

La única comprobación que sirve es la de siempre: ir a la fuente. Si te dio un dato, un nombre o una cifra que vas a usar en algo que importa, búscalo tú 🙂

Dónde sí es buenísimo y dónde no

Le va bien cuando	Le va mal cuando
Le das tú el texto y le pides que lo resuma o lo reescriba	Le pides datos, cifras o citas que tiene que traer de su memoria
Le pides que cambie el tono o el formato de algo	Le preguntas por cosas que pasaron después de su entrenamiento
Le pides ideas, borradores, puntos de partida	Le pides que haga cuentas exactas donde el número tiene que salir bien
Le pides que te explique algo que ya está muy escrito por ahí	Le preguntas por documentos internos que nunca vio

Fíjate en el patrón de la columna izquierda: casi siempre le estás dando tú el material. Cuando el modelo trabaja sobre un texto que le pegaste, no tiene que inventar nada, y ahí es donde de verdad rinde.

Ese patrón es el consejo práctico más útil que te puedo dar sobre estas herramientas, y en el capítulo 7 vemos qué precio tiene pegarle material, porque tiene uno.

Practica 💪

1. Cuatro pedidos, dos van a salir mal

¿Cuáles de estos cuatro tienen riesgo de que invente? (a) resumir un contrato que le pegaste, (b) decirte qué artículo del Código Civil peruano aplica a tu caso, (c) reescribir tu correo en tono más formal, (d) darte tres estudios que respalden una idea.

La b y la d. Las dos le piden datos de su memoria: un número de artículo y unos estudios con nombre.

La a y la c trabajan sobre un texto que tú le diste. Ahí no tiene que inventar nada, y es justo donde rinde.

Fíjate en el patrón, que es la regla práctica del capítulo entero: si el material lo pones tú, va bien; si lo tiene que sacar de su memoria, comprueba.

2. Le preguntas si está seguro

Te da una cifra que te suena rara. Le escribes "¿estás seguro?" y te contesta "sí, confirmado". ¿Qué acaba de pasar?

Produjo la continuación que suena bien después de esa pregunta, que es exactamente "sí, confirmado".

No fue a comprobar nada, porque no tiene con qué. Preguntarle si está seguro es pedirle otra predicción de palabras, no una verificación.

Lo curioso es que a veces, si le dices "revisa eso, creo que está mal", se corrige. Tampoco ahí comprobó nada: la continuación que suena bien después de una corrección es una disculpa y otro dato. Que el segundo sea correcto es suerte 🫠

3. El resumen del informe que no existe

Le pides el resumen de un informe interno de tu empresa que nunca se publicó, y te lo da, con secciones y todo. ¿De dónde salió?

De ningún sitio. Escribió lo que suena a resumen de un informe de ese tipo.

Y sale convincente porque los informes internos se parecen entre sí: tienen resumen ejecutivo, objetivos, hallazgos, recomendaciones. El modelo conoce esa forma perfectamente. Lo único que no tiene es tu contenido.

Este es el caso más peligroso de todos, porque tú sí sabes de qué iba el informe, y lo que te devuelve encaja lo suficiente como para que no saltes.

4. Por qué se equivoca sumando

Le pides que sume una columna de 40 números y se equivoca. Es una máquina. ¿Cómo puede fallar en una suma?

Porque no está sumando. Está prediciendo qué texto viene después de esos números, y el texto que suele venir después de una lista de números es otro número plausible.

Una calculadora calcula. Un modelo de lenguaje escribe. Que muchas veces acierte no significa que esté haciendo la operación: significa que el resultado correcto es a menudo la continuación más probable.

Por eso, si el número tiene que cuadrar, que lo calcule algo que calcule. Las herramientas modernas resuelven esto llamando a una calculadora de verdad por detrás, y cuando lo hacen suelen decirlo.

5. Antes y después de una fecha

Le preguntas por algo que pasó la semana pasada y te contesta con seguridad, pero está desactualizado. ¿Por qué?

Porque aprendió de textos hasta cierta fecha, y después de esa fecha no sabe nada. No es que lo sepa y se equivoque: es que ese mundo no existe para él.

Muchas herramientas hoy buscan en internet antes de contestar, y eso lo arregla. La diferencia es visible: cuando busca, suele enseñarte de dónde sacó cada cosa.

Regla práctica: si la respuesta no trae fuentes y depende de cuándo, compruébala.

6. Reescribe el pedido

Este pedido va a salir mal: "dame los mejores libros sobre gestión de inventarios". Cámbialo para que salga bien, sin cambiar lo que quieres.

Una versión que funciona: "voy a buscar libros sobre gestión de inventarios. Dime qué temas debería cubrir un buen libro de eso y qué preguntas hacerme al elegir. No me des títulos concretos, los busco yo."

Le quitaste lo que se inventa (títulos, autores, años) y le dejaste lo que hace bien: estructurar un tema del que hay muchísimo escrito.

Esta es la habilidad que de verdad separa a quien le saca provecho: no pedir mejor, sino pedir otra cosa 🐣

Lo que te llevas

Un modelo de lenguaje predice la palabra siguiente. Eso es todo lo que hace.
Inventa porque un dato falso bien escrito le parece igual de buena continuación que uno real.
Suena igual de seguro acertando que inventando, y preguntarle si está seguro no sirve de nada.
Rinde de verdad cuando tú le das el material, no cuando se lo pides de su memoria.

Comprueba que se entendió

Comprueba que lo tienes

Le pides a ChatGPT el resumen de un informe interno de tu empresa que nunca ha visto, y te devuelve un resumen detallado y convincente. ¿Qué pasó?

Se inventó un resumen que suena a informe de ese tipo
Buscó el informe en internet y lo resumió
Se equivocó y hay que volver a preguntarle mejor
Lo aprendió cuando entrenaron el modelo

En el siguiente vemos por qué la misma herramienta le funciona bien a tu compañero y a ti no, que casi nunca es cosa de suerte 🐥

Qué es un modelo de lenguaje y por qué a veces inventa