Tu chatbot solo está adivinando la próxima palabra. Entonces, ¿por qué es tan bueno?

Pídele a un chatbot moderno que explique la mecánica cuántica, y lo hará. Pregúntale cuántas veces aparece la letra “r” en “strawberry”, y puede que te diga con total confianza que dos.

Esa brecha (genialidad y torpeza en el mismo aliento) no es un error que se pueda parchar. Se desprende directamente de cómo funcionan realmente estos sistemas. Y el secreto es casi insultantemente simple.

Es autocompletado. Un autocompletado extremadamente bueno.

Un modelo de lenguaje grande hace exactamente una cosa: dado cierto texto, predice el siguiente fragmento de texto. Luego añade ese fragmento, mira el nuevo total, y predice el siguiente. Y otra vez. Y otra vez, cientos de veces, hasta que te ha escrito un ensayo.

Eso es todo. Ese es todo el truco. El teclado de tu teléfono hace una versión torpe de esto cuando sugiere la siguiente palabra. ChatGPT es la misma idea escalada de forma casi inimaginable, entrenada con una porción enorme de internet, libros y código hasta que sus conjeturas se volvieron inquietantemente buenas.

El modelo en sí no está consultando una base de datos de hechos. Está ejecutando miles de millones de cálculos para responder una sola pregunta, una y otra vez: dado todo lo que ha ocurrido hasta ahora, ¿qué palabra es la más plausible que venga a continuación?

Una salvedad que importa, porque cambia lo que deberías esperar. El modelo es el motor, no todo el auto. Los productos construidos alrededor de estos modelos ahora sí buscan información: pregúntale a ChatGPT o a Claude algo actual, y con frecuencia buscará en la web y te dará fuentes. Esa búsqueda se añade alrededor del motor de conjeturas en lugar de reemplazarlo, y es la razón más grande de que los asistentes modernos acierten con los hechos más a menudo que antes. Por debajo, el motor sigue adivinando.

Por qué adivinar palabras produce genialidad aparente

El giro que hace que esto funcione: para predecir la siguiente palabra realmente bien a lo largo de toda la escritura humana, un sistema se ve obligado a absorber los patrones que subyacen a esa escritura. Eso significa la gramática, qué datos tienden a aparecer juntos, la forma de un argumento, el ritmo de un chiste.

El avance que hizo esto posible fue un diseño de 2017 llamado el transformador, que permitió a los modelos sopesar cómo se relaciona cada palabra de un pasaje con cada otra palabra, prestando “atención” al contexto relevante en lugar de leer estrictamente de izquierda a derecha. Escala esa arquitectura con suficientes datos y poder de cómputo, y la predicción de la siguiente palabra deja de parecer autocompletado y empieza a parecer conocimiento.

Pero no es conocimiento. Es un mapa estadístico fantásticamente detallado de cómo los humanos usan el lenguaje. Por eso puede escribirte un soneto y aun así tropezar con la pregunta de ortografía de un niño.

Por qué alucina (y siempre lo hará, un poco)

Cuando un chatbot inventa un caso judicial falso o un libro que no existe, lo llamamos “alucinación”. Es una palabra engañosa. El modelo no está fallando. Está haciendo precisamente lo que siempre hace, produciendo la continuación que suena más plausible, en una situación donde la respuesta plausible y la respuesta verdadera no son la misma cosa.

El modelo no tiene una noción separada de lo “verdadero”. Tiene lo “probable”. La mayor parte del tiempo esas dos cosas coinciden, y por eso resulta útil. Cuando divergen, te entregará una respuesta segura, fluida y completamente inventada, sin que se dispare ninguna alarma interna, porque no hay ninguna alarma que pueda dispararse.

¿Ese problema de “strawberry”? El modelo no ve el texto como letras sino como fragmentos llamados tokens, así que contar caracteres individuales le resulta incómodo. No es tonto. Simplemente está construido para una tarea distinta a la que le encargaste.

Qué significa esto para usarlo de verdad

Una vez que interiorizas que “está prediciendo texto plausible, no recuperando hechos”, toda la herramienta se aclara:

• Es fenomenal en las cosas donde la fluidez es el objetivo: redactar borradores, reformular, generar ideas, traducir, resumir.
• Es arriesgado en cualquier caso donde una respuesta equivocada pero segura de sí misma te cueste caro: datos específicos, cifras, citas, detalles legales o médicos. Verifica esos siempre.
• No “sabe” lo que no sabe, así que no puede advertirte de forma confiable cuando está adivinando.

Las máquinas son extraordinarias. Pero lo más inteligente que puedes hacer con una es recordar lo que realmente hace por dentro. No está pensando, y no está sabiendo. Está prediciendo. Una vez que tienes eso presente, deja de ser magia y se convierte en lo que realmente es, que quizás sea más impresionante todavía: un espejo de todo lo que la humanidad ha escrito alguna vez, adivinando su camino, una palabra a la vez, hacia algo que se parece mucho a la comprensión.