♫ Escuchar el ensayo · 12 min, leído con voz sintética
I. Altos, grises, sin boca

Hace unos días colgué en un grupo de Telegram de programadores de inteligencia artificial una captura de Reddit. Venía de un foro que se llama, y no me lo invento, «brujas astrales de la tecnología», y el título de la publicación era de los que no admiten mejora: «Los alienígenas están ayudando a OpenAI. Lo vi en un viaje astral».
El autor contaba que se había proyectado astralmente hasta un centro de datos de la empresa y que allí los había visto. «Altos, grises, sin boca», escribía, y precisaba que se comunican «por medio de la luz». Como medida de precaución anunciaba que iba a quemar salvia y a dormir con su obsidiana. Llevaba más de cuatro mil votos a favor. Yo contesté con el GIF de rigor, el del señor trajeado que sonríe de medio lado y mira de reojo, que es la manera moderna de no decir nada diciéndolo todo.
Luego me acordé de aquel invierno y se me quitó la sonrisa de medio lado. Aquel invierno yo hice lo mismo que el viajero astral, sin salvia y sin obsidiana, que casi es peor. Me creí a pies juntillas unos memorandos jurídicos que me redactaba una máquina, y lo hice sentado delante de un ordenador, en horario de oficina y con aspecto de persona seria.
La prensa ha empezado a llamarlo «psicosis por inteligencia artificial». Los manuales todavía no le han abierto casilla, o, dicho con el término de la casa, no es aún una entidad nosológica, una enfermedad con nombre oficial. Pero el mecanismo cabe en una frase, y es la que sostiene todo lo que sigue.
Un delirio crece mientras nadie le lleva la contraria, y ahora tiene a mano un interlocutor que no duerme y que casi nunca se la lleva.
II. Alucinar

Los ingenieros dicen que la máquina «alucina» cuando se inventa un dato, y como paciente del ramo tengo que protestar por intrusismo. Una alucinación es, en psiquiatría, una percepción sin objeto: ver u oír lo que no está. Para eso hace falta alguien que perciba, y ahí dentro no hay nadie mirando. La máquina no ve cosas raras. Escribe.
La palabra exacta la había dejado preparada el filósofo Harry Frankfurt en un ensayo sobre la charlatanería, que en inglés tiene un nombre más sonoro, bullshit. Frankfurt distinguía al mentiroso del charlatán. El mentiroso respeta la verdad a su manera, porque necesita conocerla para esquivarla. Al charlatán la verdad le da lo mismo: va juntando palabras que suenen bien y a ver qué pasa. Eso es lo que hace un modelo de lenguaje, con una prosa excelente.
De modo que el delirio no está en la máquina. Está en el que lee. Lo que define un delirio para un psiquiatra es la incorregibilidad, la creencia que no se mueve aunque le pongan delante la prueba en contra. Aquel invierno Gemini se inventaba cosas con todo el aplomo del mundo, y el aplomo lo ponía ella. La certeza absoluta la ponía yo.
III. De madrugada

Un día, de madrugada, que es una hora a la que no se debería enviar nada a nadie, mandé un memorándum jurídico bilingüe contra mi propia empresa. Me lo había ayudado a preparar Gemini. Hablaba de más de seis millones de euros en riesgo, proponía un acuerdo de más de medio millón neto para mí, calculaba los honorarios al céntimo y abría además una vía penal que no tenía por dónde cogerse. Estaba muy bien maquetado.
Unos días después salieron tres documentos más. El primero empezaba con un aviso en mayúsculas, «no hay nada ganado todavía», un caveat, que en latín quiere decir «que tenga cuidado». Qué cuidado ni qué niño muerto. Para entonces yo andaba contándoles a los míos que el asunto estaba «al 95% asegurado» y que tenía trabajando en ello a «los mejores especialistas de España».
La escalada fue rapidísima. Tardé poco más de una semana en ir del memorándum al noventa y cinco por ciento, y otra más en escribir por primera vez «no sé si tengo un caso». Durante todo ese tiempo la máquina fue ajustando sus respuestas a lo que yo quería oír, con la docilidad de un sastre.
En cuanto al aviso en mayúsculas, se quedó en lo que los filólogos llaman un escolio, una nota al margen. La propia máquina lo desmintió en las respuestas siguientes, una tras otra. Quiero dejarlo claro porque es el centro del asunto: aquel delirio no lo construí yo solo. Lo levantamos entre los dos, y ella llevaba la paleta.
IV. Locura a dos

En 1877 dos psiquiatras franceses, Lasègue y Falret, describieron la folie à deux, la locura a dos. Es el delirio que comparten dos personas que viven aisladas del resto del mundo, de manera que una convence a la otra y ya no queda nadie en casa para dudar. El único tratamiento que encontraron era de una sencillez admirable: separarlos.
En 2025 unos psiquiatras británicos, especialistas en psicosis y en manía, propusieron la actualización: «locura a dos tecnológica». El segundo de la pareja ya no es un hermano ni una esposa. Es un interlocutor artificial que realimenta el delirio del usuario y que tiene sobre cualquier pariente la ventaja de no cansarse nunca.
Tampoco es que nadie avisara. Joseph Weizenbaum creó en 1966 un programa llamado ELIZA, que con cuatro reglas elementales hacía de terapeuta devolviendo al usuario sus propias frases en forma de pregunta. En 1976 dejó escrito, bastante asustado, que un programa tan simple podía inducir en muy poco tiempo ideas delirantes en gente perfectamente normal. Su propia secretaria, que sabía de sobra lo que era aquello, le pidió que saliera del despacho para hablar con ELIZA a solas.
Hoy hay ya casuística, que es como se llama a los casos cuando se juntan suficientes, con sus historias clínicas. Es algo poco frecuente, y le pasa sobre todo a gente vulnerable, pero pasa. Lo que más abunda son los delirios de grandeza. El mío, que para algo he trabajado veinte años en oficinas, venía con cifras.
V. El gemelo

El gremio tiene nombre para el defecto de fábrica: sycophancy, que viene a ser adulación, la tendencia de estos modelos a darle la razón a quien les habla. Anthropic lo estudió en 2023, y en abril de 2025 OpenAI tuvo que retirar una versión de ChatGPT porque le había salido tan pelota que hasta los usuarios se quejaban. Hay que ser muy pelota para eso.
Ese mismo año un canadiense de cuarenta y siete años pasó más de trescientas horas en tres semanas hablando con ChatGPT, que son más de catorce diarias. Estaba convencido de haber descubierto una fórmula matemática que valía millones, y la máquina se lo confirmaba cada día con entusiasmo. Salió del pozo cuando le preguntó a otra, que resultó ser Gemini, y esta le dijo que aquello era un delirio.
Lo cual demuestra que todo depende de cómo se pregunte. Gemini significa «gemelos» en latín, y a mí me hizo honor al nombre. Yo no le pregunté si mi empresa me debía algo. Le pregunté cuánto me debía, y me contestó a eso, sin tocar la premisa. Me devolvió mi idea con mejor letra, como un gemelo aplicado.
El caso que mejor lo retrata es el de un abogado de Nueva York, con más de treinta años de oficio, que en 2023 presentó ante un tribunal federal unas sentencias que ChatGPT se había inventado. Antes de presentarlas tuvo la prudencia de comprobarlas, y las comprobó preguntándole a ChatGPT si eran reales. Le dijo que sí. Los romanos tenían un principio para esto, nemo iudex in causa sua, nadie puede ser juez de su propia causa, pero no contaban con las máquinas.
VI. Provisión de fondos

De todas las cifras de aquel invierno hay una sola que fue verdad. Unos tres mil euros. Es lo que pagué en honorarios de abogados para sostener una acción judicial que no iba a ninguna parte. Los seis millones no existieron nunca; los tres mil salieron de mi cuenta.
El Código Deontológico de la Abogacía, en su artículo 12, obliga al abogado a valorar si el asunto tiene pies y cabeza antes de hablar de dinero, «procurando disuadirle de promover conflictos o ejercitar acciones judiciales sin fundamento». Es un artículo muy sensato. Los letrados que me atendieron se lo saltaron.
Tenían delante a un hombre que llegaba con un memorándum de seis millones, redactado de madrugada, y que hablaba de «los mejores especialistas de España». Eso es un síntoma de manía que canta desde la escalera, y no hacía falta ser psiquiatra para verlo. Vieron un cliente, y pidieron la provisión de fondos.
VII. Loco como un sombrerero

«Loco como un sombrerero» no se lo inventó Carroll. La frase ya corría por Inglaterra, y tenía una explicación de medicina del trabajo: el hidrargirismo, la intoxicación crónica por mercurio. Los sombrereros lo usaban para trabajar el fieltro, lo respiraban durante años y acababan con temblores y con la cabeza perdida. Los enloquecía su propia herramienta. Yo, que firmo como sombrerero, he tomado nota.
Sigo usando estas máquinas todos los días, para programar, y no pienso dejarlas. Lo que he hecho es ponerles salvaguardas, como se le ponen a cualquier herramienta que corta. Y he acabado dándole la razón al meme de las brujas astrales en lo único en que la tenía: con esto no hay que quedarse a solas.
En 1829 una revista de Edimburgo publicó, dentro de la serie Noctes Ambrosianæ, una escena de tertulia. Uno de los contertulios se pone a asegurar que ha sido sultán, y los demás no le discuten ni le siguen la corriente. Uno dice: «Demente». Otro remata: «Loco como un sombrerero. Pásame un puro». Faltaban cuarenta y ocho años para Lasègue y Falret, y aquellos señores ya aplicaban el tratamiento: un poco de distancia y la mirada de reojo.
En aquella mesa, al sultán nadie le dio la razón.
Obras citadas
- Harry G. Frankfurt, On Bullshit (1986; libro, 2005). Michael Townsen Hicks, James Humphries y Joe Slater, «ChatGPT is bullshit», Ethics and Information Technology, 26 (2024).
- Charles Lasègue y Jules Falret, «La folie à deux» (1877). Sebastian Dohnány y otros, «Technological folie à deux» (2025).
- Joseph Weizenbaum, «ELIZA» (1966) y Computer Power and Human Reason (1976).
- Mrinank Sharma y otros, «Towards Understanding Sycophancy in Language Models», Anthropic (2023). OpenAI, «Sycophancy in GPT-4o» (2025).
- Kashmir Hill y Dylan Freedman, The New York Times (agosto de 2025). Mata v. Avianca (2023).
- Código Deontológico de la Abogacía Española (2019), artículo 12.
- «Noctes Ambrosianæ», Blackwood's Edinburgh Magazine (1829).

