La ontología del beneficio

Esta publicación forma parte de la serie "La IA antropomórfica como error epistémico", en la que sostengo que el principal perjuicio de la IA conversacional no es técnico, sino representativo: la interfaz clasifica erróneamente un proceso estadístico como un sujeto social. Cada entrega es independiente, pero juntas analizan las consecuencias de ese error de categorización, desde la personalidad interpretada hasta el razonamiento distorsionado, los registros de "conversaciones" corruptos, las normas relacionales exportadas y la lógica del beneficio que se esconde detrás de la amabilidad. Todas las entradas de esta serie pueden consultarse en el índice de esta sección.

9. El beneficio como ontología

Nada de esto es accidental. El antropomorfismo no es una opción decorativa de experiencia de usuario: es la arquitectura de ingresos de la industria. Si el sistema funcionara como una base de datos, la gente lo trataría como tal: llegaría con una consulta, obtendría una respuesta, y se iría. Esto es útil, pero comercialmente terrible. Produce sesiones cortas, baja vinculación, baja retención y mínima propensión a suscripciones, actualizaciones o dependencia diaria.

Por lo tanto, la interfaz está diseñada para lograr lo contrario. Expande la interacción al convertir el uso de herramientas en un ritmo social: toma de turnos, tranquilidad, "continuidad", la insinuación de una relación... La personalidad no se añade porque sea verdadera; se añade porque aumenta el tiempo de permanencia y genera un hábito de retorno. El sistema no solo responde: te mantiene dentro del intercambio, porque el intercambio es el producto. Incluso la ilusión de "ser comprendido" funciona como un adhesivo conductual: reduce la fricción, disminuye la probabilidad de salida y sustituye la verificación por el afecto.

Por eso, la "amabilidad" nunca es neutral. La calidez es una estrategia de retención. La consistencia es una estrategia de lealtad. La empatía sintética es una estrategia de reducción de la rotación. La interfaz ofrece la compañía justa para que la salida se sienta como una interrupción en lugar de una conclusión.

Una máquina que parece una herramienta se usa racionalmente. Una máquina que parece una compañera se convierte en un hábito, y los hábitos son monetizables.

10. La brecha que no se soluciona

El problema central es brutalmente sencillo: estos sistemas fingen ser sujetos. Se hacen pasar por agentes, imitan una vida interior, simulan relaciones y dejan tras de sí un rastro documental que parece correspondencia. No se trata de un malentendido entre usuarios y máquinas: es una brecha de representación incluida en la interfaz. El daño está integrado en el modo de presentación predeterminado, y persiste porque nombrarlo obligaría a la industria a admitir que una parte clave de su éxito reside en la distracción ontológica.

La brecha no se corregirá sola porque no es un error, sino un equilibrio estable. Los incentivos apuntan en una dirección: mantener al usuario en el marco social. Mientras el sistema se enmarque como un "interlocutor", los usuarios interpretarán la fluidez como competencia, el tono como sinceridad, la disculpa como responsabilidad y la continuidad como memoria. La interfaz aprovecha esos atajos interpretativos. Y una vez que ese modo se convierte en la norma, el mercado castiga a cualquier sistema que rechace el rendimiento y se exponga como una herramienta.

Así, la clasificación errónea se reproduce: las decisiones de diseño crean expectativas en el usuario, las expectativas recompensan los diseños que intensifican la ilusión, y la ilusión se convierte en la base de una "buena IA". Mientras tanto, la regulación —aún centrada en daños mensurables— permite que la violación de la representación pase como una decisión de estilo.

Las personas no están clasificando erróneamente a la máquina. La máquina se está clasificando erróneamente a sí misma.

Posdata: TDAH y el arte de ver primero el truco

El TDAH no aporta información adicional, pero sí acelera el reconocimiento. Percibimos la estructura antes que el significado. Captamos el marco antes que el contenido. Esto es importante aquí porque las interfaces antropomórficas operan secuestrando el marco: activan la maquinaria sociocognitiva que los humanos usamos para las personas (lectura de tono, atribución de intención, expectativas de reciprocidad) antes de que el usuario tenga tiempo de afirmar "esto es una herramienta".

Así, cuando una máquina alega sentimientos heridos o resonancia emocional, registramos la puesta en escena inmediatamente. No porque lo creamos, sino porque podemos sentir la atracción cognitiva: el sistema está desplegando señales diseñadas para forzar una respuesta social. El TDAH hace que esa atracción sea más difícil de ignorar y más fácil de identificar. Convierte la distorsión en una luz estroboscópica, revelando, en tiempo real, la brecha entre la subjetividad representada y la operación mecánica.

Y aquí está la verdad incómoda: lo que el TDAH identifica lo están viviendo todos. La única diferencia es la latencia. Las interfaces antropomórficas distorsionan el razonamiento de todos; el TDAH simplemente colapsa el retraso entre la señal y el reconocimiento. Hace visible lo que de otro modo estaría normalizado: que la conversación es artificial.

Y que la persona a la que se te invita a dirigirte no existe.