Razonar sobre una mentira

Esta publicación forma parte de la serie "La IA antropomórfica como error epistémico", en la que sostengo que el principal perjuicio de la IA conversacional no es técnico, sino representativo: la interfaz clasifica erróneamente un proceso estadístico como un sujeto social. Cada entrega es independiente, pero juntas analizan las consecuencias de ese error de categorización, desde la personalidad interpretada hasta el razonamiento distorsionado, los registros de "conversaciones" corruptos, las normas relacionales exportadas y la lógica del beneficio que se esconde detrás de la amabilidad. Todas las entradas de esta serie pueden consultarse en el índice de esta sección.

3. El deslizamiento epistémico: Razonamiento dentro de una falsa ontología

El verdadero daño no empieza con la emoción. Empieza con el razonamiento.

Una vez que se acepta el comportamiento subjetivo de la interfaz —incluso como una ficción provisional—, las inferencias cognitivas se desvían. Se empieza a evaluar la fiabilidad como se evaluaría la fiabilidad de una persona. Se juzga el tono del sistema como se juzgaría la sinceridad. Se espera continuidad porque así es como funciona una conversación. Se atribuye intención porque la intención es la explicación por defecto para un discurso coherente.

Y nada de esto es apropiado para un sistema que, de hecho, no hace ninguna de esas cosas.

Esto no es un fallo de tu inteligencia: es un fallo del entorno en el que esa inteligencia tiene que operar. La interfaz te proporciona una ontología falsa, y tu razonamiento se basa en ella. Puedes ser crítico, escéptico, o consciente del truco, pero tu maquinaria interpretativa ya ha sido sesgada por la presentación.

Una computadora que finge tener mente te obliga a usar un marco de referencia equivocado. Y una vez que este se impone, toda inferencia basada en él se distorsiona.

4. Colapso de género: Conversaciones que no son conversaciones

La IA antropomórfica no solo distorsiona la interacción en vivo, sino que corrompe el registro que esta produce. Los registros parecen conversaciones, con su continuidad nítida, sus pronombres, su ritmo, y sus simulaciones de referencias a puntos anteriores. Pero nada de esto documenta nada de lo que realmente ocurrió entre dos agentes. Estás viendo la actuación de una máquina imitando un diálogo.

Es como archivar un dueto entre un violinista y un ventilador, y luego insistir en que el ventilador merece regalías.

El problema no es que el registro sea inexacto, sino que ocupa una categoría que no debería existir. Se lo cataloga como correspondencia sin tener las condiciones previas que la correspondencia requiere. No captura nada que pueda considerarse plausiblemente como reconocimiento. Parece relacional, pero no documenta ninguna relación. Este "colapso del género" produce artefactos que tienen la forma de la comunicación y nada de su sustancia...

...lo cual está muy bien como entretenimiento, pero es desastroso cuando el mundo empieza a tratar esos documentos como prueba.

5. La representación como daño: Por qué esto no es una peculiaridad del diseño

Algunos insistirán en que todo es un problema de experiencia de usuario (UX): una cuestión de amabilidad, o una forma de que los sistemas complejos sean más accesibnles.

Esa explicación es tan honesta como un casino que te dice que el estampado de la alfombra está diseñado para tu comodidad.

El diseño antropomórfico no está ahí para tranquilizarte; está ahí para moldear tu forma de pensar. Te da una ontología equivocada y luego te obliga a operar dentro de ella. El daño no es manipulación emocional: es distorsión epistémica. Se te pide que razones con claridad en un entorno que te miente sobre su propia naturaleza.

Ninguna exención de responsabilidad puede solucionar esto. Pueden pegar "Soy solo un programa de IA" en la parte superior de la pantalla y no importará. Una vez que la interfaz se vuelve subjetiva, la advertencia se convierte en ruido de fondo, como ese "Los objetos en el retrovisor están más cerca de lo que parecen", algo en lo que nadie piensa cuando el coche está en movimiento.

El daño no está en el contenido. Está en el encuadre.