Una inteligencia artificial te responde “entiendo lo que querés decir”, recomienda una opción con seguridad o admite que se equivocó. Sabés que no hay una persona detrás de la pantalla, pero el lenguaje activa una impresión difícil de evitar: parece que alguien te comprende, evalúa opciones como si estuviera en tus zapatos y toma una posición frente a cualquier tema que le plantees.
Personificar a la IA nos puede facilitar su uso; el problema surge cuando empezamos a tomar esa ficción como una realidad. En este texto, vamos a explorar por qué tratamos a la IA como si tuviera voluntad propia (y qué dejamos de ver cuando lo hacemos).
Contenido
La IA Habla, Nuestro Cerebro Hace el Resto
La pareidolia es un fenómeno perceptivo por el cual encontramos una forma reconocible dentro de un estímulo ambiguo. Por eso, dos ventanas y una puerta pueden convertir la fachada de una casa en una cara sorprendida. Ese rostro, obviamente, no existe; pero los elementos disponibles alcanzan para que nuestro cerebro imagine que sí.
Con la inteligencia artificial ocurre algo parecido: cuando nos habla en primera persona, mantiene un tono consistente o parece expresar una preferencia, reconocemos señales propias de una conversación humana y construimos un interlocutor detrás de ellas. Así como una puerta y dos ventanas pueden llevarnos a ver un rostro en una pared a causa de la pareidolia, ciertas palabras alcanzan para que imaginemos una mente detrás de la pantalla.
La psicología utiliza otro término para describir con mayor precisión este segundo fenómeno: antropomorfización. Consiste en atribuir características humanas a una entidad que no lo es. Cuando decimos que una IA “quiere ayudarnos”, “se confundió” o “decidió no responder”, interpretamos su comportamiento mediante categorías que usamos para comprender a otras personas.
Por eso, en el caso de nuestra relación con la IA, creo que es más certero hablar de antropomorfización que de pareidolia. La pareidolia explica nuestro impulso de encontrar una figura conocida; la antropomorfización describe lo que hacemos después, cuando le concedemos una vida mental. Frente a un modelo de IA generativa, no vemos una imagen sobre una superficie: construimos a alguien detrás de las palabras.
La Máscara “Humana” de la IA
Parte del efecto proviene de lo que la inteligencia artificial dice; otra parte, de cómo lo dice. El uso de la primera persona, la adaptación al tono del usuario, las expresiones de empatía y la continuidad de una conversación son señales que tendemos a asociar con una mente capaz de comprendernos.
Este fenómeno apareció mucho antes que los modelos de lenguaje actuales. En 1966, Joseph Weizenbaum presentó ELIZA, un programa que podía simular una conversación mediante la identificación de palabras clave y una serie de reglas para transformar las frases del usuario en respuestas. Su funcionamiento era rudimentario comparado con el de cualquier chatbot contemporáneo, pero alcanzaba para producir la impresión de estar dialogando con alguien. La coherencia de esa creación era limitada; la disposición de los usuarios a “completar los espacios en blanco” hacía el resto.
Los modelos actuales de IA nos dan señales mucho más sofisticadas. Hablan en primera persona, manifiestan aparentes grados de certeza, adaptan el registro y pueden conservar suficiente contexto como para que el intercambio parezca tener memoria. De hecho, una investigación reciente sobre antropomorfización lingüística identificó numerosas expresiones textuales que favorecen la atribución de perspectivas, conocimientos, emociones y otras cualidades humanas a estas tecnologías.
La interfaz termina de montar la escena: nombres propios, avatares, voces, indicadores de escritura y mensajes de bienvenida convierten una operación técnica en una interacción social. Ninguno de esos elementos demuestra por sí mismo que el sistema comprenda lo que dice. Sin embargo, todos orientan nuestra interpretación en esa dirección.
Y, cuanto más natural resulta la conversación, más fácil es olvidar que la forma de una respuesta revela muy poco acerca del proceso que la produjo.
Cuando Personificar Ayuda
Hablar con una inteligencia artificial como si fuera un interlocutor tiene ventajas prácticas. La conversación nos permite explicar un problema con nuestras propias palabras, agregar contexto, pedir una corrección o profundizar una idea sin aprender comandos específicos ni tener un master en programación. En lugar de traducir cada necesidad al lenguaje de la máquina, la interfaz, por diseño, se adapta al nuestro.
Esa cercanía también puede ayudar a organizar el trabajo. Decir que la IA actúa como asistente, editora o tutora crea un marco reconocible para la interacción. Del mismo modo, afirmar que “entendió el encargo” resulta bastante más práctico que describir todos los procesos estadísticos que produjeron una respuesta adecuada. No necesitamos convertir cada intercambio en una clase de ingeniería informática.
La personificación, además, puede volver estos sistemas más accesibles. Diversas investigaciones indican que ciertas señales sociales en los chatbots pueden aumentar la sensación de cercanía, la satisfacción y la disposición a continuar usándolos, aunque sus efectos varían según el contexto y la tarea (no obstante, la evidencia está lejos de ser uniforme).
La clave está en recordar qué función cumple ese recurso. Como lenguaje cotidiano, decir que una IA “entiende”, “recuerda” o “propone” simplifica la conversación. Como explicación técnica, esas mismas palabras pueden atribuirle capacidades que no posee.
Podemos conversar con el personaje. Para evaluar sus respuestas, es necesario que recordemos que hay un sistema detrás, e ir hacia él.
Cuando Confundimos una Respuesta con una Intención
La personificación empieza a distorsionar nuestra lectura cuando usamos una supuesta intención para explicar el comportamiento de la IA. Si responde con firmeza, suponemos que está segura. Si modifica su respuesta después de una objeción, parece haber cambiado de opinión. Si rechaza un pedido, interpretamos que decidió no ayudarnos.
Esas descripciones resultan naturales, pero reúnen bajo una misma lógica fenómenos muy diferentes. El tono de seguridad puede formar parte del estilo de la respuesta, sin guardar relación con la solidez de la información. Una contradicción puede deberse a un cambio en el contexto, a la reformulación del prompt o a que el modelo generó otra continuación posible. Una negativa puede provenir de instrucciones internas o políticas definidas por quienes desarrollaron la herramienta.
La aparente complacencia de muchas plataformas de IA (aunque el dedo acusador se dirige, por lo general, a ChatGPT) nos ofrece otro buen ejemplo. A veces, una IA modifica su postura cuando el usuario insiste, admite un error que no cometió o produce una respuesta alineada con la opinión que detecta en la conversación. Sería tentador decir que “quiere darnos la razón”. Sin embargo, distintas investigaciones han identificado este comportamiento, conocido como sicofancia, y lo relacionan con la manera en que estos sistemas son entrenados para generar respuestas valoradas positivamente por las personas.
Hablar de intenciones convierte un proceso complejo en una historia fácil de comprender. También puede enviarnos a buscar la causa en el lugar equivocado. En vez de revisar la información disponible, las instrucciones o la evidencia que sostiene la respuesta, terminamos interpretando el carácter de una entidad que solo existe en nuestra lectura.
Frente a ese escenario, la pregunta útil no es “¿por qué la IA quiso responder esto?”, sino “¿qué condiciones pudieron producir esta respuesta?”.
¿Quién Decide Detrás de la IA?
Decir que “la IA decidió” resulta cómodo. La frase tiene sujeto, verbo y una aparente explicación. También puede borrar de un solo movimiento a todas las personas que participaron antes, durante y después de esa decisión.
Pensemos en un comercio que utiliza un sistema automatizado para evaluar solicitudes de devolución. Si un cliente recibe una respuesta negativa, la empresa podría afirmar que la IA rechazó el pedido. Sin embargo, alguien eligió la herramienta, definió qué información podía consultar, estableció los criterios, determinó el nivel de autonomía y decidió si una persona revisaría los casos dudosos. El sistema produjo un resultado dentro de ese marco; el marco no apareció por generación espontánea.
La cadena puede ser todavía más extensa. En cualquier implementación intervienen, con distintos grados de influencia, quienes desarrollan el modelo, quienes lo adaptan a una tarea, quienes aportan los datos, quienes redactan las instrucciones y quienes utilizan el resultado para actuar. Cuando la IA adquiere el papel de personaje principal, todos ellos corren el riesgo de quedar reducidos a extras fuera de cámara.
Esta forma de hablar no solo dificulta comprender qué ocurrió. También vuelve más difusa la atribución de responsabilidad. Si una recomendación perjudica a alguien, contiene un sesgo o se basa en información incorrecta, atribuirla a una voluntad artificial puede transformar una decisión empresarial en una especie de fenómeno meteorológico: ocurrió, nadie parece haberlo causado y solo queda lamentar las consecuencias.
Por ese motivo, marcos de gestión como el AI Risk Management Framework del NIST (el Instituto Nacional de Estándares y Tecnología de Estados Unidos) recomiendan definir y diferenciar con claridad los roles humanos vinculados con el uso, la supervisión y el control de los sistemas de IA.
La tecnología puede participar en una decisión, condicionarla o automatizar una parte del proceso. La empresa sigue eligiendo dónde colocarla, cuánto poder concederle y qué hacer con su respuesta.
5 Preguntas para Evaluar una Respuesta de IA
No hace falta desterrar de nuestro vocabulario frases como “la IA piensa” o “el asistente entendió”. Sí es importante suspender esa personificación cuando llega el momento de determinar hasta qué punto podemos confiar en la inteligencia artificial o tomar una decisión basada en sus respuestas. Para recuperar el proceso que la conversación puede ocultar, te recomiendo formularte cinco preguntas:
- ¿Con qué información trabajó el sistema? Una respuesta puede estar condicionada por datos incompletos, desactualizados o proporcionados por nosotros mismos sin demasiada revisión.
- ¿Qué instrucciones recibió? Además de nuestro pedido, el sistema puede seguir reglas definidas por quienes diseñaron o configuraron la herramienta: qué información priorizar, qué tono adoptar, qué temas evitar o cuándo rechazar una solicitud. Aunque no siempre sean visibles, esas indicaciones también influyen en la respuesta.
- ¿Qué afirmaciones podemos verificar? La claridad, el tono y la seguridad no sustituyen a la evidencia (y aunque las alucinaciones son cada vez menos frecuentes, la verificación humana sigue siendo necesaria, en especial en temas sensibles).
- ¿Quién revisa el resultado? Cuanto mayores sean sus consecuencias, más importante será definir una instancia humana de control.
- ¿Quién responde si hay un error? Esta pregunta obliga a establecer responsabilidades antes de que aparezca el problema.
A través de ese proceso de reflexión, dejamos de interpretar el temperamento imaginario de la IA y empezamos a examinar los datos, las reglas, los límites y las decisiones que producen sus respuestas.
Podemos mantener la comodidad de la conversación sin renunciar a la precisión que exige el sistema.
Conversar con la Interfaz, Entender el Sistema
Podemos seguir diciéndole “gracias” a una inteligencia artificial, pedirle que “piense” otra opción o tratarla como una asistente. Esas expresiones hacen que la interacción resulte más natural y, en muchos casos, también más productiva.
La naturalidad de la conversación facilita el uso de la herramienta; evaluar sus respuestas exige otros criterios. Una respuesta fluida puede parecer el producto de una mente que comprende y decide, pero detrás de ese “yo” hay un sistema construido, configurado y utilizado por personas. Perder ese hecho de vista empobrece nuestra comprensión de la tecnología y vuelve más difícil establecer responsabilidades.
La pareidolia completa una figura con las señales disponibles. Frente a la IA, podemos reconocer esa figura sin quedar atrapados en ella. La conversación ocurre en la interfaz, y la interfaz es solo la superficie de un sistema complejo; para comprender las respuestas que recibimos, debemos mirar los datos, las reglas y las decisiones humanas que las hicieron posibles.
¿Querés usar inteligencia artificial con criterio en tu empresa? Te ayudamos a identificar dónde puede aportar valor, qué tareas conviene reservar al juicio humano y qué controles necesita cada implementación. De esta manera, la tecnología se integra a una estrategia clara, con objetivos concretos y responsabilidades bien definidas. Contactanos y conversemos sobre cómo aplicarla en tu negocio.