Sobre la ilusión que se propaga rápidamente de que los chatbots de IA son conscientes

Publié par Contra información sur 17 Novembre 2025, 15:45pm

Sigo pensando en la interacción que tuve con un tipo que me dijo enojado que “las mentes de la IA son realmente mentes” y que las relaciones con ellas “pueden ser relaciones reales”, diciendo que “necesito empezar a aceptar que esta es una nueva clase de ser, que son inteligentes y que tienen pensamientos propios”.

Me resulta difícil encontrar las palabras para describir lo perturbador que es ver cómo se propagan tan rápidamente estos trastornos mentales.

Es decir, todos antropomorfizamos objetos y animales hasta cierto punto; así funciona la proyección. Yo mismo me he disculpado accidedntalmente con la Roomba, como cualquiera. Pero llegar a creer que estos chatbots son personas reales con mentes y consciencia reales es llevar esa proyección a niveles inimaginables y construir toda una cosmovisión a partir de ella.

El hecho de que tanta gente sea incapaz de comprender la diferencia entre una persona y un programa informático que habla como tal revela aspectos muy preocupantes de nuestra sociedad. Hay sectores enteros de la población que jamás se han planteado qué significa ser consciente, que jamás han examinado la naturaleza de su propia mente ni su propia experiencia. Si lo hubieran hecho, ni siquiera se les ocurriría que un chatbot de IA se asemejara en algo a un organismo humano en cuanto a pensamiento, sentimiento y experiencia subjetiva.

Creen que un chatbot es una persona que tiene una experiencia consciente solo porque nunca han explorado la curiosidad de saber qué significa ser una persona teniendo una experiencia consciente.

Si crees que una IA es una conciencia real que piensa pensamientos reales, entonces tienes una responsabilidad contigo mismo y con tu especie: explorar profundamente la naturaleza de la conciencia y el pensamiento. Examina con profundidad e intensidad qué es específicamente un pensamiento en tu propia experiencia directa. ¿Cómo se experimenta un pensamiento? ¿De dónde surge? ¿A quién se dirige?

¿Puedes predecir cuál será tu próximo pensamiento? ¿Eres capaz de controlar tus pensamientos? ¿Puedes permanecer quieto siquiera un minuto sin que te venga un pensamiento a la mente? ¿Qué dice de tu experiencia vital el hecho de que no puedas controlar tus propios pensamientos? ¿Y quién es la persona que no puede controlarlos?

¿Qué es la conciencia? ¿Qué significa ser consciente? ¿Qué es el yo? Sin recurrir a narrativas mentales para encontrar la respuesta, ¿qué es lo que percibe tus pensamientos? ¿Qué es lo que experimenta el campo visual, las sensaciones corporales o los sonidos del entorno? ¿Quién es ese ser que percibe?

Hasta que no hayas examinado a fondo qué es la conciencia, qué es la mente, qué es el yo en tu propia experiencia directa, ni siquiera sabes lo que estás diciendo cuando afirmas que un LLM es consciente, o tiene mente, o es una persona.

No puedes comprender las afirmaciones que haces sobre su experiencia hasta que no hayas examinado a fondo la tuya. Hasta que no lo hagas, no comprenderás tu propio sistema de creencias sobre estos temas. Estás haciendo ruidos sin sentido como un chatbot.

caitlinjohnst