«The Chinese Room»: ¿puede una máquina entender o solo manipular símbolos? — John Searle

## El éxito que no parece comprensión

Imaginemos a una persona que no sabe chino encerrada en una habitación. Por una ranura recibe hojas cubiertas de signos chinos. Dentro dispone de enormes reglas escritas en una lengua que sí conoce: si aparece tal figura junto a tal otra, debe devolver cierta secuencia. La persona compara formas, consulta instrucciones y entrega respuestas. Con reglas suficientemente buenas, quienes están fuera juzgan que la habitación comprende sus preguntas y responde como un hablante competente. Pero la persona solo reconoce trazos y ejecuta operaciones: para ella, ninguno de aquellos signos significa nada.

Esta es la escena que John R. Searle introdujo en [«Minds, Brains, and Programs»](https://doi.org/10.1017/S0140525X00005756), publicado en septiembre de 1980 en *Behavioral and Brain Sciences*, volumen 3, número 3, páginas 417–424. La [ficha original de Cambridge University Press](https://www.cambridge.org/core/journals/behavioral-and-brain-sciences/article/abs/minds-brains-and-programs/DC644B47A4299C637C89772FACC2706A) identifica el artículo, su resumen y su contexto editorial. El blanco de Searle no era la utilidad de los ordenadores ni la posibilidad de construir máquinas inteligentes. Era una tesis más precisa, a la que llamó «IA fuerte»: que implementar el programa adecuado no solo simula comprensión, sino que constituye literalmente una mente.

La habitación produce la conducta correcta sin que su operador comprenda chino. De ahí la intuición central: **la manipulación formal de símbolos puede ser impecable sin que los símbolos signifiquen nada para quien los manipula**. Un programa especifica operaciones por propiedades sintácticas —formas, posiciones, relaciones—; comprender exige semántica, que los signos sean acerca de algo. Si la sintaxis por sí sola no genera ese «acerca de», el programa no basta para la intencionalidad.

Conviene medir bien la conclusión. Searle no sostiene que las máquinas no puedan pensar. Los cerebros son máquinas y, para él, piensan. Afirma que un programa, considerado únicamente como estructura formal, no es condición suficiente de comprensión. Una máquina artificial podría llegar a entender si poseyera poderes causales adecuados; lo que no podemos hacer es dar por explicado ese poder diciendo que ejecuta un algoritmo.

## Lo que el experimento intenta demostrar

El artículo parte de dos proposiciones. Primero, la intencionalidad humana y animal —la capacidad de que pensamientos, deseos o percepciones se refieran al mundo— es producida por rasgos causales del cerebro. Segundo, instanciar un programa no basta por sí solo para producir intencionalidad. Si ambas son correctas, la explicación de cómo el cerebro origina mente no puede reducirse a «ejecuta un programa»; cualquier sistema artificial que realmente comprenda tendría que reproducir capacidades causales suficientes, no solo la organización formal del cálculo.

La habitación funciona como un argumento desde la primera persona. Quien está dentro puede llegar a ejecutar el programa completo y, aun así, constatar que no entiende una palabra. Searle pide imaginar que esa persona memoriza todas las reglas y realiza mentalmente todas las operaciones. Desde fuera, su producción en chino puede resultar indistinguible de la de un hablante; desde dentro, persiste la ausencia de significado. La competencia observable y la comprensión vivida se separan.

Esto cuestiona una lectura fuerte del criterio conductual asociado a Turing. Superar una prueba conversacional puede justificar que atribuyamos inteligencia en la práctica, pero no decide por sí solo qué constituye esa inteligencia. El experimento no niega el valor epistémico de la conducta: en la vida ordinaria inferimos las mentes ajenas mediante palabras y acciones. Niega el salto metafísico desde «responde como si comprendiera» hasta «la ejecución del programa es lo que hace que comprenda».

La diferencia importa porque una simulación no suele poseer las propiedades de lo simulado. Un modelo de digestión no digiere y una simulación de tormenta no moja. Los defensores de la IA fuerte replican que pensar podría ser distinto: quizá sea precisamente un patrón de relaciones causales, de modo que realizar el patrón sea realizar el fenómeno. La habitación china intenta bloquear esa excepción mostrando un caso en el que el patrón computacional supuestamente relevante está presente y la comprensión parece ausente.

## La respuesta del sistema: ¿quién está dentro de la habitación?

La objeción más conocida acepta que el operador no entiende, pero niega que él sea el sistema pertinente. La persona, las reglas, los papeles, la memoria y el conjunto de procedimientos forman una totalidad que sí podría comprender chino. Ninguna neurona individual entiende castellano; no concluimos por ello que el cerebro completo tampoco lo haga. Del mismo modo, buscar la comprensión en una pieza de la habitación cometería una falacia de composición.

Searle responde interiorizando el sistema: la persona memoriza las reglas, guarda los datos y hace todos los cálculos en su cabeza. Ya no hay componentes externos relevantes y, sin embargo, sigue sin asociar significado alguno a los signos. Pero esta réplica no liquida la objeción. El defensor puede distinguir entre la persona biológica y el sistema funcional que esa persona implementa. Un mismo soporte alojaría dos niveles: el hablante que comprende una lengua y la organización computacional que comprende otra sin que el hablante tenga acceso consciente a ella.

Aquí aparece el punto decisivo del desacuerdo. Para Searle, atribuir comprensión al subsistema chino cuando ningún elemento posee significado intrínseco es cambiar de etiqueta sin explicar la semántica. Para el funcionalista, exigir que el significado aparezca además ante la conciencia del operador confunde propiedades del sistema con propiedades de una parte. Muchas capacidades mentales —reconocer una cara, analizar una frase, regular el equilibrio— operan sin que podamos inspeccionar sus reglas. La falta de acceso del ejecutor no demuestra la falta de comprensión del conjunto.

El experimento, por tanto, no produce una conclusión neutral a partir de premisas compartidas. Hace visible una disputa sobre el nivel adecuado de atribución. Si la comprensión requiere un sujeto para quien los signos tengan significado de manera interna, la habitación parece vacía de mente. Si comprender consiste en una red estable de disposiciones para inferir, responder, aprender y actuar, la totalidad puede satisfacer la condición aunque su operador ignore qué proceso encarna.

## Robot, mundo y significado

La respuesta del robot concede que un programa puramente textual carece de anclaje, pero propone instalarlo en un cuerpo con cámaras, sensores y brazos. Las palabras ya no se relacionarían solo con otras palabras: «mesa» estaría conectada con percibir mesas, aproximarse a ellas y manipularlas. El significado emergería de la interacción causal con un entorno.

Searle replica que podría seguir dentro del robot recibiendo símbolos procedentes de sensores y enviando símbolos que controlan motores sin saber qué representan. Añadir entradas y salidas amplía el circuito, pero no transforma automáticamente sintaxis en semántica. Su respuesta es coherente con el argumento original: ningún volumen de conexiones formales basta mientras todo sea interpretado desde fuera.

No obstante, la réplica deja abierta una dificultad. Los significados humanos tampoco parecen surgir de un diccionario interior que traduzca signos a significados ya hechos. Se forman en prácticas corporales, correcciones sociales, atención compartida y acción sobre objetos. Un niño aprende «caliente» al tocar, evitar, escuchar advertencias y reconocer situaciones; no recibe primero una entidad semántica independiente que después adjunta a la palabra. Si la intencionalidad depende de una historia causal y social completa, aislar a un operador de esa historia puede eliminar precisamente aquello que la teoría considera constitutivo.

La habitación es poderosa contra la idea de que basta una tabla de correspondencias desarraigada. Es menos decisiva contra teorías en las que el contenido depende de relaciones prolongadas entre sistema y mundo. En ellas, preguntar qué significa cada símbolo «para» una pieza interna puede estar tan mal planteado como preguntar qué significa un impulso nervioso para una neurona separada del organismo.

## El simulador cerebral y los poderes causales

Otra respuesta imagina un programa que simula, neurona por neurona, la actividad cerebral de un hablante chino. Searle pide sustituir las neuronas por tuberías de agua controladas por el operador. El conjunto reproduce la estructura causal formal del cerebro, pero la persona abre y cierra válvulas sin entender chino. La intuición vuelve a decir que una copia de las transiciones no produce mente.

El problema es qué significa aquí «reproduce». Si el sistema imita solo una descripción abstracta, puede omitir propiedades decisivas. Pero si conserva todas las relaciones causales relevantes, negar que conserve la comprensión parece presuponer que ciertas propiedades biológicas del tejido son esenciales. Searle acepta esa dirección: los cerebros causan mente por sus poderes físicos, y no sabemos que dichos poderes sean independientes del sustrato.

Esta posición evita un error frecuente. La habitación china no demuestra que solo la materia orgánica pueda pensar. «El cerebro lo hace» no equivale a «solo un cerebro de carbono puede hacerlo». La tesis es condicional: para crear intencionalidad habrá que identificar y reproducir las capacidades causales que la generan. Una máquina no biológica podría poseerlas. Lo que Searle rechaza es que cualquier soporte que implemente la misma descripción formal las posea necesariamente.

La dificultad se desplaza entonces a un programa científico: determinar cuáles son esos poderes y a qué nivel deben conservarse. ¿Dependen de la química neuronal, de la dinámica electrofisiológica, de la organización funcional, del cuerpo entero o del acoplamiento con un entorno? Searle exige una explicación causal, pero el experimento no identifica sus condiciones suficientes. Su argumento es una restricción sobre la respuesta, no una teoría positiva de la comprensión.

## Comprender no es una pieza escondida

La fuerza de la habitación proviene de una intuición: podemos seguir reglas sin saber qué estamos haciendo. Esa diferencia es real. Un alumno puede aplicar mecánicamente una fórmula, acertar todos los ejercicios previstos y fracasar en cuanto cambia el problema. Un sistema puede explotar regularidades y producir respuestas convincentes sin disponer de los conceptos que le atribuimos. La corrección externa no garantiza, en cada caso, comprensión robusta.

Pero de ahí no se sigue que comprender sea una iluminación privada añadida a la competencia. También distinguimos comprensión por capacidades: explicar con palabras nuevas, detectar errores, trasladar lo aprendido, relacionar razones, revisar una respuesta ante evidencia y actuar adecuadamente en contextos no ensayados. Cuanto más extensa es esa red, menos claro resulta qué hecho adicional estamos reclamando. Si un sistema conversa, aprende, se corrige, percibe, interviene y coordina sus afirmaciones con el mundo durante una historia prolongada, insistir en que «solo manipula símbolos» puede dejar de ser un diagnóstico y convertirse en la repetición de la conclusión.

La cuestión no se resuelve contando conductas, pero tampoco mirando en el interior en busca de una etiqueta semántica. La sintaxis de un programa es formal solo bajo cierta descripción; un sistema físico mantiene relaciones causales, históricas y ambientales que no figuran en el código considerado aisladamente. A la inversa, ampliar la descripción hasta incluirlo todo puede volver trivial el funcionalismo: cualquier fracaso se atribuiría a que todavía no hemos descrito la función correcta.

La habitación obliga a separar tres afirmaciones que suelen mezclarse:

- un sistema produce lenguaje pertinente;

- el sistema posee estados que se refieren al mundo;

- el programa, por sí solo, explica por qué esos estados tienen contenido.

Searle ataca sobre todo la tercera. La primera puede observarse. La segunda requiere una teoría de la mente y criterios comparables a los que usamos con humanos y animales. La tercera es una afirmación explicativa mucho más ambiciosa. Incluso si concluyéramos que una máquina comprende, no se seguiría que la mera sintaxis de su software agota la explicación.

## La habitación ante los modelos lingüísticos

Los modelos lingüísticos actuales vuelven visible la intuición de Searle: una producción verbal extraordinariamente fluida puede generarse mediante operaciones matemáticas que, descritas localmente, no contienen el significado de las frases. Sin embargo, aplicar el argumento de forma automática sería precipitado. Estos sistemas no son el libro de reglas sencillo del experimento; aprenden representaciones distribuidas a partir de enormes conjuntos de usos lingüísticos y pueden conectarse con imágenes, herramientas, memoria y acción. Esa complejidad no prueba comprensión, pero impide suponer que el caso imaginario decide sin más el caso real.

La pregunta adecuada no es si «parecen humanos» ni si «solo calculan»: los cerebros también realizan transformaciones físicas que pueden describirse como cálculo. Hay que preguntar qué clase de generalización, referencia, integración, aprendizaje y relación con el mundo sostiene su conducta; si esos procesos justifican atribuir contenido; y qué evidencia podría distinguir una competencia semántica de una imitación flexible. La habitación china conserva aquí una función crítica: impide convertir el asombro ante el resultado en una teoría de lo que lo produce.

También disciplina la negación. Decir que un sistema no entiende porque está compuesto por operaciones carentes de comprensión repetiría el error de inferir que un cerebro no comprende porque sus neuronas aisladas tampoco lo hacen. Para que la crítica sea concluyente debe mostrar que la organización total carece de alguna condición necesaria, no solo que sus componentes no poseen la propiedad del conjunto.

## Una pregunta que sigue abierta

El artículo de Searle no clausura la posibilidad de una mente artificial. Hace algo más incómodo: exige explicar por qué una realización física cuenta como comprensión y no solo registrar que ofrece respuestas acertadas. Su argumento acierta al denunciar una inferencia rápida desde la ejecución formal hasta la semántica. Es menos seguro que la escena pueda fijar de antemano qué sistema es el sujeto relevante o qué relaciones causales constituyen significado.

La alternativa no es elegir entre una chispa interior misteriosa y una conducta exterior vacía. La comprensión podría ser una propiedad de organismos o sistemas completos, sostenida por su arquitectura, su aprendizaje, su cuerpo, su entorno y su inserción en prácticas compartidas. Si es así, ninguna línea de código aislada entiende; tampoco lo hace una neurona aislada. Pero una organización de elementos que por separado no comprenden puede llegar a comprender, del mismo modo que una organización de moléculas que por separado no viven puede estar viva.

La habitación china permanece abierta porque obliga a localizar la deuda explicativa. Cuando una respuesta nos parece inteligente, todavía debemos distinguir el criterio con el que atribuimos comprensión del mecanismo que la hace posible. Searle mostró que no basta pronunciar la palabra «programa». Sus críticos mostraron que tampoco basta pronunciar la palabra «sintaxis». Entre ambas insuficiencias sigue estando el problema: cómo llega algo físico a tratar sus signos, percepciones y pensamientos como signos, percepciones y pensamientos **sobre un mundo**.

## Fuentes

- [John R. Searle, «Minds, Brains, and Programs», *Behavioral and Brain Sciences* 3(3), septiembre de 1980, pp. 417–424 (Cambridge University Press)](https://www.cambridge.org/core/journals/behavioral-and-brain-sciences/article/abs/minds-brains-and-programs/DC644B47A4299C637C89772FACC2706A)

- [DOI del artículo: 10.1017/S0140525X00005756](https://doi.org/10.1017/S0140525X00005756)

- [«The Chinese Room Argument», *Stanford Encyclopedia of Philosophy*](https://plato.stanford.edu/entries/chinese-room/)