Skynet nunca tomará conciencia: la teoría de la habitación china frente al test de Turing

Existe la creencia de que llegará un día en el que las máquinas lo controlen todo, incluso a nosotros. Es posible que ese día esté cerca. Para ello es razonable pensar que deberíamos dar por válido que las máquinas adquieran algo tan ligado al ser humano como es la conciencia. Y de ser así, el Test de Turing estaría en lo cierto. Esta es la razón que llevó a John Searle a enfrentar la “inteligencia” de las máquinas en el interior de una habitación china.

""Observando a John con la máquina de repente lo vi claro, el Terminator jamás se detendría, jamás le abandonaría y jamás le haría daño, ni le gritaría o se emborracharía y le pegaría, o diría que estaba demasiado ocupado para pasar un rato con él, siempre estaría allí y moriría para protegerle. De todos los posibles padres que vinieron y se fueron año tras año... aquella cosa... aquella máquina... era el único que daba la talla. En un mundo enloquecido era la opción más sensata…""

Seguro que muchos lo habréis adivinado, se trata de un extracto de Terminator 2, un poderoso alegato de Sarah Connor sobre la máquina que tenía a su lado. La realidad es que en ese hipotético escenario descrito por el film más nos vale que Asimov y Campbell estuvieran en lo cierto con sus leyes de la robótica y no nos acerquemos al futuro de Cameron con Skynet. Y es que la simple idea de dibujar un futuro marcado por una IA “humana” puede llegar a poner los pelos de punta.

Por eso desde que el hombre ha fantaseado con ese futuro marcado por las máquinas inteligentes se han dado otras teorías que intentaban rebatir tal posibilidad. ¿Es lo mismo copiar un comportamiento que aprenderlo de forma inherente? ¿Pueden llegar a pensar las máquinas? O quizás el quid formulado por Searle, ¿será posible que una IA reconozca una sintaxis y posea una semántica?

Al principio fue Turing

La idea de Alan Turing es probablemente la más sencilla de entender. Turing propuso esta prueba en su ensayo Computing Machinery and Intelligence en el año 1950. En ese momento se encontraba trabajando en la Universidad de Manchester y partió de una pregunta muy simple: ¿Pueden pensar las máquinas?

Para ello se nos abre una nueva cuestión, definir qué es y hasta donde llega lo que entendemos como pensar. Desde luego, la definición no puede estar más ligada al ser humano si la entendemos como el acto de formarse ideas en la mente, de hecho el propio pensamiento es la actividad y creación de la mente, todo aquello que recogemos y lo hacemos existente mediante la actividad del intelecto.

Turing encontró que la cuestión para llevar a cabo su prueba debía ser más sencilla que la propia definición del pensamiento, quizá algo ambigua, así que reemplazó la pregunta por otra igualmente relacionada: ¿Existirán máquinas que tengan la capacidad de la imitación?

La idea era probar la habilidad de una máquina de exhibir un comportamiento inteligente similar o indistinguible del ser humano.

Ya tenía por tanto la pregunta, la cual creía firmemente que podía responderse, razón por la que dedicó el ensayo en el que estaba trabajando a argumentar las razones sobre la idea de que las máquinas pueden pensar. No lo sabía en ese momento, pero Turing acababa de abrir la caja de Pandora con su propuesta. Una propuesta que conforme avanzamos se hace más y más real. Acababa de formular la propia esencia que conforma toda la filosofía de la inteligencia artificial.

En 1951, un año después de formular el test, el padre de la ciencia de la computación formuló una de sus frases más premonitorias:

En algún momento… cabe esperar que las máquinas tomen el control.

La idea era probar la habilidad de una máquina de exhibir un comportamiento inteligente similar o indistinguible del ser humano. De esta forma, si la IA de la máquina era capaz de engañar a la gente durante un diálogo la máquina habría pasado la prueba.

Ejemplos tenemos muchísimos en la literatura y el cine, por ejemplo en la mítica escena de Blade Runner para detectar replicantes. Lo que ocurre es que en este caso como otros similares, donde se intenta recrear el Test de Turing desde un prisma del simple detector de robots, no acaban de dar en el blanco de lo que Turing proponía, ya que dejan fuera muchos elementos. Se trataba más de bien de lo contrario, de intentar averiguar si la máquina podía “pensar” de manera indistinguible a las personas.

Irremediablemente, cada pequeño paso en el que la IA avanza volvemos a esas palabras de 1951 de Turing.

El matemático propuso hasta tres pruebas. En una de ellas debía existir una persona que evaluara las conversaciones en lenguaje natural entre un humano y una máquina diseñada para generar respuestas parecidas o similares a las de un humano. Por tanto el evaluador sabría que uno de los miembros de la conversación es una máquina, momento en el que se separa a todos participantes. El diálogo o conversación debía ser textual (a través de un teclado y monitor) por lo que sería irrelevante la capacidad de la máquina por transformar texto en habla.

Si finalmente el evaluador no distinguía entre el humano y la máquina, la máquina pasaba la prueba. Pero como decíamos anteriormente, de lo que se trata no es de evaluar el conocimiento de la máquina sobre el número de respuestas correctas, se toma en cuenta la capacidad que tiene para generar respuestas similares a las de un humano.

Por eso es tan importante en la actualidad lo conseguido por Deep Blue o más recientemente con DeepMind. Irremediablemente, cada pequeño paso en el que la IA avanza volvemos a esas palabras de 1951 de Turing. ¿Será cierto que las máquinas dominarán a la humanidad?

Una habitación china para enredar a Skynet

Así llegamos al año 1980, momento en el que el filósofo John Searle aparece con un argumento con el que rebatir el Test de Turing. Un experimento que aparece por primera vez en su documento Minds, Brains, and Programspublicado en Behavioral and Brain Sciences y que más tarde popularizaría Roger Penrose. Si el Test de Turing fue el comienzo para abrir mentes y entrar de lleno en una nueva discusión sobre el futuro y las máquinas, a la propuesta de Searle le ocurrió lo mismo desde entonces.

El hombre formula la habitación china, un experimento mental con el que desafía la afirmación de que es posible que una máquina pueda tener “mente” y “conciencia” bajo la misma “apariencia” que un humano simplemente por el hecho de gestionar un programa adecuado. Por tanto el experimento está destinado a refutar la idea de una IA Fuerte, es decir, aquella que iguala o excede la inteligencia humana promedio.

Searle había observado que tras la propuesta de Turing se había “avanzado” en la programación llegando a conseguirse hitos como el software ELIZA deJoseph Weizenbaum (1966), el cual podría pasar la prueba de Turing. Con ELIZA el hombre había sido capaz de construir un programa que funcionaba a través del análisis de las palabras escritas por el usuario en busca de palabras clave.

Para Searle esto no tenía validez, básicamente, y en esto basó la habitación china, ELIZA o similares podían pasar el test a partir de la manipulación de caracteres que no habían entendido. De esta forma, sin la comprensión, no se les puede clasificar como “pensantes” al mismo nivel que los humanos. Para el filósofo la prueba de Turing no puede probar que una máquina pueda pensar. En otras palabras, una IA no puede tener aptitudes semánticas, aunque sí podría reconocer la sintaxis.

Así fue como pasó a argumentar su postura con la habitación china. Un experimento mental donde Searle nos pone en la siguiente tesitura. Imaginemos el siguiente escenario: tenemos a una persona que habla chino de forma nativa, una persona que no sabe nada de chino y por último una máquina que es capaz de comprender el idioma chino y de pasar el test de Turing.

La máquina supera el Test de Turing porque anteriormente ha logrado engañar a la persona que habla chino de que realmente lo habla. Lo consigue dentro de una habitación totalmente cerrada donde solamente está la máquina. En la habitación existe una única ranura donde la persona que habla chino le pasa preguntas en el idioma que la máquina es capaz de responder y enviárselas de vuelta.

Si Searle acaba teniendo razón jamás existirá una máquina a imagen y semejanza del hombre

Ahora pasamos a introducir en la habitación a la persona que no sabe nada de chino y sacamos a la máquina. La persona cuenta con una serie de manuales y diccionarios con los que será capaz de descifrar los caracteres de las preguntas que le enviará por la ranura la persona que sabe chino. Así, la persona que no sabe chino acaba respondiendo correctamente y también logra hacer creer a la persona que sabe chino que controla el idioma.

Una vez que tenemos el experimento mental formulado, Searle plantea tres cuestiones:

¿Cómo puede ser que la persona que no sabe chino responda correctamente?

¿Acaso son los manuales los que saben chino?

¿Se podría considerar a todo el sistema de la sala (la persona,, los manuales y las respuestas) como un sistema que entiende chino?

De esta forma y según el filósofo, se debe aceptar que, o bien la sala comprende el lenguaje chino, o bien pasar el Test de Turing no puede ser una prueba suficiente de inteligencia (de una máquina). La razón es que para Searle ninguno de los componentes de la habitación sabe chino, y por tanto aunque el conjunto de componentes supere el test, éste no confirma que en realidad esa persona entienda chino, obviamente porque sabemos que no lo sabe anteriormente.

Por tanto Searle parece tener claro que existe una gran diferencia entre simular y comprender un idioma. Según el filósofo:

"La sintaxis por sí sola no es suficiente para la semántica y los ordenadores digitales, ya que son ordenadores y tienen, por definición, solamente sintaxis".

Si Searle acaba teniendo razón jamás existirá una máquina a imagen y semejanza del hombre. Por el contrario, si Turing está en lo cierto, cada día que pasa nos acercamos a un futuro tan desconocido como ciertamente intrigante sobre el papel que tendrán las máquinas en nuestra vidas.

Estrategias Planetarias

"El Mundo Feliz"
de Aldous Huxley

En este libro visionario escrito en 1932, Aldous Huxley imagina una sociedad que utilizaría la genética y el clonaje para el condicionamiento y el control de los individuos.

En esta sociedad futurista, todos los niños son concebidos en probetas. Ellos son genéticamente condicionados para pertenecer a una de las 5 categorías de población. De la más inteligente a la más estúpida: les Alpha (la elite), los Betas (los ejecutantes), los Gammas (los empleados subalternos), los Deltas y los Epsilones (destinados a trabajos arduos).

"El mundo feliz" describe también lo que seria una dictadura perfecta que tendría la apariencia de una democracia, una cárcel sin muros en el cual los prisioneros no sonarían en evadirse. Un sistema de esclavitud donde, gracias al sistema de consumo y el entretenimiento, los esclavos "tendrían el amor de su servitud "...

Aldous Huxley

En uno de los diálogos entre el Administrador general, en el libro El Mejor de los Mundos, y uno de los raros disidentes, Huxley había imaginado perfectamente los principios del control social moderno...

"- La población optima esta sobre un modelo de Iceberg: ocho de nueve partes debajo de la línea de flotación, y una de nueve partes por encima.

- Y ellos son felices, debajo de la línea de flotación? En detrimento de este horrible trabajo ?

- Ellos no lo encuentran como tal, ellos. Al contrario, les gusta. Es ligero, y es de una simplicidad infantil.

Sin esfuerzo excesivo ni de espíritu ni muscular. Siete horas y media de un trabajo ligero, nada cansador, y enseguida la ración de soma, deportes, copulación sin restricción, y el Cine Sentido.

Que más podrían ellos pedir ?"

"- Shakespeare esta prohibido porque es antiguo. Aquí, no empleamos viejas cosas.

- Mismo si ellas son lindas ?

- Sobre todo si son bellas. La belleza atrae, y no queremos que seamos atraídos por las cosas antiguas. Queremos que se amen las nuevas.

- Pero las nuevas son casi estúpidas, tan horrorosas! Sus espectáculos, donde solo hay helicópteros volando de todos los lados, y donde se resiente las personas que se abrazan! Ovejas y simios!

- Animales bien gentiles, no malos en todos caso..."

"- Solo se puede pedir a un Epsilon de hacer sacrificios de Epsilon, por la buena razón que para él, no son sacrificios: es la línea de la menor resistencia.

Su condicionamiento ha establecido rieles sobre los cuales tiene que avanzar. No puede impedirse a sí mismo; está fatalmente
predestinado."

"- El mundo es estable actualmente. Las personas son felices; ellos obtienen lo que ellas quieren, y ellas no quieren jamás lo que no pueden obtener. (...) Ellas están condicionadas de tal manera que, prácticamente, ellas solo pueden portarse como se debe. Y si por casualidad algo no van bien, tenemos el soma.

Tenemos que escoger entre la felicidad y lo que llamábamos antes el gran arte. Hemos sacrificado el gran arte. En su lugar tenemos el Cine Sentido y el órgano de perfumes..

- Pero no tienen ningún sentido !

- Ellos representan para el espectador un montón de sensaciones agradables. (...) Esto exige la habilidad más grande. Fabricamos coches con el mínimo de acero, y obras de arte con casi nada, solo con puras sensaciones."

"- No es solo el arte que es incompatible con la estabilidad. Hay también la ciencia. La verdad es una amenaza, y la ciencia es un peligro publico. Estamos obligados de tenerla cuidadosamente encadenada y amordazada. (...) Ella nos ha dado el equilibrio el más estable de la historia. Pero no podemos permitir a la ciencia deshacer lo que ella ha acometido. He aquí por que limitamos con tantos cuidados el campo de sus investigaciones. Le permitimos de ocuparse solo de los problemas los más inmediatos del momento. Todas las demás investigaciones son cuidadosamente desmotivadas."

Aldous Huxley, "El Mundo Feliz"

Vivimos en una simulación creada por generaciones futuras.

El argumento de la simulación: por qué la probabilidad de que usted viva en una Matrix es bastante alta

Matrix hizo que muchas mentes no tan filosóficas rumiaran acerca de la naturaleza de la realidad. Pero el escenario representado en la película es ridículo: cerebros humanos mantenidos en tanques por máquinas inteligentes sólo para producir energía. Hay, sin embargo, un escenario relacionado que es más plausible y una línea seria de razonamiento que nos lleva desde la posibilidad de este escenario a una conclusión sorprendente acerca del mundo en el que vivimos. Yo lo llamo el argumento de la simulación. Quizá su más asombrosa lección es que hay una probabilidad significativa de que usted viva en un simulación de computadora.

 Literalmente hablando: si la hipótesis de la simulación es verdadera, usted existe en una realidad virtual simulada en una computadora construida por alguna civilización avanzada. Su cerebro, también, es simplemente una parte de esa simulación.

 ¿Qué argumentos podríamos tener para tomar en serio esta hipótesis? Antes de llegar a la esencia del argumento de la simulación, consideremos algunos de sus preliminares. Uno de éstos es la asunción de “independencia del substrato”. Ésta es la idea de que las mentes conscientes podrían en principio ser implementadas no sólo en neuronas biológicas basadas en carbono (como las que están en su cabeza) sino también en otro substrato computacional como los procesadores basados en silicón. 

Por supuesto, las computadoras que tenemos hoy en día no son lo suficientemente poderosas para ejecutar los procesos computacionales que ocurren en su cerebro. Y aun si lo fueran, no sabríamos cómo programarlas para que lo hicieran. Pero, a fin de cuentas, lo que le permite tener experiencias conscientes no es el hecho de que su cerebro esté hecho de materia blanda, biológica, sino que implementa un cierta arquitectura computacional. Esta asunción es bastante aceptada ampliamente (aunque no universalmente) entre los científicos cognitivos y filósofos de la mente. Para los fines de este artículo, lo daremos por hecho.

 Dada la independiencia de substrato, es posible en principio implementar una mente humana en una computadora lo suficientemente rápida. Esto requeriría de hardware muy poderoso con el que no contamos aún. Requeriría también de habilidades avanzadas de programación, o maneras sofisticadas de hacer una exploración detallada de un cerebro humano que pueda ser cargada en una computadora. Aunque nosotros no podamos hacer esto en el futuro cercano, la dificultad parece ser simplemente técnica.

 No hay ley física conocida o restricción material que impida a una civilización lo suficientemente avanzada tecnológicamente implementar mentes humanas en computadoras.

 Nuestro segundo preliminar es que podemos estimar, más o menos, cuánto poder de cómputo tomaría implementar una mente humana junto con una realidad virtual que para esta mente se vería completamente realista, con la cual interactuar.

 Además, podemos establecer límites inferiores acerca de cuan poderosas podrían ser las computadoras de una civilización avanzada. Futuristas tecnológicos han producido ya diseños de computadoras físicamente posibles que podrían ser construidas usando tecnología de fabricación molecular avanzada. El resultado de tal análisis es que una civilización tecnológicamente madura que ha desarrollado al menos aquellas tecnologías que nosotros ya conocemos como físicamente posibles, podría ser capaz de construir computadoras lo suficientemente poderosas para ejecutar un número astronómico de mentes similares a las humanas, aun si sólo una pequeña fracción de sus recursos fuera utilizada para tal propósito.

 Si usted es una de esas mentes simuladas, podría no haber manera de observación directa de saberlo; la realidad virtual en la que estaría viviendo se vería y sentiría perfectamente real. Pero todo lo que esto demuestra, hasta ahora, es que usted nunca podría estar completamente seguro de que no está viviendo en una simulación.

 Este resultado es sólo moderadamente interesante. Usted podría aún considerar la hipótesis de la simulación como demasiada improbable para ser tomada seriamente.

 Ahora vamos al centro del argumento de la simulación. Esto no pretende demostrar que usted está en una simulación. En cambio, muestra que deberíamos aceptar como verdadera al menos una de las siguientes tres proposiciones:

 (1) La probabilidad de que una especie con nuestro nivel actual de desarrollo pueda evitar extinguirse antes de convertirse en tecnológicamente madura es insignificatemente pequeña.

 (2) Casi ninguna civilización tecnológicamente madura está interesada en correr simulaciones de computadora de mentes como las nuestras

 (3) Usted está casi con seguridad en una simulación.

 Cada una de estas tres proposiciones podrían ser prima facie inverosímiles; y aún así, si el argumento de la simulación es correcto, por lo menos una es verdadera (mas no nos dice cuál). Mientras el argumento completo de la simulación emplea algo de teoría de la probabilidad y formalismos, su esencia puede ser entendida en términos intuitivos.

 Suponga que la proposición (1) es falsa. Entonces una fracción significativa de todas las especies con nuestro nivel de desarrollo eventualmente se volverán tecnológicamente maduras. Suponga, además, que (2) es falsa también. Entonces una fracción significativa de estas especies que se han vuelto tecnológicamente maduras usarán una porción de sus recursos computacionales para correr simulaciones de computadora de mentes como las nuestras. Pero, como vimos anteriormente, el número de mentes simuladas que cualquiera de tales civilizaciones tecnológicamente maduras podría correr es astronómicamente enorme.

 Por lo tanto, si tanto (1) como (2) son falsas, habrá un número astronómicamente enorme de mentes simuladas como las nuestras.

 Si hacemos cuentas, encontramos que habrían muchísimas más mentes simuladas que mentes no simuladas corriendo en cerebros orgánicos. En otras palabras, casi todas las mentes como las suyas, teniendo los tipos de experiencias que usted tiene, serían simuladas en vez de biológicas. Por lo tanto, por un principio muy débil de indiferencia, tendría que pensar que usted es probablemente una de esas mentes simuladas en vez de una de las excepcionales que están corriendo en neuronas biológicas.

 Así pues, si piensa que tanto (1) como (2) son falsas, debería aceptar (3). No es coherente rechazar las tres proposiciones. En realidad, no contamos con mucha información específica que nos diga cuál de las tres proposiciones podría ser verdad. En estas circunstancias, podría ser razonable distribuir nuestro crédito más o menos uniformemente entre las tres proposiciones, dando a cada una de ellas una probabilidad substancial.

Consideremos las opciones con un poco más de detalle.

 La posibilidad (1) es relativamente sencilla. Por ejemplo, quizá hay alguna tecnología altamente peligrosa que cada civilización lo suficientemente avanzada desarrolle, y que luego les destruya. Esperemos que éste no sea el caso.

 La posibilidad (2) requiere que haya una fuerte convergencia entre todas las civilizaciones suficientemente avanzadas: casi ninguna de ellas está interesada en correr simulaciones de computadora de mentes como las nuestras, y casi ninguna de ella contiene individuos relativamente ricos que estén interesados en hacerlo y sean libres de actuar como deseen. 


Uno puede imaginar varias razones que puedan conducir a algunas civilizaciones a renunciar a correr simulaciones, pero para conseguir (2), virtualmente todas las civilizaciones tendrían que hacerlo. Si esto fuera verdad, constituiría una restricción interesante en la evolución futura de vida inteligente avanzada.

 La tercera posibilidad es la más intrigante filosóficamente. si (3) es correcta, usted está casi con seguridad viviendo ahora en una simulación de computadora que fue creada por alguna civilización avanzada.

¿Qué tipo de implicaciones empíricas tendría esto? ¿Cómo cambiaría esto la manera en que vive su vida?

 A primera vista podría pensar que si (3) es verdadera, entonces no hay más apuestas, y que uno estaría loco si pensara seriamente que está viviendo en una simulación. Razonar así sería un error. Aun si estuviéramos en una simulación, la mejor manera de predecir qué pasaría después en nuestra simulación es todavía a través de métodos ordinarios – extrapolación de tendencias pasadas, modelación científica, sentido común common, etc.

 Si usted creyó estar en una simulación, debería continuar con su vida de la misma manera que si estuviera convencido que está viviendo en una vida no simulada en el nivel inferior de la realidad. La hipótesis de la simulación, sin embargo, puede tener algunos efectos sutiles en el comportamiento racional cotidiano. Hasta el punto de que usted piense que entiende los motivos de los simuladores, puede usar este entendimiento para predecir lo que sucederá en el mundo simulado que ellos han creado.

 Si piensa que hay una oportunidad de que el simulador de este mundo fuera, digamos, un descendiente devoto de algún fundamentalista cristiano contemporáneo, podría conjeturar que ha configurado la simulación de tal manera que los seres simulados serán recompensados o castigados de acuerdo a un criterio moral cristiano.

 El más allá, por supuesto, una posibilidad real para una criatura simulada (que podría ser continuada en una simulación diferente después de su muerte o “cargada” en el universo del simulador y quizá ser proveída allá con una cuerpo artificial. Su destino en ese más allá podría estar adecuado para depender de la manera en que se comportó en su encarnación simulada presente.

 Otras razones posibles para correr simulaciones incluyen las razones artísticas, científicas o recreacionales. Ante la ausencia de bases para un tipo de simulación por sobre la otra, sin embargo, tenemos que regresar a los métodos empíricos ordinarios para conducirse en el mundo.

 Si estamos en una simulación, ¿es posible saberlo con certeza? Si los simuladores no quieren que lo descubramos, probablemente jamás lo haremos. Pero si escogen mostrarse a sí mismos, podrían hacerlo ciertamente. Quizá una ventana informándole del hecho aparecería enfrente de usted, o quizá le “cargarían” en su mundo. Otro acontecimiento que nos permitiría concluir con un alto grado de confianza que estamos en una simulación es si llegamos algún día al punto de encender nuestras propias simulaciones.

 Si comenzamos a correr simulaciones, sería una evidencia fuerte en contra de (1) y (2). Lo que nos dejaría a (3) solamente.