domingo, 12 de abril de 2009

Data ¿te has hecho ya el test (de Turing, por supuesto)?

Alan Turing fue matemático y, con von Neumann, uno de los padres de la informática. Como éste, Turing tiene también sus máquinas (las máquinas de Turing), que son aquellas que pueden replicar cualquier otra que realice algún tipo de cálculo o algoritmo bien definido. Estudió en el Instituto de Estudios Avanzados de Princeton. Demostró una especie de teorema de Gödel para sus máquinas Turing (una máquina no puede predecir, en general, si su algoritmo parará o no). Durante la Segunda Guerra Mundial ayudó de manera decisiva a romper los códigos de comunicación alemanes (la máquina Enigma, que codificaba, entre otras cosas, los mensajes con instrucciones a los temidos submarinos alemanes). Por haber contribuido a la victoria aliada fue distinguido con la Orden del Imperio Británico, justo reconocimiento a una de las personas que más vidas ayudó a salvar durante la contienda. Poco duró la gratitud del Imperio porque, repitiéndose la historia de Oscar Wilde, fue acusado de homosexual. Pudo evitar la cárcel al someterse voluntariamente a tratamientos hormonales y a una castración química que, finalmente, le llevaron al suicidio.

Una de las aportaciones más interesantes de Alan Turing se refiere a la pregunta sobre si las máquinas pueden pensar. En su artículo de 1950 titulado “Computing machines and intelligence” propone lo que se conoce como el “Test de Turing”. Básicamente viene a decir que si una persona no sabe distinguir si se está comunicando con una máquina o con una persona, no tiene sentido atribuir capacidad de pensamiento a la persona y no a la máquina. Turing describe someramente el test, sin llegar a decir cuánto debe durar o qué tipo de comunicación o de preguntas se deben hacer. La idea principal es darle la misma oportunidad a la máquina que a la persona. Turing concluye que este test reemplaza a la pregunta anterior sobre si las máquinas pueden pensar.

Añado varios comentarios:

1. Turing dijo explícitamente que la pregunta ¿pueden pensar las máquinas? carece de sentido, puesto que se refiere a algo no observable. Su test lleva, precisamente, la cuestión desde el campo de lo “no observable” al de lo “observable” (yo diría, por seguir metiendo el dedo en el ojo: de la metafísica a la empiria). Una vez hecho esto, podemos responderla sabiendo de qué estamos hablando.

2. Muchas de las resistencias para aceptar el test vienen a decir que “nunca una máquina pasará el test”. Esto puede ser cierto, pero no es la cuestión. La cuestión es que, si lo pasa, como Data en Star Trek, o como los androides del libro ¿Sueñan los androides con ovejas eléctricas? (en el que se basó la película Blade Runner), entonces no hay razón para no admitir su inteligencia, pensamiento, consciencia o cualquier otra característica de este estilo, a la máquina. Repito: si una máquina pasa el test es porque no se la puede distinguir de un ser humano.

3. Una máquina puede pasar el test durante un tiempo, para después ser desenmascarada. Esto sólo quiere decir que, cuanto más tiempo pueda durar pasando el test, más habrá dentro de la máquina de aquello que atribuimos al ser humano.

4. El test de Turing es el argumento más sencillo, práctico y elegante contra el solipsismo. De hecho, creo que no sólo es el único posible sino que, además, es el que aplicamos todos los días. El solipsismo viene a decir que un ser pensante sólo tiene garantizada su propia existencia. Los demás pueden ser sombras irreales que se le aparecen. Sin embargo en esas sombras vemos las mismas características que en nosotros mismos. Difícilmente nuestra mente podría estar creándolas, a no ser que creamos haber compuesto y ejecutado la Novena de Beethoven y escrito El Quijote para luego sorprendernos a nosotros mismos. Todas las personas que conocemos pasan el test de Turing (los enfermos avanzados de Alzheimer tal vez no).

12 comentarios:

  1. Por añadir la chorrada: A. Turing fue, según el trasfondo de Mago: La Ascensión (JDR de la saga de Mundo de Tinieblas), el fundador de la Tradición Mágica de los Adeptos Virtuales. Unos magos-matemáticos muy flipaos que trabajan con ordenadores y van a lo Matrix. Se supone que la Tecnocracia, los científicos ultraortodoxos, lo asesinaron por demasiado vanguardista.

    En "Los Límites de la Fundación", de Asimov, se trata también el tema de si una máquina puede pensar o no. En un momento uno de los protagonistas le pregunta a otro si un robot que tenga forma humana, se comporte como un humano y piense como un humano es o no un robot. Y el otro le contesta que un robot de esas características es, a todas luces, un humano.

    ResponderEliminar
  2. Estimado José Luis:

    No estoy de acuerdo con que de tu afirmación "si una máquina pasa el test es porque no se la puede distinguir del ser humano" se desprenda que una máquina que pasa el test puede pensar como un ser humano. El "pensamiento" de una máquina será siempre un "proceso mecánico" muy distinto del pensamiento del ser humano que es un pensamiento de un ser vivo.

    JOSÉ GIL LLORCA

    ResponderEliminar
  3. Radagast:

    Desde luego, tenía que haber mencionado a Asimov, pero es que hace años que no lo leo y ya se me olvidan sus libros. Debería enmendar este error y releer a quien me adentró en el mundo de la ciencia y del conocimiento cuando era muy pequeño.

    José Gil:

    Si no sabemos distinguir entre el proceso mecánico de la máquina y el orgánico de los seres vivos es que esa diferencia no es importante. Serán distintos en el soporte material, pero no podremos decir que uno piensa y el otro no. El que sepamos que el proceso de la máquina es mecánico no ayuda. Incluso si creemos que el proceso que hace pensar al ser humano no es mecánico (¿qué otra cosa puede ser?), el que una máquina pase el test mostraría que es posible hacer lo mismo con un proceso mecánico. De momento nada hace sospechar que el soporte neuronal sea el único que pueda albergar inteligencia. Otra cosa es que nunca se llegue a tener una máquina que pase el test. Sobre esto se admiten apuestas, pero pagarán nuetros nietos.

    ResponderEliminar
  4. Supongo que ahora hay que decir que el pensamiento de un ser vivo es un proceso químico. Vamos, que si nos ponemos en plan simplista pues no tiene nada de especial ni diferente de un proceso mecánico que obtenga los mismos resultados. Si en vez de una red neuronal biológica ponemos como soporte una red neuronal informática...

    ¿Habéis visto "El cortador de césped"? Si no lo habéis hecho, pues ya sabéis. Aunque no trata exactamente el tema de una máquina pensante, sí tiene cierto toque a "mito de Frankenstein" y el horror que eso le produce al ser humano.

    ResponderEliminar
  5. José, supongo que por mecánico te refieres a algorítmico. En realidad, el meollo de la la Inteligengia artificial (IA) está en la pregunta sobre si el pensamiento puede reducirse o no a algoritmos. Si se puede reducir, entonces es posible (limitaciones técnicas aparte) construir una máquina que reproduzca esos algoritmos.

    La intuición más natural es la de que nuestro pensamiento, tan fuzzy, tan imprevisible, tan genial, tan grotesco, según los casos, no depende de algoritmos. Sin embargo, la cosa no está clara. Por ejemplo, hace mucho que se sabe que los programas son capaces de aprender: el primer programa de ajedrez aprendió a ganar a su programador al cabo de unos meses. Algo así tampoco es intuitivo, y sin embargo ocurre.

    Ayer mismo, hemos oído una noticia asombrosa sobre algoritmos: algoritmos capaces de hacer hipótesis y descubrimientos.

    Esos ejemplos y otros tantos deberían hacernos revisar divisiones tan tajantes como "pensamiento mecánico" vs. "pensamiento creativo".

    Saludos

    ResponderEliminar
  6. Estimado José Luis:

    Antes de que me olvide ¿has llegado a contestar a mi último comentario que te hice en el blog de Jesús? ¿Piensas hacerlo?

    Mira, José Luis, me parece que una cosa es que no podamos distinguir entre el proceso mecánico de una máquina y el del pensamiento humano y otra decir que como no sabemos distinguirlo entonces la diferencia no es importante. Eso es de lo más acientífico que he visto escrito en mucho tiempo. Si no sabemos distinguir una cosa de otra no quiere decir en absoluto que la diferencia no sea importante sino simplemente que no sabemos distinguir.
    Si no sabes distinguir un mosquito de un elefante, no supone que la diferencia entre que se te pose un mosquito o un elefante encima no sea importante.

    Un cordial saludo.

    JOSÉ GIL LLORCA

    ResponderEliminar
  7. Pero es que sí sabemos distinguir entre mosquitos y elefantes.

    ResponderEliminar
  8. Hola,

    Yo como traté de señalar en su momento encuentro muchos fallos a la creencia de que nuestra mente es básicamente un algoritmo -y mira que me encantaría porque entonces la inmortalidad sería fácil de ser creíble bien tirando de una ontología platónica, bien tirando de un futuro tecnológicamente más avanzado.

    No obstante lo que dice Turing es que no hace falta saber si nuestra mente es un algoritmo sino si un algoritmo puede hacer lo mismo que nuestra mente.

    Es decir, el test de Turing no implica ningún tipo de teoría de la cognición sino que afirma que sería posible sentenciar que cualquier cognición que pase el susodicho test es inteligente sea esté esa inteligencia implementada en silicio o en hidrógeno.

    Dicho esto. Voy a comentar los puntos finales:

    4. Es un poco raro lo que dices pero creo que sí, que valdría para desechar el solipsisimo

    (POr cierto no sólo los enfermos de alzheimer: los niños, los retrasados mentales, los enfermos mentales, etc)

    3. Esa correlación de tiempo de desenmarcarción/humananidad no la veo lógica pues puede ser que el desenmascardor sea torpe, el desenmascarado hay tenido suerte con las respuestas/preguntas, etc...

    1. Sí y no. Turing sí partía de una creencia no observable de lo que significa pensar, a saber: computar, por lo que ese afán antimetafísico te puede paracer a ti una buena jugada científica (y te lo concedo) ¡pero no se lo adjudiques al propio Turing!

    2. Aquí viene la madre del cordero, vaya por delante que yo no tengo a priori ningún rechazo emocional sobre la posibilidad de que las máquinas sean pensadoras aunque sí creo que el pensamiento no es algo tan trivial de conseguir como piensan los de la IA fuerte. Dicho esto, te cito:

    si una máquina pasa el test es porque no se la puede distinguir de un ser humano

    Es lo que yo niego. Aprenderse una serie de reglas y jugar es baladí. Es algo alcanzable para cualquier máquina. Lo difícil es poder cambiar de juego. A un juego de conversación del tipo parece que va a llover, no? pues sí habrá que quedarse en casa, cualquier descerebrado puede jugar;

    ¿Y por qué nadie pasa el test? Porque el truco suele ser el preguntarle cosas raras, a ver como reacciona, el pedir que describa cosas, etc. que en sí no me parecen que demuestran nada salvo que el robot no es un adulto con un bajaje experiencial y culturual encima pero no se está demostrando que piense, ni que deje de pensar. Insisto, no creo que un niño de tres años pasase el test y eso no demuestra que no piense.

    En realidad, la cuestión es que, lo queramos o no, nos disguste o no, necesitamos previamente una teoría de la cognición que nos diga qué es esta y luego que dicha teoría nos habilite el modo de hacer que las máquinas puedan pensar pero trabajar al revés es como construir la casa por el tejado.

    ResponderEliminar
  9. Radagast:

    En su día ví la peli, el miedo al Frankenstein es desde luego una de las razones por las que es tan común oponerse a la idea de que esto pueda pasar, pero habrá más.

    Pascual:

    Me refiero a cualquier proceso naturalista, sea mecánico, cuántico, algorítmico o lo que sea. No sabemos generar inteligencia artificial, eso está fuera de toda duda. No sabemos la causa de nuestra sensación de consciencia, eso también lo está. Está por ver si sabremos generar tal inteligencia o entender nuestra consciencia. Y si barruntamos algo, está por ver si son sólo algoritmos o hay involucrado algún tipo más de mecanismo.

    Estoy contigo en lo de no hacer divisiones tajantes que solo están en nuestra interpretación de la realidad.

    José Gil:

    Sobre lo primero vide la entrada anterior.

    Hablar de lo que sabemos y no sacar conclusiones sobre lo no observable es, precisamente la actitud científica. Tratar como distintas cosas que se presentan iguales es lo acientífico y es el pensamiento mágico. Claro que algunas cosas que ahora parecen iguales tal vez luego no lo sean, pero no lo sabremos hasta entonces. Claro que podemos hacer especulaciones sobre lo que no sabemos, pero hasta que no estén avaladas por la empiria no serán validadas. Sin embargo, en el caso del test de Turing tenemos tantas observaciones como necesitamos. Por una parte, para determinar que nosotros o nuestros semejantes somos seres pensantes ya tenemos los datos que nos ha hecho llegar a esa conclusión, sin necesidad de saber qué reacciones se producen en nuestros cerebros. Esos mismos datos son los que tendríamos de una máquina que pasara el test de Turing.

    Si tu madre te dice un buen día que es un androide no la creerías. Si se levanta la tapa de los sesos y no hay sesos, sino chips y lucecitas lo menos que podrás decir es que ese androide ha sabido reproducir muy bien eso de la maternidad. No se le podrá negar nada que no le negaras antes de saber ese detalle, puesto que nunca el saber cómo se generan los comportamientos de los demás nos era necesario para atribuirle todo lo que les atribuimos acerca de si tienen o no un yo interior.

    Héctor:

    Dices bien en que la manera en cómo se genera la comunicación en un caso o en otro no es lo que importa, sino si esa comunicación reproduce la humana. Los enfermos de Alzheimer eran sólo un ejemplo. Sobre la duración temporal del “engaño”, me parece que es crucial para entender que, cuanto más dure, más habrá captado el programador de la máquina acerca de lo que nos hace seres pensantes. Alguna cosas ya ha captado la inteligencia artificial. Procesos de computación, de reconocimiento de patrones, de reacción frente a algunos estímulos,… Muy poco, es cierto, y tal vez no llegue a captar todo, pero no tenemos razones a priorísticas para no seguir investigando. La teoría de cómo funciona nuestra mente (la única inteligente que tenemos a mano) nos ayudará a hacer estas máquinas. El test de Turíng no pretendía esto, sólo nos dice cuándo se habrá conseguido (si es que se consigue, insisto).

    Turing dice explícitamente que la pregunta ¿pueden pensar las máquinas? carece de sentido. No dice explícitamente que la razón sea que es una pregunta sobre algo no observable. Eso lo añado yo (en la frase, sí que parece que se lo atribuyo a él), pero creo estar siguiendo el la razón que se desprende de todo el artículo y la razón del método científico en general. Turing no propone que aceptemos que pensar sea computar, aunque sí le parece una buena línea de investigación. Lo aceptaremos (en sus términos, los del test) cuando la máquina pase el test.

    Tus últimos comentarios son acerca de que estamos lejos de tener máquinas que pasen el test o acerca de opiniones de que nunca lo harán. Lo primero es cierto, sobre lo segundo repito que hoy día no tenemos elementos para juzgar a priori si sucederá o no.

    ResponderEliminar
  10. q si hobre, q jose gil si puede, ya q esta inspirado por la chispa divina.

    las 3 leyes de asimov...grande. robots cuidando de la humanidad.. Auq las mejores las del principio, vobedad de acero y tal.

    aprovecho para recordaros un relato de asimov, muy conveniente a la cuestion

    http://www.vidapositiva.com/La-Ultima-Pregunta-Isaac-Asimov-1951.html

    es el de LA ULTIMA PREGUNTA. leetelo jose gil, ¡¡aver si despues de todo tu dios es una maquina hiperhavanzada y tienes tu razon de q hay dios!!! je.

    por cierto, se te va ocurriendo algun ejemplo por el q la iglesia catolica pueda consentir la pena capital y considerarla cristiana??

    ResponderEliminar
  11. El gran problema del test de Turing es que debería tener una duración infinita para estar seguros de que el ordenador lo pasa. De otro modo podríamos dar por consciente a un ser que no lo fuera (según el criterio de Turing).

    ResponderEliminar
    Respuestas
    1. La duración infinita no asegura nada tampoco. Te olvidas de lo fundamental: darle al ordenador la misma oportunidad que a una persona, con la que no tienes una interacción infinita.

      Eliminar