Este artículo apenas habla de ‘Her’ y está razonablemente libre de spoilers.
¿Es posible enamorarse de un Sistema Operativo? Esa es la pregunta sobre la que planea ‘Her’, una de las películas de la temporada. La respuesta antes de ver la película, e incluso después, es un rotundo no. Es absurdo empatizar con Android, con MacOS, o con la más sofisticada Inteligencia Artificial sobre la tierra. Uno no se enamora de su ordenador aunque juegue bien al ajedrez o sea capaz de guiarnos hasta casa en mitad de la noche. Estos sistemas ni son realmente inteligentes, ni tienen personalidad, y aunque pudiesen aparentarla, no serían más que un impostor: nada creado por el hombre ha mostrado algo semejante a una consciencia.
La película, sin embargo, logra ser interesante porque añade una premisa: la existencia de un Sistema Operativo que aparenta ser consciente de si mismo, que dice tener sentimientos y que actúa como si los tuviera. Hasta elige su propio nombre: Samantha. Sobre esa premisa, la absurda pregunta original se transforma en un argumento clásico de la ciencia-ficción: ¿aceptaríamos como iguales a seres que no son humanos?
En el género se han escrito cientos de relatos alrededor de esa pregunta, la mayoría de ellos optimistas al respecto. En los mundos imaginados, las personas fueron capaces de empatizar con seres de todo tipo, sin que importase su constitución ni su origen. Los hombres de ficción han considerado como sus semejantes a extraterrestres (pequeninos), planetas enteros (Gaia), monos listos (Zira), universos diminutos (Ausencia), superperros (Sirio), Inteligencias Artificiales (Wintermute), robots (Daneel) o replicantes (Rachel). Si hacemos caso a la literatura de ciencia ficción, las personas podríamos empatizar con seres que no son humanos; podríamos otorgarles derechos, compadecerlos, quererlos, gastarles bromas y odiarles, y como le ocurrió a Alice, quizás hasta enamorarnos de Ausencia, un universo vacío y lleno de nada.
Si Samantha existiese, alguien podría amarla. ¿Pero es posible crear una máquina que, como Samantha, «piensa» y «siente»?
Sobre la posibilidad de una máquina pensante
Cuando uno se plantea si sería posible crear una máquina que «piensa» y «siente», el primer impulso es responder que nadie lo sabe, porque no tenemos ni la menor idea de cómo hacerlo. Pero en realidad es bastante evidente que pueden construirse máquinas pensantes… porque se cuentan por millones. La existencia del cerebro es, como dijo Von Neumann, la mejor prueba de que las máquinas pueden pensar.
“If you tell me exactly what it is a machine will never be able to do, I can create a machine that does it. The problem is that it’s generally not specific enough. We say machines can’t “think” because we don’t know what thinking actually is. The proof that machines can do it is the existence of the brain.” ~Von Neumann.
Nuestro cerebro existe y difícilmente será la única solución constructiva capaz de «pensar» o «sentir». No lo es, de hecho, por que cada uno de nuestros cerebros es ligeramente diferente y todos piensan y sienten. Aunque no sepamos cómo, lo más razonable es asumir que puede fabricarse un cerebro análogo al nuestro usando piezas distintas, quizás a partir de bioquímica basada en el silicio, con un ADN de arsénico, o conectando transistores en lugar de sinapsis.
Construyendo mentes: determinismo o Golem
Imaginemos que somos capaces de replicar nuestro cerebro usando silicio y nanotransistores. Asumamos, pues, que construimos un cerebro inorgánico, con materiales diferentes, pero análogo al nuestro en estructura y funcionamiento.
¿Emergería de ese artefacto algo semejante a una mente?
Solo caben dos respuestas, la cientificista y la mística. O creemos que hay algo sobrenatural en los seres humanos o aceptamos que de ese cerebro artificial emergería una cosa parecida a nosotros. No hay más alternativas.
La respuesta mística supone creer en una forma de Alma, aunque no necesariamente del tipo católico. Supone creer que hay algo «fuera de la naturaleza», una sustancia etérea, que nos dota de humanidad a las personas y que se la niega al resto de cosas. Los seres humanos seríamos una suerte de Golem, una maquinaria biológica inanimada que solo cobra vida, consciencia y existencia superior cuando se le insufla una «chispa de vida». El origen de esa ignición puede ser Dios o cualquier otra cosa ajena al mundo físico.
La respuesta cientificista asume, en cambio, que no hay nada extrafísico en las personas. Si no creemos en el Alma, tenemos que aceptar que nuestra consciencia emerge de nuestra estructura y es el resultado ineludible de como se ordena la materia que nos constituye. Si replicásemos esa misma estructura usando otras piezas (quizás silicio y transistores diminutos, como Samantha) el resultado sería un ser casi humano, consciente de si mismo, que piensa y siente, y que como nosotros, elige su propia aventura, tiene libre albedrío o siente que lo tiene.
Hasta donde sabemos, la biología apoya esta segunda opción. Nada indica que haya una «partícula vital» que contenga nuestra esencia, sino que ésta fluye y surge de esa interacción caótica que nos agita por dentro. Ni siquiera está claro que el «yo» sea una cosa muy definida, sino que nuestra mente parece «contener multitudes». Eso explica que tengamos dilemas internos, que nos hagamos promesas y las rompamos, o que nos riamos de nosotros mismos; todo cosas que nos resultan cotidianas, pero que no dejan de ser extrañas: si el Alma es unitaria, ¿con quién discutimos?
Sobre la complejidad de una máquina pensante
Es probable, pues, que de un artefacto que nos replicase surgiese un ser semejante a nosotros. Pero construir esa máquina de novo (esto es, sin usar piezas biológicas) no resultará nada sencillo. Al contrario, representa un problema de una complejidad absurda y apenas concebible. Exige replicar las miles de miles de millones de neuronas que forman un cerebro (100.000.000.000) y las miles de miles de miles de millones de conexiones sinópticas que las unen (1000.000.000.000.000) (I, II). A eso hay que sumar todas las células que nos constituyen y que, entre otras cosas, nos dotan de tacto, olfato, gusto, oído y vista. Todos esas células y neuronas son sistemas complejos de por si, antes incluso de agregarlos por millones y millones. El modelo más detallado que existe de un patógeno unicelular tiene decenas de subsistemas y parámetros tomados de novecientas referencias bibliográficas, lo que sirve para que intuyamos un fractal de complejidad digno de asombro.
Por supuesto, no sabemos como de esa cascada de conexiones electroquímicas surge un pensamiento, pero algo sí sabemos: eso que llamamos mente, emerge de la interacción de un número astronómico de otras cosas.
Replicar todo esto con electrónica suena inverosímil: un cerebro tiene del orden de 100.000.000.000.000.000.000 interruptores, más o menos los mismos que suman todos los microprocesadores que se fabricaron el año pasado, operando todos coordinados. Es posible que no sea necesario algo tan complejo para construir máquinas pensantes, pero de momento nuestros intentos han sido infructuosos. Quizás no existen atajos: somos las únicas máquinas pensantes que la evolución ha fabricado en esta iteración que es la vida en la tierra; el resto de animales no tienen mentes como la nuestra, a pesar de que son prácticamente igual de complejos. O bien hacer mentes no es útil (cosa en principio dudosa) o no es fácil.
De lo posible a lo probable
En definitiva, tiendo a creer que las personas podemos empatizar con seres no humanos y estoy razonablemente convencido de que esos seres podrían fabricarse. Las dos cosas me parecen plausibles, y por eso creo que una persona y un Sistema Operativo podrían, tal vez, enamorarse.
Acepto la posibilidad del amor entre Samantha y Theodore.
Pero me parece improbable.
Las razones las dejo para otro momento. Diré solamente que podría amar a Rachel, el personaje de la mítica Blade Runner, pero no a Samantha. Rachel es una replicante de carácter frío y gesto hierático, pero tiene unos ojos en los que puedes verte reflejado; un cuerpo y un rostro que son suyos… y quizás un poco tuyos. Samantha, en cambio, es invisible e incorpórea. Y mientras que Rachel es humana en sus limitaciones, Samantha es casi omnisciente.
Samantha no es lo suficientemente humana, porque es algo más que humano.
via
Este artículo apenas habla de ‘Her’ y está razonablemente libre de spoilers.
¿Es posible enamorarse de un Sistema Operativo? Esa es la pregunta sobre la que planea ‘Her’, una de las películas de la temporada. La respuesta antes de ver la película, e incluso después, es un rotundo no. Es absurdo empatizar con Android, con MacOS, o con la más sofisticada Inteligencia Artificial sobre la tierra. Uno no se enamora de su ordenador aunque juegue bien al ajedrez o sea capaz de guiarnos hasta casa en mitad de la noche. Estos sistemas ni son realmente inteligentes, ni tienen personalidad, y aunque pudiesen aparentarla, no serían más que un impostor: nada creado por el hombre ha mostrado algo semejante a una consciencia.
La película, sin embargo, logra ser interesante porque añade una premisa: la existencia de un Sistema Operativo que aparenta ser consciente de si mismo, que dice tener sentimientos y que actúa como si los tuviera. Hasta elige su propio nombre: Samantha. Sobre esa premisa, la absurda pregunta original se transforma en un argumento clásico de la ciencia-ficción: ¿aceptaríamos como iguales a seres que no son humanos?
En el género se han escrito cientos de relatos alrededor de esa pregunta, la mayoría de ellos optimistas al respecto. En los mundos imaginados, las personas fueron capaces de empatizar con seres de todo tipo, sin que importase su constitución ni su origen. Los hombres de ficción han considerado como sus semejantes a extraterrestres (pequeninos), planetas enteros (Gaia), monos listos (Zira), universos diminutos (Ausencia), superperros (Sirio), Inteligencias Artificiales (Wintermute), robots (Daneel) o replicantes (Rachel). Si hacemos caso a la literatura de ciencia ficción, las personas podríamos empatizar con seres que no son humanos; podríamos otorgarles derechos, compadecerlos, quererlos, gastarles bromas y odiarles, y como le ocurrió a Alice, quizás hasta enamorarnos de Ausencia, un universo vacío y lleno de nada.
Si Samantha existiese, alguien podría amarla. ¿Pero es posible crear una máquina que, como Samantha, «piensa» y «siente»?
Sobre la posibilidad de una máquina pensante
Cuando uno se plantea si sería posible crear una máquina que «piensa» y «siente», el primer impulso es responder que nadie lo sabe, porque no tenemos ni la menor idea de cómo hacerlo. Pero en realidad es bastante evidente que pueden construirse máquinas pensantes… porque se cuentan por millones. La existencia del cerebro es, como dijo Von Neumann, la mejor prueba de que las máquinas pueden pensar.
Nuestro cerebro existe y difícilmente será la única solución constructiva capaz de «pensar» o «sentir». No lo es, de hecho, por que cada uno de nuestros cerebros es ligeramente diferente y todos piensan y sienten. Aunque no sepamos cómo, lo más razonable es asumir que puede fabricarse un cerebro análogo al nuestro usando piezas distintas, quizás a partir de bioquímica basada en el silicio, con un ADN de arsénico, o conectando transistores en lugar de sinapsis.
Construyendo mentes: determinismo o Golem
Imaginemos que somos capaces de replicar nuestro cerebro usando silicio y nanotransistores. Asumamos, pues, que construimos un cerebro inorgánico, con materiales diferentes, pero análogo al nuestro en estructura y funcionamiento.
¿Emergería de ese artefacto algo semejante a una mente?
Solo caben dos respuestas, la cientificista y la mística. O creemos que hay algo sobrenatural en los seres humanos o aceptamos que de ese cerebro artificial emergería una cosa parecida a nosotros. No hay más alternativas.
La respuesta mística supone creer en una forma de Alma, aunque no necesariamente del tipo católico. Supone creer que hay algo «fuera de la naturaleza», una sustancia etérea, que nos dota de humanidad a las personas y que se la niega al resto de cosas. Los seres humanos seríamos una suerte de Golem, una maquinaria biológica inanimada que solo cobra vida, consciencia y existencia superior cuando se le insufla una «chispa de vida». El origen de esa ignición puede ser Dios o cualquier otra cosa ajena al mundo físico.
La respuesta cientificista asume, en cambio, que no hay nada extrafísico en las personas. Si no creemos en el Alma, tenemos que aceptar que nuestra consciencia emerge de nuestra estructura y es el resultado ineludible de como se ordena la materia que nos constituye. Si replicásemos esa misma estructura usando otras piezas (quizás silicio y transistores diminutos, como Samantha) el resultado sería un ser casi humano, consciente de si mismo, que piensa y siente, y que como nosotros, elige su propia aventura, tiene libre albedrío o siente que lo tiene.
Hasta donde sabemos, la biología apoya esta segunda opción. Nada indica que haya una «partícula vital» que contenga nuestra esencia, sino que ésta fluye y surge de esa interacción caótica que nos agita por dentro. Ni siquiera está claro que el «yo» sea una cosa muy definida, sino que nuestra mente parece «contener multitudes». Eso explica que tengamos dilemas internos, que nos hagamos promesas y las rompamos, o que nos riamos de nosotros mismos; todo cosas que nos resultan cotidianas, pero que no dejan de ser extrañas: si el Alma es unitaria, ¿con quién discutimos?
Sobre la complejidad de una máquina pensante
Es probable, pues, que de un artefacto que nos replicase surgiese un ser semejante a nosotros. Pero construir esa máquina de novo (esto es, sin usar piezas biológicas) no resultará nada sencillo. Al contrario, representa un problema de una complejidad absurda y apenas concebible. Exige replicar las miles de miles de millones de neuronas que forman un cerebro (100.000.000.000) y las miles de miles de miles de millones de conexiones sinópticas que las unen (1000.000.000.000.000) (I, II). A eso hay que sumar todas las células que nos constituyen y que, entre otras cosas, nos dotan de tacto, olfato, gusto, oído y vista. Todos esas células y neuronas son sistemas complejos de por si, antes incluso de agregarlos por millones y millones. El modelo más detallado que existe de un patógeno unicelular tiene decenas de subsistemas y parámetros tomados de novecientas referencias bibliográficas, lo que sirve para que intuyamos un fractal de complejidad digno de asombro.
Por supuesto, no sabemos como de esa cascada de conexiones electroquímicas surge un pensamiento, pero algo sí sabemos: eso que llamamos mente, emerge de la interacción de un número astronómico de otras cosas.
Replicar todo esto con electrónica suena inverosímil: un cerebro tiene del orden de 100.000.000.000.000.000.000 interruptores, más o menos los mismos que suman todos los microprocesadores que se fabricaron el año pasado, operando todos coordinados. Es posible que no sea necesario algo tan complejo para construir máquinas pensantes, pero de momento nuestros intentos han sido infructuosos. Quizás no existen atajos: somos las únicas máquinas pensantes que la evolución ha fabricado en esta iteración que es la vida en la tierra; el resto de animales no tienen mentes como la nuestra, a pesar de que son prácticamente igual de complejos. O bien hacer mentes no es útil (cosa en principio dudosa) o no es fácil.
De lo posible a lo probable
En definitiva, tiendo a creer que las personas podemos empatizar con seres no humanos y estoy razonablemente convencido de que esos seres podrían fabricarse. Las dos cosas me parecen plausibles, y por eso creo que una persona y un Sistema Operativo podrían, tal vez, enamorarse.
Acepto la posibilidad del amor entre Samantha y Theodore.
Pero me parece improbable.
Las razones las dejo para otro momento. Diré solamente que podría amar a Rachel, el personaje de la mítica Blade Runner, pero no a Samantha. Rachel es una replicante de carácter frío y gesto hierático, pero tiene unos ojos en los que puedes verte reflejado; un cuerpo y un rostro que son suyos… y quizás un poco tuyos. Samantha, en cambio, es invisible e incorpórea. Y mientras que Rachel es humana en sus limitaciones, Samantha es casi omnisciente.
Samantha no es lo suficientemente humana, porque es algo más que humano.
Compartir esto: