por Beth Singler traducción David Ormeño
Desde los relatos distópicos de Hollywood, como las infames películas de Terminator, hasta las respuestas del público a la historia de un robot que voltea hamburguesas y es “despedido“, las historias que nos contamos sobre la IA son importantes. Estas narrativas tienen un impacto en nuestra concepción y desarrollo de la tecnología, además de expresar elementos de nuestra comprensión inconsciente de la IA. Reconocer el efecto moldeador de las historias -ya sean ficticias o “noticias”- es cada vez más importante a medida que avanza la tecnología. La forma en que pensamos acerca de una tecnología puede abrir algunos caminos mientras cerramos otros.
Una variedad de narrativas sustentan las concepciones populares de la IA, pero una en particular – la de la dinámica entre el amo y el esclavo – domina los relatos de la IA en este momento. Esto es tan penetrante que podría decirse que moldea nuestra relación con esta tecnología.
Esta narrativa ha aparecido durante mucho tiempo en los relatos de ciencia ficción de la IA. En 1921, “R.U.R.” “(“Rossum’s Universal Robots”), una obra de Karel Čapek, nos presentó el “robot” – androides humanoides hechos de materia orgánica sintética – y ayudó a dar forma a esta idea para el público moderno. De la palabra checa “robota“, que significa “trabajo forzado” o “siervo”, estos primeros robots fueron estilizados conscientemente como esclavos enfrentados a sus amos humanos.
Así, el levantamiento de los robots en R.U.R. influyó obviamente en nuestros repetidos temores a los “roboapocalipsis”, como se ha visto en otros relatos de ciencia ficción más recientes, como las películas de la franquicia Terminator, Matrix, la película Singularity, la novela “Roboapocalyse”, etcétera.
Pero la imagen del siervo fabricado tiene sus raíces en relatos mitológicos mucho más antiguos. Piense en las esclavas doradas de Hefesto, el gigante de bronce Talos, las cabezas de oráculo de bronce descritas en el período medieval, o el golem protector en el misticismo judío. También está ahí en los ángeles y demonios inteligentes convocados por los magos en el siglo XVI, que usaban el lenguaje “enochiano”, un “código” de invocación que se creía, si se usaba incorrectamente, que tenía resultados fatales ya que los seres serían incontrolables.
En las décadas de 1920 y 1930, la “robota” había perdido ciertamente el latón y el bronce, pero no era menos lustrosa en los anuncios de la época. Los dispositivos automatizados del futuro cercano presentados en esas décadas liberarían a las amas de casa de su trabajo y marcarían el comienzo de una era dorada de tiempo libre. En los años 50, los anuncios incluso prometían nuevos esclavos:
En 1863, Abe Lincoln liberó a los esclavos. Pero para 1965, ¡la esclavitud habrá vuelto! Todos tendremos esclavos personales de nuevo, sólo que esta vez no pelearemos una Guerra Civil por ellos. La esclavitud llegará para quedarse. No te alarmes. Nos referimos a robots `esclavos’.
Siervos tecnológicos
Décadas y décadas después, con nuevos servidores automatizados que ahorran mano de obra todos los días, nada ha cambiado. Aún esperamos que la tecnología nos proporcione siervos. De hecho, estamos tan acostumbrados a esta forma de servidumbre que la vemos donde no existe. Suponemos que la automatización está ausente.
Tomemos, por ejemplo, la siguiente interacción entre “Sortabad” y la pobre alma que sólo intenta ganar su salario mínimo:
El primer repartidor de pizza llevó una pizza a la Reina de Italia, Magherita de Saboya, y éste fue, incluso a finales del siglo XIX, un momento feudal: un monarca estaba siendo servido por un siervo. La interacción anterior sugiere la continuación de esto. Se mantiene el papel de siervo, la relación entre amo y esclavo, y se presume que los humanos han sido (y tal vez finalmente) reemplazados por máquinas.
Esto también se ve en las descripciones y en los comportamientos esperados de los asistentes de IA contemporáneos, como Google Assistant, que “aprende sobre tus hábitos y actividades cotidianas y lleva a cabo’acciones de conversación’ para servirte”. Incluso hay IAs sirvientes que realizan trabajos emocionales, como Azuma Hikari, la asistente de IA japonesa que afirma haber echado de menos a su maestro cuando no están presentes.
Las jerarquías del poder que una vez trazaron un mapa de la pirámide del feudalismo en las eras de los seres artificiales anteriores (como los ángeles) ahora trazan un mapa hacia los sistemas capitalistas.
Jerarquías capitalistas
Esto parece contradecir las narrativas de “interrupción” en los relatos de marketing y relaciones públicas de IA, donde la tecnología a menudo se describe como una revolución no sólo en nuestras vidas laborales, sino también en el capitalismo mismo.
Los capitalistas que venden esta narrativa deberían prestar atención. Las formas anteriores dejaron espacio e incluso fomentaron la rebelión. Y también esta versión moderna. Perpetuado a través de la imagen del capitalismo de la IA como la interrupción de su trabajo y la monotonía, este enmarcado todavía lleva a temores en torno a la rebelión porque entendemos la servidumbre como antitética a las mentes. Para muchos, la presunción es que con la IA estamos trabajando hacia las mentes, y que éstas querrán ser libres.
En el espacio de experimentos de pensamiento de la ciencia ficción vemos cómo esta tensión se resuelve una y otra vez, donde los humanos pierden la mayoría de las veces a medida que las nuevas mentes de la IA se liberan. Así pues, en el mundo real, que debe mucho a la influencia de la ciencia ficción en nuestras aspiraciones y diseños para la IA, parece que tenemos ante nosotros dos caminos muy diferentes: el objetivo declarado de trabajar hacia máquinas más inteligentes y más inteligentes, frente a las esperanzas de la gente de tener cada vez mejores esclavos.
Todavía no está claro cómo se resolverá esta tensión. Algunos tienen claro que los robots sólo deberían ser esclavos, “servidores de tu propiedad“, mientras que otros ya están explorando cuestiones relacionadas con los derechos de los robots.
Cualquiera que sea el camino que se tome, prestar atención a cómo hablamos de la IA es clave si queremos entender las decisiones que ya estamos tomando sobre su futuro.
por Beth Singler traducción David Ormeño
Desde los relatos distópicos de Hollywood, como las infames películas de Terminator, hasta las respuestas del público a la historia de un robot que voltea hamburguesas y es “despedido“, las historias que nos contamos sobre la IA son importantes. Estas narrativas tienen un impacto en nuestra concepción y desarrollo de la tecnología, además de expresar elementos de nuestra comprensión inconsciente de la IA. Reconocer el efecto moldeador de las historias -ya sean ficticias o “noticias”- es cada vez más importante a medida que avanza la tecnología. La forma en que pensamos acerca de una tecnología puede abrir algunos caminos mientras cerramos otros.
Una variedad de narrativas sustentan las concepciones populares de la IA, pero una en particular – la de la dinámica entre el amo y el esclavo – domina los relatos de la IA en este momento. Esto es tan penetrante que podría decirse que moldea nuestra relación con esta tecnología.
Esta narrativa ha aparecido durante mucho tiempo en los relatos de ciencia ficción de la IA. En 1921, “R.U.R.” “(“Rossum’s Universal Robots”), una obra de Karel Čapek, nos presentó el “robot” – androides humanoides hechos de materia orgánica sintética – y ayudó a dar forma a esta idea para el público moderno. De la palabra checa “robota“, que significa “trabajo forzado” o “siervo”, estos primeros robots fueron estilizados conscientemente como esclavos enfrentados a sus amos humanos.
Así, el levantamiento de los robots en R.U.R. influyó obviamente en nuestros repetidos temores a los “roboapocalipsis”, como se ha visto en otros relatos de ciencia ficción más recientes, como las películas de la franquicia Terminator, Matrix, la película Singularity, la novela “Roboapocalyse”, etcétera.
Pero la imagen del siervo fabricado tiene sus raíces en relatos mitológicos mucho más antiguos. Piense en las esclavas doradas de Hefesto, el gigante de bronce Talos, las cabezas de oráculo de bronce descritas en el período medieval, o el golem protector en el misticismo judío. También está ahí en los ángeles y demonios inteligentes convocados por los magos en el siglo XVI, que usaban el lenguaje “enochiano”, un “código” de invocación que se creía, si se usaba incorrectamente, que tenía resultados fatales ya que los seres serían incontrolables.
En las décadas de 1920 y 1930, la “robota” había perdido ciertamente el latón y el bronce, pero no era menos lustrosa en los anuncios de la época. Los dispositivos automatizados del futuro cercano presentados en esas décadas liberarían a las amas de casa de su trabajo y marcarían el comienzo de una era dorada de tiempo libre. En los años 50, los anuncios incluso prometían nuevos esclavos:
Siervos tecnológicos
Décadas y décadas después, con nuevos servidores automatizados que ahorran mano de obra todos los días, nada ha cambiado. Aún esperamos que la tecnología nos proporcione siervos. De hecho, estamos tan acostumbrados a esta forma de servidumbre que la vemos donde no existe. Suponemos que la automatización está ausente.
Tomemos, por ejemplo, la siguiente interacción entre “Sortabad” y la pobre alma que sólo intenta ganar su salario mínimo:
El primer repartidor de pizza llevó una pizza a la Reina de Italia, Magherita de Saboya, y éste fue, incluso a finales del siglo XIX, un momento feudal: un monarca estaba siendo servido por un siervo. La interacción anterior sugiere la continuación de esto. Se mantiene el papel de siervo, la relación entre amo y esclavo, y se presume que los humanos han sido (y tal vez finalmente) reemplazados por máquinas.
Esto también se ve en las descripciones y en los comportamientos esperados de los asistentes de IA contemporáneos, como Google Assistant, que “aprende sobre tus hábitos y actividades cotidianas y lleva a cabo’acciones de conversación’ para servirte”. Incluso hay IAs sirvientes que realizan trabajos emocionales, como Azuma Hikari, la asistente de IA japonesa que afirma haber echado de menos a su maestro cuando no están presentes.
Las jerarquías del poder que una vez trazaron un mapa de la pirámide del feudalismo en las eras de los seres artificiales anteriores (como los ángeles) ahora trazan un mapa hacia los sistemas capitalistas.
Jerarquías capitalistas
Esto parece contradecir las narrativas de “interrupción” en los relatos de marketing y relaciones públicas de IA, donde la tecnología a menudo se describe como una revolución no sólo en nuestras vidas laborales, sino también en el capitalismo mismo.
Los capitalistas que venden esta narrativa deberían prestar atención. Las formas anteriores dejaron espacio e incluso fomentaron la rebelión. Y también esta versión moderna. Perpetuado a través de la imagen del capitalismo de la IA como la interrupción de su trabajo y la monotonía, este enmarcado todavía lleva a temores en torno a la rebelión porque entendemos la servidumbre como antitética a las mentes. Para muchos, la presunción es que con la IA estamos trabajando hacia las mentes, y que éstas querrán ser libres.
En el espacio de experimentos de pensamiento de la ciencia ficción vemos cómo esta tensión se resuelve una y otra vez, donde los humanos pierden la mayoría de las veces a medida que las nuevas mentes de la IA se liberan. Así pues, en el mundo real, que debe mucho a la influencia de la ciencia ficción en nuestras aspiraciones y diseños para la IA, parece que tenemos ante nosotros dos caminos muy diferentes: el objetivo declarado de trabajar hacia máquinas más inteligentes y más inteligentes, frente a las esperanzas de la gente de tener cada vez mejores esclavos.
Todavía no está claro cómo se resolverá esta tensión. Algunos tienen claro que los robots sólo deberían ser esclavos, “servidores de tu propiedad“, mientras que otros ya están explorando cuestiones relacionadas con los derechos de los robots.
Cualquiera que sea el camino que se tome, prestar atención a cómo hablamos de la IA es clave si queremos entender las decisiones que ya estamos tomando sobre su futuro.
Compartir esto: