Nuestras identidades, seamos conscientes o no de ellas parecen estar en periodo de transición. Así, podríamos decir que nos encontramos entre ese paso intermedio que el sociólogo Zygmunt Bauman denominó ya como “modernidad líquida”, y lo que Eli Pariser describió en su libro El filtro burbuja. El concepto de “filtro burbuja” hace referencia a cómo Internet, y por ende, a cómo los algoritmos que hay detrás, son los encargados de decidir lo que lees, piensas, e incluso compras. Internet parece proporcionarnos una identidad. No obstante, ¿quién proporciona una identidad al conglomerado de algoritmos que conforman la Red de redes?
Las paradojas de las identidades de la inteligencia artificial
Para entender cómo funcionan los algoritmos conviene saber qué son, y ver a Internet como algo más que una herramienta completamente inocua o totalmente maléfica. Así, un algoritmo se puede entender como una secuencia de pasos lógicos que permiten solucionar un problema. En este sentido y dado que los algoritmos se utilizan ante todo para solucionar problemas, es lógico que se hayan convertido en poco tiempo en aliados indiscutibles. Uno de sus usos más habituales tiene que ver con la búsqueda de información de cualquier tipo en la Red. Con unas pocas palabras claves en los motores de búsqueda de Internet, (no Google, aunque es el ejemplo más representativo), el usuario accede a una cantidad de información nunca antes vista.
¿Quién proporciona una identidad al conglomerado de algoritmos que conforman la Red de redes? / Imagen: Pixabay.com
Pero es que en Internet hay más que algoritmos que recomiendan información, los hay que por ejemplo quieren simular conversaciones e incluso debates sobre temas tan complejos como son la política y la religión. ¿Qué está pasando entonces con estos algoritmos que conforman otros sistemas de inteligencia artificial más complejos a partir del machine y deep learning?
Fuera de control
Uno de los casos más relevantes tuvo lugar cuando los ingenieros de Facebook decidieron desconectar una IA porque sus robots comenzaron a comunicarse en su propio lenguaje, ininteligible para los programadores. Los ingenieros de Facebook entraron en pánico por el riesgo a perder el control sobre su propia creación, y como consecuencia de este hecho desenchufaron esta IA.
Otro incidente muy nombrado en los medios de comunicación fue el de la IA de Microsoft, Tai. De entre todos los ejemplos de sistemas artificiales que han sido desconectados durante los últimos años puede que sea Tai uno de los más sonados, eso sí, durante el año 2016, ya que este robot se encuentra secuestrado desde el 24 de marzo de ese año por portarse mal. ¿Qué hizo este chatbot exactamente? En menos de 24 horas se convirtió en todo un experimento que hacía apología del racismo y del nazismo en Twitter con frases del tipo: “Hitler tenía razón, odio a los judíos”, “odio a las feministas, deberían morir y ser quemadas en el infierno”
Algoritmos creadores de certezas
La ecuación que sirve para estos tiempos es la siguiente: si el algoritmo predice a la perfección, entonces está en lo justo. No puede ser tan perfecta una IA de reconocimiento facial que diga que la persona que hay en la cocina entre fogones sea una mujer, solamente por el mero hecho de estar en ese espacio y manejando ese utensilio. Este ejemplo y otros como este se recogieron en el periódico El País hace unos meses. Este artículo ilustra un conjunto de problemas de las inteligencias artificiales que han pasado desapercibidos porque se olvida a menudo que la máquina ha sido anteriormente “alimentada” por un humano. Al fin y al cabo, somos nosotros los encargados aún de seleccionar la información con la que el sistema artificial trabaja o qué tipo de patrones debe reconocer para funcionar.
En este sentido, por mucho que el deep learning sea capaz de trabajar a través del proceso conocido como “creatividad computacional“, aún hay más variantes que responder e incluso que controlar para que estas inteligencias artificiales, muchas de ellas muy complejas, dejen de replicar identidades humanas, algunas de ellas ya de por sí sesgadas.
¿Sujetos determinados o al azar?
Entonces, ¿son los algoritmos la nueva bola de cristal e incluso el nuevo oráculo de Delfos del siglo XXI? La máxima de Internet parece ser: “dame un poco de información sobre ti y te daré lo que tú quieres”. / Imagen: Pixabay.com
Entonces, ¿son los algoritmos la nueva bola de cristal e incluso el nuevo oráculo de Delfos del siglo XXI? La máxima de Internet parece ser: “dame un poco de información sobre ti y te daré lo que tú quieres”.
¿No es así como funcionan los algoritmos de los “grandes”, véase Amazon, Netflix, Google, Spotify, entre otros? Y es que estas empresas trabajan con una gran cantidad de datos que les permite rastrear los gustos de los usuarios, estudiando sus movimientos de manera tan detallada y puntillosa con la intención de devolverles un conjunto de productos irresistibles para el internauta. Y es que, por mucho que lo parezca, no es azar el modo en que operan los algoritmos. No hay nada de aleatorio en los resultados de los mismos, ya que aunque en un principio la minería de datos disponible en la Red se torne como un universo caótico, los resultados que recibimos de nuestras peticiones a Google están sujetos a un proceso claramente determinista aunque desconozcamos las reglas que producen tales resultados.
Una aldea global de identidades predeterminadas
Del otro lado están nuestras identidades, que siendo aún moldeadas por la tecnología, no dejan de ser parte del Homo sapiens que aún nos define como especie. Para ver cómo hay una cierta simbiosis entre nosotros y la tecnología vale con escoger un día cualquiera en la vida de muchos de nosotros.
Y es que ese concepto de Bauman mencionado al principio del artículo lo deja claro: esa “sociedad líquida” en la que el sujeto crea su identidad a partir del grado de integración que consiga en una sociedad cada vez más global, pero eso sí, sin identidad fija y ante todo maleable y voluble, nos produce desasosiego e inestabilidad. ¿Qué estamos haciendo para reducir este grado de incertidumbre? Implementar algoritmos y otros usos de la tecnología para que de algún modo nos simplifiquen la vida, y nos transporten a otro tipo de sociedad no “tan líquida” en la que se dé un giro del antropocentrismo al Internetcentrismo. Ahora bien, ¿estamos realmente preparados?
Poder oír y ver a personas lejanas a nuestra manera de entender el mundo y los quehaceres cotidianos en tiempo real, hace que revivamos esas condiciones como si pudiéramos entenderlas, y fuesen parte de nuestra comunidad e incluso de nuestra cultura. /Imagen: CC0 Creative Commons
Para McLuhan, filósofo y escritor canadiense, la revolución que trajeron ya en la década de los 60 los medios electrónicos posibilitó el nacimiento de lo que se conoce como “aldeas globales”. El hecho de poder oír, y ver a personas muy lejanas a nuestra manera de entender tanto el mundo como los quehaceres cotidianos en tiempo real, hace que revivamos esas condiciones como si pudiéramos entenderlas, y fuesen parte de nuestra comunidad e incluso de nuestra cultura.
Ahora bien, se olvida una vez más que este tipo de informaciones son parciales y no la única verdad posible, y que nos transporta a un mundo global con nuestra identidad local. Si no fuese así, ¿por qué triunfan los filtros burbujas?
Este concepto de filtro burbuja es el nombre y el concepto por el que se ha hecho conocido el activista Eli Pariser, para quien resulta una paradoja que Internet -como fenómeno global- que cuenta supuestamente con un amplio registro de posibilidades para informarnos, acaba convirtiendo prácticamente ese universo de opciones en una aldea o en un filtro burbuja o lo que es lo mismo, nuestro perfil se acaba moviendo dentro de un espacio acotado en el que todo le resulta afín. Al final es tratar de minimizar este caos global por quedarnos aún demasiado grande, o si no, ¿cómo funciona aún el ciudadano medio en la esfera de lo global y lo local?
- En la esfera de lo global: intentamos recorrer países lejanos y hablar idiomas que nada tienen que ver con los sonidos de nuestros alfabeto; probamos comidas no afines a nuestro gusto tradicional culinario; hacemos amigos con pasados poco comunes al nuestro que pocas veces llegamos a entender; trabajamos en ambientes internacionales donde todo parece muy “cool” pero nadie se habla con el compañero del país de al lado, y pensamos ante todo, que gozamos de una libertad como nunca antes vista ni vivida.
- En la esfera de la aldea: seguimos sintiéndonos en casa con los que hablan nuestra lengua; los nacionalismos están más presentes que nunca; contamos con todos los productos a la carta que queremos y aún así no nos satisfacen; buscamos reafirmarnos en nuestras opiniones cerrando el círculo de aquellos que nos parecen demasiado “excéntricos”, no contrastamos la información diaria porque no hay tiempo y nos informamos a través de Twitter; solamente disfrutamos de una puesta de sol si la miramos a través de Instagram, y parecemos “cyborgs locales” sin partes biónicas visibles, pero eso sí, contando con el Smartphone como prolongación de nuestro brazo.
A fin de cuentas, la inteligencia artificial y la humana buscan crearse una identidad que se está alejando claramente de ese concepto de sociedad líquida que ya describía Bauman, ya que el ser humano no está hecho para soportar grandes dosis de incertidumbre. Sin embargo, corremos el riesgo de acercarnos a la idea que Pariser afirma en su libro: “la Red es la que decide qué leemos y qué pensamos, lo que nos conduce a la siguiente disto pía: un buen día te despiertas y encuentras que todo el mundo piensa como tú”. ¿Es un Internetcentrismo lo que queremos y ansiamos?
Rosae Martín Peña
Nuestras identidades, seamos conscientes o no de ellas parecen estar en periodo de transición. Así, podríamos decir que nos encontramos entre ese paso intermedio que el sociólogo Zygmunt Bauman denominó ya como “modernidad líquida”, y lo que Eli Pariser describió en su libro El filtro burbuja. El concepto de “filtro burbuja” hace referencia a cómo Internet, y por ende, a cómo los algoritmos que hay detrás, son los encargados de decidir lo que lees, piensas, e incluso compras. Internet parece proporcionarnos una identidad. No obstante, ¿quién proporciona una identidad al conglomerado de algoritmos que conforman la Red de redes?
Las paradojas de las identidades de la inteligencia artificial
Para entender cómo funcionan los algoritmos conviene saber qué son, y ver a Internet como algo más que una herramienta completamente inocua o totalmente maléfica. Así, un algoritmo se puede entender como una secuencia de pasos lógicos que permiten solucionar un problema. En este sentido y dado que los algoritmos se utilizan ante todo para solucionar problemas, es lógico que se hayan convertido en poco tiempo en aliados indiscutibles. Uno de sus usos más habituales tiene que ver con la búsqueda de información de cualquier tipo en la Red. Con unas pocas palabras claves en los motores de búsqueda de Internet, (no Google, aunque es el ejemplo más representativo), el usuario accede a una cantidad de información nunca antes vista.
¿Quién proporciona una identidad al conglomerado de algoritmos que conforman la Red de redes? / Imagen: Pixabay.com
Pero es que en Internet hay más que algoritmos que recomiendan información, los hay que por ejemplo quieren simular conversaciones e incluso debates sobre temas tan complejos como son la política y la religión. ¿Qué está pasando entonces con estos algoritmos que conforman otros sistemas de inteligencia artificial más complejos a partir del machine y deep learning?
Fuera de control
Uno de los casos más relevantes tuvo lugar cuando los ingenieros de Facebook decidieron desconectar una IA porque sus robots comenzaron a comunicarse en su propio lenguaje, ininteligible para los programadores. Los ingenieros de Facebook entraron en pánico por el riesgo a perder el control sobre su propia creación, y como consecuencia de este hecho desenchufaron esta IA.
Otro incidente muy nombrado en los medios de comunicación fue el de la IA de Microsoft, Tai. De entre todos los ejemplos de sistemas artificiales que han sido desconectados durante los últimos años puede que sea Tai uno de los más sonados, eso sí, durante el año 2016, ya que este robot se encuentra secuestrado desde el 24 de marzo de ese año por portarse mal. ¿Qué hizo este chatbot exactamente? En menos de 24 horas se convirtió en todo un experimento que hacía apología del racismo y del nazismo en Twitter con frases del tipo: “Hitler tenía razón, odio a los judíos”, “odio a las feministas, deberían morir y ser quemadas en el infierno”
Algoritmos creadores de certezas
La ecuación que sirve para estos tiempos es la siguiente: si el algoritmo predice a la perfección, entonces está en lo justo. No puede ser tan perfecta una IA de reconocimiento facial que diga que la persona que hay en la cocina entre fogones sea una mujer, solamente por el mero hecho de estar en ese espacio y manejando ese utensilio. Este ejemplo y otros como este se recogieron en el periódico El País hace unos meses. Este artículo ilustra un conjunto de problemas de las inteligencias artificiales que han pasado desapercibidos porque se olvida a menudo que la máquina ha sido anteriormente “alimentada” por un humano. Al fin y al cabo, somos nosotros los encargados aún de seleccionar la información con la que el sistema artificial trabaja o qué tipo de patrones debe reconocer para funcionar.
En este sentido, por mucho que el deep learning sea capaz de trabajar a través del proceso conocido como “creatividad computacional“, aún hay más variantes que responder e incluso que controlar para que estas inteligencias artificiales, muchas de ellas muy complejas, dejen de replicar identidades humanas, algunas de ellas ya de por sí sesgadas.
¿Sujetos determinados o al azar?
Entonces, ¿son los algoritmos la nueva bola de cristal e incluso el nuevo oráculo de Delfos del siglo XXI? La máxima de Internet parece ser: “dame un poco de información sobre ti y te daré lo que tú quieres”. / Imagen: Pixabay.com
Entonces, ¿son los algoritmos la nueva bola de cristal e incluso el nuevo oráculo de Delfos del siglo XXI? La máxima de Internet parece ser: “dame un poco de información sobre ti y te daré lo que tú quieres”.
¿No es así como funcionan los algoritmos de los “grandes”, véase Amazon, Netflix, Google, Spotify, entre otros? Y es que estas empresas trabajan con una gran cantidad de datos que les permite rastrear los gustos de los usuarios, estudiando sus movimientos de manera tan detallada y puntillosa con la intención de devolverles un conjunto de productos irresistibles para el internauta. Y es que, por mucho que lo parezca, no es azar el modo en que operan los algoritmos. No hay nada de aleatorio en los resultados de los mismos, ya que aunque en un principio la minería de datos disponible en la Red se torne como un universo caótico, los resultados que recibimos de nuestras peticiones a Google están sujetos a un proceso claramente determinista aunque desconozcamos las reglas que producen tales resultados.
Una aldea global de identidades predeterminadas
Del otro lado están nuestras identidades, que siendo aún moldeadas por la tecnología, no dejan de ser parte del Homo sapiens que aún nos define como especie. Para ver cómo hay una cierta simbiosis entre nosotros y la tecnología vale con escoger un día cualquiera en la vida de muchos de nosotros.
Y es que ese concepto de Bauman mencionado al principio del artículo lo deja claro: esa “sociedad líquida” en la que el sujeto crea su identidad a partir del grado de integración que consiga en una sociedad cada vez más global, pero eso sí, sin identidad fija y ante todo maleable y voluble, nos produce desasosiego e inestabilidad. ¿Qué estamos haciendo para reducir este grado de incertidumbre? Implementar algoritmos y otros usos de la tecnología para que de algún modo nos simplifiquen la vida, y nos transporten a otro tipo de sociedad no “tan líquida” en la que se dé un giro del antropocentrismo al Internetcentrismo. Ahora bien, ¿estamos realmente preparados?
Poder oír y ver a personas lejanas a nuestra manera de entender el mundo y los quehaceres cotidianos en tiempo real, hace que revivamos esas condiciones como si pudiéramos entenderlas, y fuesen parte de nuestra comunidad e incluso de nuestra cultura. /Imagen: CC0 Creative Commons
Para McLuhan, filósofo y escritor canadiense, la revolución que trajeron ya en la década de los 60 los medios electrónicos posibilitó el nacimiento de lo que se conoce como “aldeas globales”. El hecho de poder oír, y ver a personas muy lejanas a nuestra manera de entender tanto el mundo como los quehaceres cotidianos en tiempo real, hace que revivamos esas condiciones como si pudiéramos entenderlas, y fuesen parte de nuestra comunidad e incluso de nuestra cultura.
Ahora bien, se olvida una vez más que este tipo de informaciones son parciales y no la única verdad posible, y que nos transporta a un mundo global con nuestra identidad local. Si no fuese así, ¿por qué triunfan los filtros burbujas?
Este concepto de filtro burbuja es el nombre y el concepto por el que se ha hecho conocido el activista Eli Pariser, para quien resulta una paradoja que Internet -como fenómeno global- que cuenta supuestamente con un amplio registro de posibilidades para informarnos, acaba convirtiendo prácticamente ese universo de opciones en una aldea o en un filtro burbuja o lo que es lo mismo, nuestro perfil se acaba moviendo dentro de un espacio acotado en el que todo le resulta afín. Al final es tratar de minimizar este caos global por quedarnos aún demasiado grande, o si no, ¿cómo funciona aún el ciudadano medio en la esfera de lo global y lo local?
A fin de cuentas, la inteligencia artificial y la humana buscan crearse una identidad que se está alejando claramente de ese concepto de sociedad líquida que ya describía Bauman, ya que el ser humano no está hecho para soportar grandes dosis de incertidumbre. Sin embargo, corremos el riesgo de acercarnos a la idea que Pariser afirma en su libro: “la Red es la que decide qué leemos y qué pensamos, lo que nos conduce a la siguiente disto pía: un buen día te despiertas y encuentras que todo el mundo piensa como tú”. ¿Es un Internetcentrismo lo que queremos y ansiamos?
Rosae Martín Peña
Fuente
Compartir esto: