La IA y tú: cómo la confusión sobre la tecnología que maneja nuestro mundo amenaza la democracia

por John Zerilli

Thomas Jefferson, el estadista estadounidense y tercer presidente de los Estados Unidos, fue muchas cosas (incluido, notoriamente, un dueño de esclavos). Pero fuera lo que fuera (o no fuera), era un firme creyente en lo que él llamaba el “sufragio del pueblo”, lo que hoy llamaríamos democracia.

La democracia que tenía en mente, por supuesto, no era un verdadero “sufragio general” de todos los ciudadanos: en su forma más ambiciosa, sólo otorgaba el derecho al voto a los contribuyentes y soldados varones. También estaba muy alejado del ideal clásico establecido por la Antigua Atenas, en el que todos los ciudadanos elegibles se reunían regularmente para debatir y resolver la política. Aún así, incluso la versión limitada y estrictamente “representativa” de la democracia de Jefferson requería algo vital para funcionar correctamente: no solo un servicio público capaz y conocedor, sino un público votante bien informado.

Como dijo el propio Jefferson: “Siempre que la gente esté bien informada, se les puede confiar su propio gobierno”. La mayoría de las democracias occidentales se suscriben hoy a este ejemplo. Pero frente al progreso científico y tecnológico a lo largo del siglo XX, muchos politólogos, futuristas y periodistas se han quedado preguntándose sobre el futuro de la democracia.

En la búsqueda de averiguar hacia dónde nos dirigimos, surge una pregunta obvia. ¿Qué tan bien informado podemos esperar que esté el ciudadano medio en un mundo que se vuelve cada vez más complejo y desconcertante día a día? Sería ingenuo pensar que el auge de la ciencia y la tecnología no ha dificultado la comprensión plena de los problemas a los que nos enfrentamos como ciudadanos.

El calentamiento global es el tema más destacado. A menos que pertenezca a un puñado de expertos que estén bien informados sobre geología, meteorología y oceanografía, debe hacer un esfuerzo serio para comprender las complejidades de la ciencia climática.

Agregue escepticismo sobre el calentamiento global a las noticias y no es de extrañar que el escepticismo climático sea tan alto en algunos países. En los EE. UU., hasta el 20% de los ciudadanos de EE. UU. No cree que la actividad humana contribuya mucho, o nada en absoluto, al cambio climático. En Australia, el 38% de las personas encuestadas no considera que el cambio climático sea una amenaza importante. La misma encuesta encontró que en Canadá esa cifra es del 34% y en el Reino Unido del 30%.

Hay un nuevo juego en la ciudad

Desafortunadamente, los últimos cinco a diez años también han visto el auge de la inteligencia artificial (IA) y, más particularmente, una rama de la IA llamada “aprendizaje automático”.

El aprendizaje automático ocupa una posición interesante en la historia del progreso científico. Por un lado, es un resultado natural de los desarrollos en informática que comenzaron en la década de 1980. Por otro lado, su dependencia total de la información, y su capacidad para arreglárselas con todo tipo de información, incluidas cosas como la pulsación del teclado y la frecuencia cardíaca, marca lo que podría resultar una ruptura más radical con las tecnologías anteriores.

El aprendizaje automático utiliza información existente para generar nueva información. Pero también permite que esa nueva información se utilice para una variedad de usos cuestionables, incluida la vigilancia y la manipulación.

Si alguna vez le recomendaron productos mientras compraba en línea, probablemente lo hayan perfilado. ¿Alguna vez le han negado una solicitud de tarjeta de crédito en poco tiempo? De nuevo, probablemente te hayan perfilado. La elaboración de perfiles algorítmicos presenta una serie de desafíos éticos y legales, particularmente en torno a la discriminación y la privacidad. Pero la elaboración de perfiles es solo la punta de un iceberg en constante expansión.

¿Democracia bajo ataque?

Muchos usos de la tecnología representan una amenaza para los individuos como individuos, lo cual es bastante malo. Sin embargo, otros usos suponen una amenaza para las personas como ciudadanos democráticos. Lamentablemente, aquí ya hay un ejemplo destacado.

En 2017, se supo que la empresa del Reino Unido, Cambridge Analytica, había ayudado a la campaña Brexit Leave 2016 del Reino Unido proporcionándole servicios de publicidad política dirigida. Estos servicios se vieron facilitados por el acceso a los datos de Facebook, en una infracción importante de las propias políticas de Facebook.

Los llamados anuncios “oscuros” generalmente se envían a las personas con más probabilidades de ser susceptibles a ellos. A diferencia del panfleto y el boletin de la vieja escuela, los anuncios no se distribuyen de forma irregular. Están dirigidos, basados ​​en la extracción en profundidad de los historiales de navegación de las personas, los me gusta de Facebook, los tweets y las compras en línea. Es más, un anuncio oscuro se envía típicamente sin que el receptor tenga el beneficio de escuchar la vista opuesta.

No es así como se supone que funciona el “mercado de ideas” democrático. De hecho, cómo debemos comprender y regular la influencia de los algoritmos en nuestras percepciones es una de las preguntas más importantes que plantea la IA en la actualidad. Otra pregunta que vale la pena considerar es por qué tantos gobiernos de todo el mundo parecen empeñados en automatizar la administración pública cuando hay muchas pruebas que sugieren que a menudo no es ni eficiente ni justa.

La falta básica de comprensión obstruye un compromiso cívico más fructífero con la inteligencia artificial, los datos y la gran tecnología (de la web). Pero como ciudadanos, debemos saber qué está pasando y quién se beneficia.

Es por eso que mis colegas y yo juntamos nuestras cabezas y escribimos un libro que creemos ayudará a las personas a abrirse camino en la jungla de la IA. Los ciudadanos merecen algo más que un conocimiento superficial de la tecnología: nada que cause confusión, pero sí lo suficiente para informar una comprensión de principios del mundo que los rodea.

Como lo expresó el periodista de Time, Frank Trippett, en 1979: “El experto tendrá que desempeñar un papel más consciente como ciudadano, al igual que el (ciudadano) ordinario tendrá que volverse cada vez más un estudioso de la tradición técnica”.

Nuestra esperanza es que más periodistas, líderes de la industria y académicos cumplan la visión de Trippett convirtiéndose ellos mismos en ciudadanos expertos. Esto significa brindar a las personas tanta información clara como necesitan para tomar decisiones democráticas informadas y responsables. La democracia no exige menos.

Fuente: The Conversation