La inteligencia artificial es el sueño de un totalitario, así es como se recupera el poder

por Simon McCarthy-Jones

Las sociedades occidentales individualistas se basan en la idea de que nadie conoce nuestros pensamientos, deseos o alegrías mejor que nosotros. Así que nos ponemos a nosotros mismos, en lugar del gobierno, a cargo de nuestras vidas. Tendemos a estar de acuerdo con la afirmación del filósofo Immanuel Kant de que nadie tiene el derecho de forzar su idea de la buena vida sobre nosotros.

La inteligencia artificial (IA) cambiará esto. Nos conocerá mejor de lo que nos conocemos a nosotros mismos. Un gobierno armado con IA podría afirmar que sabe lo que su gente realmente quiere y lo que realmente los hará felices. En el mejor de los casos, lo usará para justificar el paternalismo, y en el peor, el totalitarismo.

Todo infierno comienza con una promesa del cielo. El totalitarismo liderado por la IA no será diferente. La libertad se convertirá en obediencia al estado. Sólo los irracionales, rencorosos o subversivos podrían querer elegir su propio camino.

Para prevenir tal distopía, no debemos permitir que los demás sepan más de nosotros que nosotros mismos. No podemos permitir una brecha de autoconocimiento.

La IA que todo lo ve

En 2019, el multimillonario inversor Peter Thiel afirmó que la IA era “literalmente comunista“. Señaló que la IA permite a un poder centralizador vigilar a los ciudadanos y saber más de ellos que ellos mismos. China, señaló Thiel, ha abrazado con entusiasmo la IA.

Ya conocemos el potencial de la IA para apoyar el totalitarismo proporcionando un sistema orwelliano de vigilancia y control. Pero la IA también da a los totalitarios un arma filosófica. Mientras nos conozcamos mejor que el gobierno, el liberalismo podría mantener a raya a los aspirantes a totalitarios.

Pero la IA ha cambiado el juego. Las grandes compañías de tecnología recogen grandes cantidades de datos sobre nuestro comportamiento. Los algoritmos de aprendizaje automático usan estos datos para calcular no sólo lo que haremos, sino quiénes somos.

Hoy en día, la IA puede predecir qué películas nos gustarán, qué noticias querremos leer y a quién querremos como amigos en Facebook. Puede predecir si las parejas permanecerán juntas y si intentaremos suicidarnos. Desde nuestros likes en Facebook, la IA puede predecir nuestros puntos de vista religiosos y políticos, personalidad, inteligencia, uso de drogas y felicidad.

La exactitud de las predicciones de la IA sólo mejorará. En un futuro no muy lejano, como ha sugerido el escritor Yuval Noah Harari, la IA puede decirnos quiénes somos antes de que nosotros mismos lo sepamos.

Estos acontecimientos tienen implicaciones políticas sísmicas. Si los gobiernos pueden conocernos mejor que nosotros, se abre una nueva justificación para intervenir en nuestras vidas. Nos tiranizarán en nombre de nuestro propio bien.

La libertad a través de la tiranía

El filósofo Isaiah Berlin previó esto en 1958. Identificó dos tipos de libertad. Un tipo, advirtió, que llevaría a la tiranía.

La libertad negativa es “libertad de (freedom from)”. Es la libertad de la interferencia de otras personas o del gobierno en sus asuntos. La libertad negativa es que nadie más pueda restringirte, siempre y cuando no estés violando los derechos de nadie más.

Por el contrario, la libertad positiva es “libertad de (freedom to)”. Es la libertad de ser dueño de ti mismo, la libertad de cumplir tus verdaderos deseos, la libertad de vivir una vida racional. ¿Quién no querría esto?

¿Pero qué pasa si alguien más dice que no estás actuando en tu “verdadero interés”, aunque saben cómo podrías hacerlo. Si no escuchas, pueden obligarte a ser libre, coaccionándote para tu “propio bien”. Esta es una de las ideas más peligrosas jamás concebidas. Mató a decenas de millones de personas en la Unión Soviética de Stalin y en la China de Mao.

Se dice que el líder comunista ruso, Lenin, dijo que los capitalistas le venderían la cuerda con la que los colgaba. Peter Thiel ha argumentado que, en la IA, las empresas tecnológicas capitalistas de Silicon Valley han vendido al comunismo una herramienta que amenaza con socavar la sociedad capitalista democrática. La IA es la cuerda de Lenin.

Luchando por nosotros mismos

Sólo podemos prevenir tal distopía si no se permite que nadie nos conozca mejor de lo que nos conocemos a nosotros mismos. Nunca debemos sentimentalizar a nadie que busque tal poder sobre nosotros como algo bien intencionado. Históricamente, esto sólo ha terminado en una calamidad.

Una forma de prevenir una brecha en el autoconocimiento es levantar nuestros escudos de privacidad. Thiel, que calificó a la IA de comunista, ha argumentado que “la criptografía es libertaria“. Las criptocdivisas pueden ser “habilitadoras de la privacidad“. La privacidad reduce la capacidad de los demás de conocernos y luego usar este conocimiento para manipularnos para su propio beneficio.

Sin embargo, conocerse mejor a sí mismo a través de la IA ofrece poderosos beneficios. Podemos ser capaces de usarla para entender mejor lo que nos hará felices, sanos y ricos. Puede ayudar a guiar nuestras elecciones de carrera. En general, la IA promete crear el crecimiento económico que nos aleja de las gargantas de los demás.

El problema no es que la IA mejore nuestro autoconocimiento. El problema es una disparidad de poder en lo que se sabe de nosotros. El conocimiento sobre nosotros exclusivamente en manos de otros es poder sobre nosotros. Pero el conocimiento sobre nosotros en nuestras propias manos es poder para nosotros.

Cualquiera que procese nuestros datos para crear conocimiento sobre nosotros debería estar legalmente obligado a devolvernos ese conocimiento. Necesitamos actualizar la idea de “nada sobre nosotros sin nosotros” para la era de la IA.

Lo que la IA nos dice sobre nosotros es para que consideremos usar, no para que otros se beneficien del abuso. Sólo debería haber una mano en el timón de nuestra alma. Y debería ser la nuestra.

The Conversation