Inteligencia artificial y democracia

Una Inteligencia Artificial (IA) que prediga nuestras preferencias en base a nuestras actitudes pasadas, ¿no simplemente profundizaría los prejuicios personales? Las tecnologías digitales tienden a encerrarnos en círculos de preferencias similares, y de hecho hoy mismo la IA es responsable de casos como Facebook donde esto es particularmente problemático

por Gonzalo Díaz y Martín Pérez Comisso

Se ha hablado que la Inteligencia Artificial (IA) podría revolucionar la democracia, aprendiendo las preferencias de los votantes, llegando incluso votar en su representación. Estando en la “cima de expectativas sobredimensionadas” para la IA, en esta columna se plantean cuatro preguntas de sano escepticismo que debemos hacernos ante cualquier propuesta grandilocuente de “tornar obsoleta la democracia actual”.

1) ¿Quién controlaría la IA?

La IA no es algo que se diseñe una vez y que luego se “eche a volar”. Al contrario, una IA es un código generado por un grupo de personas, una corporación o un gobierno, y es este grupo el que diseña los criterios y objetivos que optimizará la IA, que la mantiene actualizada y que agrega o quita fuentes de datos. Este grupo controlador tendría entonces una enorme influencia.

Que una empresa como YouTube controle una IA para predecir cuál video querrás ver a continuación es una cosa, pero para predecir lo que querrás votar, o incluso votar en tu representación, se debe poner un microscopio sobre quién la controlará y quién fiscalizará a ese grupo.

2) ¿Qué datos requeriría la IA y cómo se gestionarían esos datos?

Con escándalos como el de Facebook, que vendió información personal de millones de personas a empresas que buscaban influir en el voto de las personas, debe preocuparnos qué nivel de recolección de datos implicaría esta propuesta. Una IA que pretenda predecir las preferencias democráticas de las personas necesitaría una cantidad similarmente enorme y centralizada de datos, incluyendo datos personales.

¿Quién recopilaría esta información? ¿Dónde estaría almacenada? Sería delicado que el grupo controlador de la IA sean los mismo que tengan acceso a este silo de información personal y privada de toda la ciudadanía. ¿Qué pasaría si hubiese una filtración? Si la democracia dependiera de ese silo de información, ¿sería obligatorio entregar los datos?

3) ¿Cómo se manejarían los sesgos?

La IA no es una fórmula mágica para extraer conocimiento y verdad de los datos. Al contrario, parece reproducir y a veces incluso amplificar los sesgos y prejuicios de las personas, porque sus predicciones se basan en comportamientos históricamente sesgados. Esta realidad ha generando fenómenos que varían desde lo anecdótico, como la IA de Microsoft que se tornó Nazi, hasta lo preocupante, como la IA que usó Amazon para contrataciones y que fue clausurado por discriminar a las mujeres o la IA que utilizó un tribunal de justicia de EEUU para predecir futuros criminales que resultó discriminar contra negros.

Una IA que pretenda predecir qué proyecto de ley, candidato o incluso modelo de sociedad preferiría un votante, debe ser diseñada con sumo cuidado para minimizar los sesgos, y no caer en la arrogancia de pretender eliminarlos por completo.

4) ¿La IA propiciaría un diálogo democrático?

Si bien las democracias del mundo urgen reformas en pos de mayor participación, e incluso de democracia directa, la democracia se reduce a predecir qué quiere cada persona, sino de propiciar diálogo, de convencernos e incluso a veces de corregirnos.

Una IA que prediga nuestras preferencias en base a nuestras actitudes pasadas, ¿no simplemente profundizaría los prejuicios personales? Las tecnologías digitales tienden a encerrarnos en círculos de preferencias similares, y de hecho hoy mismo la IA es responsable de casos como Facebook donde esto es particularmente problemático

---

Gonzalo Díaz, Coordinador de Contenidos, Directiva Nacional Revolución Democrática y Martín Pérez Comisso, Investigador Doctoral HSDS&T Arizona State University, militante Revolución Democrática.