Estamos creando sistemas que promueven la ignorancia y debilitan la democracia – Manzana Mecánica

Durante siglos hemos diseñado sistemas complejos en capas. La capa exterior, la “interfaz de usuario”, está en contacto directo con los usuarios. Las capas internas corresponden a sub-sistemas que trabajan en nombre de los usuarios, pero con los cuales los usuarios tienen poca o ninguna interacción directa.

Todo está diseñado de esa manera, no sólo software y gadgets:

• La comida es un sistema complejo en el que la interfaz de usuario incluye el etiquetado de los paquetes, los anaqueles de supermercados y los menús de restaurantes.
• La democracia es un sistema complejo en el que la interfaz de usuario incluye las urnas de votación, la cobertura mediática de la política, y las manifestaciones.
• La banca es un sistema complejo en el que la interfaz de usuario incluye los cajeros automáticos y humanos, los sistemas de punto de venta, y los tableros con precios de acciones.
• Los servicios de salud son un sistema complejo en el que la interfaz de usuario incluye salas de espera, enfermeras, médicos y farmacéuticos.
• Los automóviles son sistemas complejos en los que la interfaz de usuario incluye el volante y el panel de instrumentos.

Utilizamos muchas metáforas para hablar de las capas internas. Hablamos de lo que sucede “entre bambalinas,” “en la oficina de atrás” o “debajo del capó”. Suponemos que lo que allí sucede no nos concierne, siempre y cuando el trabajo se haga en algún momento. Los diseñadores de sistemas suponen, a su vez, que la mayoría de las veces los usuarios no necesitan saber sobre las capas internas. De hecho, cuando una capa interna es expuesta inadvertidamente a través de la interfaz, vemos esto como un fallo del sistema; a veces un fallo benigno como un poco de tierra en las hortalizas en el supermercado, a veces más chocante como una cabeza de pollo en una bolsa de McNuggets.

A pesar de lo que piensen arquitectos ingenuos de sistema, en la mayoría de los sistemas los usuarios a menudo necesitan saber acerca de lo que las capas internas están haciendo: para utilizar un sistema de forma eficaz, para recuperarse de fallas, y construir sobre un sistema o adaptarlo a sus necesidades. Por ejemplo:

• Una dieta saludable requiere conocer qué hay en nuestra comida. Una dieta sostenible requiere saber de dónde viene y cómo se prepara.
• La democracia no puede ser interpretada como votar ciegamente cada pocos años, y el progreso social real requiere entender los mecanismos de cambio legislativo.
• Reducir el daño de la próxima crisis económica, requiere entender lo que cada uno de nosotros puede hacer para evitar que sea demasiado profunda.
• Mantener una buena salud y recuperarse de enfermedades, sin mandar los hospitales a la quiebra, requiere cada vez más depender del autocuidado de los pacientes.
• Ahorrar combustible y conducir de forma segura requiere un conocimiento básico de cómo funciona el motor de un auto, y cuáles son los síntomas de una posible falla.

Algunas de las mayores crisis que enfrentamos hoy en día son causadas o agravadas por el hecho de que estamos ocultando demasiada información en nombre de la “simplicidad”. Estamos cada vez más separados de subsistemas que son vitales para nosotros. La opacidad completa es un mal diseño, a veces intencionalmente. Los sistemas usables tienen una capa externa transparente y formas de interactuar con las capas internas progresivamente.

La forma en que se aborda o ignora este problema de información, refleja estructuras de poder previas a la era de la información. De hecho, tienden a fomentar una mayor opacidad: en vez de transparencia y acceso a la información, vemos más y más capas de especialistas, representantes y reguladores que se supone cuidan de nuestros intereses y nos mantienen a salvo:

• Las empresas de producción de alimentos luchan con uñas y dientes contra cualquier iniciativa para ampliar la información que se entrega a los consumidores. En lugar de ello, fomentan comités liderados por la industria que determinan lo que es bueno para nosotros.
• En lugar de implementar la transparencia de forma predeterminada, la mayoría de los gobiernos implementan transparencia previa solicitud, a menudo detrás de un laberinto burocrático.
• La supervisión al sistema financiero, tal como se aplica ahora, nos obliga a confiar ciegamente en las mismas personas que no pudieron evitar las previas crisis bancarias.
• La única información que tenemos acerca de los productos farmacéuticos es publicidad que nos anima a usar los medicamentos más nuevos.
• Los sistemas de diagnóstico de automóviles están ocultos tras sistemas propietarios que hacen el mantenimiento imposible o artificialmente más caro.

Los profesionales que creamos sistemas de computación y procesamiento de información tenemos nuestra parte de responsabilidad en esto. No sólo diseñamos grandes partes de estos sistemas: creamos las metáforas erróneas que dan forma a las industrias y cambian las expectativas de los usuarios.

En particular, estamos animando a la gente a creer que la ignorancia es algo bueno. Los sistemas donde los usuarios “no tienen que preocuparse de nada” deberían suscitar sospecha, no alabanza. A medida que el mundo se vuelve más complejo y la gente tiene una comprensión proporcionalmente menor de lo que sucede a su alrededor, debemos permitir y fomentar la exploración.

Un marco posible para lograr esto es lo que Jonathan Zittrain llama sistemas generativos, pero hay mucho más que eso. El punto de partida, en mi opinión, es darse cuenta de que a toda una generación se le está impidiendo activamente entender los sistemas que existen a su alrededor. Esto es un gran paso hacia atrás. La gente aprende acerca de los sistemas a su alrededor usándolos, y muchos estamos en la posición de diseñar sistemas que pueden ayudar a que este aprendizaje suceda.