El mito de la tecnología neutral

O cómo las tecnologías terminan funcionando de acuerdo a su diseño

Lo hemos visto toda estas semanas. Asumimos que el problema de Twitter o Facebook (ver envío anterior del Submarino Amarillo) no viene de las propias herramientas, sino que el problema es el uso que se les da a las mismas. “El problema”, cuenta la leyenda que se repite de cuando en cuando, “no es el arma, sino quién la empuña”. De allí que, desde cierta mirada, se promueva acríticamente el uso de tecnologías como la del Deep Fake (que vimos en otro envío anterior); el uso de aplicaciones como Waze o Google Maps para que estas nos digan por dónde ir en la ciudad (cuando no, que solucionen el problema del tráfico); o sino el uso de organismos genéticamente modificados para que estos puedan solucionar los problemas de las plagas, el hambre y el cambio climático. Frente a los problemas del mundo, la tecnología y la ciencia al rescate.

Es una idea atractiva. Es el mito del gólem: creas una herramienta hecha de barro, una herramienta sin alma, pero es el humano el que (con las órdenes equivocadas) genera dolor y pena.

Golem

Foto: Golem de Poznan

El problema de enfoques de este tipo es que obvian el mundo en el que esas herramientas existen. ¿Es posible hablar de un arma de fuego, sin entender la industria de las armas, del negocio de las armas, de la publicidad para su compra? ¿Sin entender los lobbies que existen para que estas se encuentren al alcance de las personas? ¿Es posible entender el desarrollo de los organismos genéticamente modificados, sin entender el mundo cultural creado a partir del desarrollo de las patentes?

Regresemos a Facebook y Twitter. ¿Era posible avizorar lo que devino Facebook (un espacio donde los fake news promovidos por ultra derechistas encontraron nicho) desde su nacimiento (cuando era un sitio para que varones blancos universitarios “le den” un puntaje a las mujeres de su centro de estudios)? ¿Twitter, también creado por hombres blancos de clase media alta, pudo haber previsto lo que terminó, creando a ese monstruo llamado Trump Presidente? Sí y sí. Esas son las respuestas que plantea Mike Monteiro, diseñador en su libro Ruined by design. Estas empresas como Twitter pero también como Uber entre otras que surgieron en los últimos años, argumenta, Monteiro tienen defectos de fábrica. Se plantean como soluciones a ciertos problemas, pero: 1. Fueron hechas por hombres blancos, de clase media alta, que nunca han sido discriminados ni fuertemente explotados, por lo que nunca pusieron “llaves” o candados a sus productos para evitar que personas distintas a dicho perfil pudieran ser afectadas; 2. Conforme van creciendo, argumenta Monteiro, se vuelven como adictos al crack. Van ajustando parámetros, algoritmos, todo para servir a los nuevos inversionistas (generalmente gente de mucho dinero, y con posiciones políticas bastante conservadoras). Si desde el inicio no hubo preocupación por las personas que pudieran ser afectadas, cuando estos emprendimientos comienzan a crecer se vuelve casi imposible hacerlo.

Foto: Donald Trump reunido con Jack Dorsey, jefe y fundador de Twitter

Podemos aplicar el mismo principio a las políticas públicas. ¿Un sistema jurídico que no prevé que las acusadoras al sistema nacional de salud hablan quechua y que por lo tanto se necesita un intérprete durante la audiencia? No es solamente una anécdota o un tema de un funcionario al que “se le pasó” no tener dicho intérprete. Es porque el sistema está diseñado así desde el inicio. Es porque quienes diseñaron el sistema no pertenecen al sector al cual van a afectar. La Constitución de 1979 representó un avance con respecto a las anteriores porque por primera vez se incorporaba a las personas que no saben leer ni escribir como votantes (y así a miles de personas fueron reconocidas como electoras). Pero tanto dicha Constitución como la de 1993 fueron hechas otra vez por un sector de la población, sin pensar cómo este diseño podría afectar a personas que no comparten dicho perfil (no castellano hablantes, mujeres pobres, personas no cisgénero).

Pero hay diferencias con Silicon Valley y sus voceros. Las empresas que allí surgen tienen vocación de transformar el mundo. Son, inicialmente, pequeñas empresas que se proponen solucionar un problema que consideran fundamental, hasta que, como el personaje del Viaje de Chihiro, buscan glotonamente comerlo todo.

Incorporar un enfoque crítico a las herramientas digitales y mirarlas mucho más allá de una supuesta neutralidad es siempre un primer paso. El siguiente es el de la soberanía tecnológica, pero eso lo podemos dejar para otro envío.