Polarización, altos índices de depresión en adolescentes, superficialidad, pérdida de la capacidad de atención, adicción a la tecnología. Siempre que hablamos de esto echamos la culpa a la educación, a la sociedad o la estupidez humana pero, ¿y si toda la tecnología que usamos estuviera diseñada para provocar esos síntomas?

Eso es lo que aseguran algunos antiguos empleados, inversores y socios fundadores de grandes empresas tecnológicas, como el mismísimo Steve Wozniak, cofundador de Apple, o Roger McNamee, inversor temprano de Facebook y asesore de Steve Jobs, que están uniéndose para cambiar la manera en la que algunas empresas tecnológicas se están aprovechando de las vulnerabilidades humanas para extraer nuestro tiempo y atención, aplicando métodos de persuasión para manipular nuestro comportamiento.

¿Cómo de rota está internet?

Para hacernos una idea del problema basta con conocer algunos datos. Los síntomas se pueden notar en la reducción de la capacidad de atención, la superficialidad, la polarización y el enfrentamiento.

La capacidad de atención de los baby boomers era de 12 minutos. Con los millennials eso se redujo a 12 segundos pero ahora se calcula que los centennials tienen una capacidad de atención de unos 8 segundos. Menos de lo que dura una story de Instagram.

Según un estudio reciente pasamos una cuarta parte de nuestra vida en alguna red social y mientras que en 42 años, desde 1971 hasta 2013, el momento en el que nacen las redes sociales, el índice de mujeres jóvenes con síntomas de depresión profunda varió de un 17% a un 21%, desde entonces a 2017 se ha disparado a un 29%. El doble en casi 40 años menos. 

Ahora mismo se habla de adicción a la tecnología, odio en redes sociales, superficialidad y polarización y la conversación suele acabar con que el problema es la gente cuando, si analizamos los incentivos que mueven el diseño de las aplicaciones y los dispositivos que usamos, el funcionamiento de la economía de la atención y la naturaleza humana, descubriremos que algunas de las mentes más brillantes, y hablamos de psicólogos, sociólogos, ingenieros, biólogos, economistas del comportamiento y data scientists, están trabajando y siendo remunerados para conseguir que nos comportemos de esta manera.

Algunos efectos son provocados, como por ejemplo la atención que dedicamos a nuestros dispositivos, o el tiempo que pasamos en redes sociales, mientras que otros, como la superficialidad o la polarización, son efectos secundarios de lo que se conoce como sistemas sociales artificiales.

Por una tecnología más humana

Tristan Harris, ex diseñador de Google, hizo una presentación que se viralizó en la compañía. En ella compartía su preocupación por la manera en la que se diseñaban los interfaces de usuario, o sea, las pantallas, los iconos, los sonidos y todo aquello con lo que interactuamos cuando usamos una app, para distraernos y que estaba creando un efecto negativo en las personas y en la sociedad.

El artículo captó la atención de sus jefes, que le nombraron design ethicist, algo así como supervisor ético de diseño, pero a nivel práctico no consiguió cambiar nada en la compañía hasta que salió de ella. 

En principio, Harris no parecía haber descubierto nada nuevo. El objetivo de estas empresas, como cualquier otra que se quiera comunicar, es conseguir nuestra atención. Hasta hace unos años la televisión lo hacía poniéndonos anuncios muy currados, la radio subía el volumen o los periódicos se llenaban de colores e ilustraciones para hacerlo. The Attention Merchants, el libro de Tim Wu, describe bien las estrategias de los mercaderes de la atención, pero todo ha cambiado desde entonces y conseguir nuestra atención no es tan importante como hacernos adictos a ella.

La tecnología persuasiva

En centros como el laboratorio de tecnología persuasiva de Stanford, dirigido por B.J. Fogg, buscan la manera de condicionar el comportamiento humano usando técnicas psicológicas inspiradas en los experimentos de Skinner, la psicología evolutiva, la economía del comportamiento, las máquinas tragaperras e incluso los trucos de magia.

Cuando pasamos horas interactuando con nuestros dispositivos, lo que hacemos es enviar datos precisos de lo que nos gusta, lo que no, lo que nos enfurece y lo que nos conmueve. Los instintos humanos de lucha o huída son las reacciones más fuertes y sobre las que menos control tenemos de nuestro cerebro. No hay mucho que podamos hacer cuando nos encontramos ante situaciones que nos provoquen esa respuesta y eso es precisamente la reacción que buscan los diseñadores de estos interfaces.

Roger McNamee los explica en el minuto 5:25 de este vídeo publicado hace tan solo unos días.

Gracias a enormes bases de datos (que nosotros mismos alimentamos mientras nos entretenemos con nuestros móviles y tablets), una red de inteligencias artificiales y la supervisión de equipos de ingenieros y psicólogos, estas empresas no solo son capaces de sugerir a los usuarios que se entretengan unos minutos más viendo fotos o vídeos, lo que hacen es reducir nuestro libre albedrío.

Millones de “tús” que no sabías que existían

Como trabajador de Google hasta 2016, Harris conoce bien el funcionamiento de YouTube y cuenta uno de los casos más escalofriantes de manipulación del comportamiento. Él los llama muñecos vudú digitales.

¿Cuántas veces te has metido en YouTube pensando que solo ibas a ver un vídeo y te has encontrado una hora más tarde preguntándote cómo pasaste de ver un vídeo de La Resistencia a acabar viendo una teoría extrañamente convincente de que la Tierra es plana? La culpa no es tuya, sino de tu “yo” digital.

De cada uno de nosotros YouTube crea una réplica digital. Un golem algorítmico construido gracias a todos nuestros likes, nuestros comentarios, los vídeos que hemos visto y los que nos hemos saltado que reacciona tal y como considera que reaccionaríamos nosotros, según nuestro comportamiento en la plataforma, a los vídeos que YouTube le reproduce.

Esto ocurre incluso mientras estamos desconectados de YouTube. Cuando dejamos de ver lo que estuviéramos viendo, YouTube continúa enviando vídeos a esta IA que nos replica para que, cuando volvamos a conectarnos, solo se nos recomiende lo que más le ha interesado a nuestro yo digital. 

@tuchi_studio

Y es normal que pensemos que nosotros no somos tan manipulables como para que un avatar digital sepa lo que nos gusta y lo que no, pero cuando te pasas la cuarta parte de tu vida diciéndole a alguien lo que te gusta y lo que no, es muy probable que sepa manipularte.

Según Harris, esto ha colonizado nuestras decisiones porque de las mil millones de horas que se ven diariamente en YouTube, un 70% son de recomendaciones. Es decir, solo un 30% de lo que vemos es lo que nos proponíamos ver. El resto, nos lo ha inyectado YouTube.

Radicalización del todo

Pero tal vez pienses que no hay nada grave en que recibamos lo que nos gusta. Al fin y al cabo, es lo que hizo millonarios a los fundadores de Google. Dar le a la gente solo la información que les resulta relevante.

Pero ¿qué pasa cuando nuestros intereses se vuelven obsesiones o nuestra ideas se convierten en convicciones fanáticas? Las personas que antes habrían salido a correr ahora hacen Iron Mans. Los vegetarianos son veganos y, gracias a Facebook, muchas madres primerizas que se unieron a grupos de otras madres acabaron por unirse al movimiento antivacunas. Para hacernos ver más contenido, YouTube, Facebook y las demás, recomiendan lo más extremo de lo que nos interesa.

Si ves un vídeo de un aterrizaje de la NASA, te recomienda teorías terraplanistas; si ves vídeos del 11S te recomienda teorías de la conspiración. YouTube ha sido la catapulta del nuevo movimiento terraplanista y si crees que no existen, o son trols de internet, alucina con lo que te voy a decir: tengo un amigo de toda la vida que duda de que la Tierra sea esférica y está convencido de que la NASA miente en todo lo que dice.

Sería gracioso o anecdótico sino fuera porque esta radicalización de lo mundano explica muy bien la polarización política y social. Cualquiera sería capaz de convencer a un terraplanista de que está equivocado, el problema es que no están dispuestos a escuchar a nadie que no comparta su delirio.

¿Y ahora qúe?

Eesto no solo pasa con YouTube o Facebook, está instaurado en el diseño de la mayoría de las plataformas y cuantos más recursos tienen para destinarlo a diseñar “tecnología persuasiva”, más extractivos son.

Crédito: MIT

Por eso se ha creado un movimiento disidente de antiguos empleados, inversores y emprendedores de Silicon Valley que están señalando el problema e intentando devolver la humanidad a la tecnología. El centro para la tecnología humana es uno de ellos.

Fue Tristan Harris quien acuñó el término de time well spent (tiempo bien invertido) del que se apropió Zuckerberg poco antes de saltar los escándalos de Cambridge Analytica y todo lo que le siguió.

Lo que quieren es establecer unas bases de diseño que se puedan aplicar fácilmente a cualquier plataforma o servicio, y que sirva para amplificar las capacidades humanas en lugar de aprovecharse de nuestras vulnerabilidades.

Roger McNamee, uno de los inversores tempranos de Facebook y otras compañías, con más de 35 años de experiencia, y asesor de Bill Gates, Steve Jobs y otros, está en el mismo bando. Se ha dado cuenta del daño que están haciendo estas compañías y ha saltado del barco para enfrentarse a ellas abiertamente.

McNamee lo deja claro: gracias a la desregulación del mercado en América, Facebook ha creado un producto global mediante el cual ha atraído a una red de miles de millones de personas para acaparar su atención y, en sus palabras, manipular su comportamiento.

Mientras tanto, Zuckerberg, Adam Mosseri y otros miembros de plataformas tecnológicas dicen que están empezando a prestar atención a estos asuntos y empezarán a tomar medidas. Una de ellas es la que ha tomado Mosseri experimentando con un Instagram sin likes en grupos de control de 7 países, pero sospecho que los motivos reales de esa decisión son muy diferentes a los que alegan públicamente.

Lo que está fuera de toda duda es que el movimiento del diseño ético está consiguiendo crear conciencia. En los pasillos de las empresas se empieza a hablar de lo que ocurre y se despiertan sentimientos de autocrítica a la vez que el público empieza a descubrir el verdadero poder de las aplicaciones que usamos a diario.

Hace poco compartimos un post con consejos para hacer tu teléfono menos inteligente pero más saludable que te podría ayudar a modificar tu relación con la tecnología extractiva.

Así que ya sabes, la próxima vez que te sientas mal por pasar 3 horas mirando Instagram cuando solo querías mirar una notificación, date cuenta de que no es solo culpa tuya. Hay una legión de cerebros trabajando para que lo hagas, por eso es momento de encontrar las herramientas para combatirlos.