Reseña.
“The social dilemma” (Jeff Orlowski, 2020), en su título original, nos advierte del uso que hacen las grandes corporaciones tecnológicas de nuestros datos personales y cómo utilizan técnicas sofisticadas de persuasión para mantener nuestra atención constante a los dispositivos.
Continúa analizando, con datos estadísticos, el efecto de esta adicción inducida en el deterioro alarmante de la salud mental, especialmente en niños y adolescentes. Menciona otros problemas como la creación de perfiles personalizados y cómo éstos contribuyen a la segmentación social y a la desinformación. Y finalmente, cómo el sesgo cultural de los creadores influye en los algoritmos usados para el desarrollo de aplicaciones de inteligencia artificial, los cuales recrean y refuerzan patrones derivados de una cultura que prima el beneficio privado por encima de todo.
Es interesante porque cuenta con voces autorizadas, antiguos creadores y desarrolladores de empresas como Google, Twitter, Facebook o Instagram, que nos cuentan de primera mano cómo empezó el desarrollo de estas tecnologías y cómo ellos mismos decidieron dar un paso a un lado por motivos éticos cuando fueron conscientes de cómo se estaba conformando la industria.
El documental es riguroso aunque a veces tiene cierto sesgo al enfocar algunas cuestiones. Por ejemplo, mientras nos alerta de las fake news y la divulgación de teorías conspirativas como la terraplanista, nos cuenta, como hechos probados, las teorías de la injerencia rusa en las elecciones de EEUU en 2016. O que mientras nos habla de la importancia del razonamiento crítico nos advierte de los peligros de estar politizado (radicalizado según su punto de vista) y acudir a una manifestación (los que hayan visto el documental sabrán a lo que me refiero). No llega a ser sensacionalista, porque la narrativa es didáctica en general, pero sí puede ser algo dramática en ocasiones.
Aún así, creo que tiene un buen grado de profundidad y contenido y está muy bien narrado desde el punto de vista cinematográfico. Si podemos hacer una crítica, yo diría que le falta algo de contexto y ampliar más el espectro. Entiendo que es imposible reflejar en una cinta de hora y media todo lo que implican las cuestiones que plantea, y que hay que centrarse en al menos dos o tres aspectos importantes, que son los que al final ayudan al espectador a entender sus tesis. Pero personalmente echo en falta un poco más de crítica política.
Me refiero a que no llegamos a ver de dónde provienen esas sombras chinescas que vemos en la cueva. Parece que nos sientan en un sofá para revelarnos algo importante pero no nos ofrecen las pastillas. ¿Dónde está la pastilla roja y qué pasa si me la tomo? ¡quiero saber más!
- “recuerda, lo único que te ofrezco es la verdad, nada más”. [foto: "Blue pill or the red pill" by pinkangelbabe is licensed under CC BY-NC-ND 2.0 ]
Saber la verdad en la era de la posverdad, tal y como argumenta la película, se augura aún más complicado. Aun así, ver este documental le hace a uno darse cuenta de hasta dónde llega ya La Matriz y de lo inmersos que estamos en ella y del poco control que tenemos a pesar de todas las ventajas que también ofrece.
Creo que lo que nos cuenta no sólo es consecuencia del interés desaforado por el lucro de las grandes tecnológicas, creo más bien que es un síntoma de algo mayor. Algo que tiene que ver con el propio sistema económico, con la acumulación de poder y con el control del mercado. Además entran en juego cuestiones como la geopolítica, pues este es un sector estratégico (reflexionemos sobre dónde se encuentran esas granjas de servidores informáticos que analizan los datos, físicamente), que busca expandirse hasta todos los rincones del planeta y que los usuarios tengan que pasar por usar sus sistemas operativos y aplicaciones de un modo u otro. Pensemos que en las dos últimas décadas las grandes tecnológicas se han posicionado las primeras en el ranking, por encima de las del sector del petróleo, por ejemplo.
En el plano personal vivimos ciertamente vidas paralelas, y la de la simulación virtual toma cada vez más espacio en nuestro día a día que la del mundo real.
Recomendable verlo, y si es posible, con el móvil apagado.
Análisis y algunas reflexiones.
Quiero apuntar aquí en detalle los temas que se abordan, y compartir algunas preguntas y reflexiones personales al respecto. Para lo cual he de extender bastante este artículo. Para quien tenga interés en continuar leyendo lo he dividido en varios puntos:
- Excesos (en realidad quieren decir Capitalismo).
- No logo.
- Adicción y manipulación: mi profesora tenía razón.
- Un sistema basado en la explotación.
- Fake news, propaganda y desestabilización política.
- Internet.
- (no) Es una herramienta.
- Skynet toma consciencia.
Excesos (en realidad quieren decir Capitalismo).
Hay una cosa que no me termina de convencer de la narrativa del documental y es la forma de presentarte los problemas, como si no tuvieran origen o antecedentes. Lo que no dice abiertamente es la palabra capitalismo con todas sus letras y connotación. Lo tiene en la punta de la lengua, le arde, le quema, pero no termina de explicitarlo. Tal vez para no asustar al público objetivo americano con ideas “extremistas”. Tal vez porque ello derivaría en una crítica rupturista que ellos no propugnan.
Es importante centrar el foco aquí. De qué estamos hablando, de la tecnología que toma el control sobre nuestras decisiones, de las tácticas para atraer nuestra atención y mandarnos mensajes personalizados basados en los intereses de un emisor cuya motivación es únicamente el beneficio económico. De tratar a los seres humanos como mercancía, de la desregulación y falta de transparencia, de la manipulación en todas sus variantes. Muy bien pero ¿ es esto consustancial al sistema, sí o no? Nos cuentan el modelo de negocio de las compañías tecnológicas, y sin embargo, en la descripción del status quo se ignoran los cimientos, el hormigón y el forjado que aguanta los pilares de este gigantesco edificio llamado capitalismo ¿de qué está hechos, pues, para ser tan fuertes?
¿No es acaso todo lo que cuenta, simplemente consecuencia de la visión mercantilista del mundo? ¿de valorar objetos, cualidades o personas como bienes de cambio para un beneficio privado, ajeno a cualquier interés común? ¿ A la explotación de unos seres humanos por otros y del lucro a cualquier precio dentro y fuera de las redes?
Hago hincapié en este asunto porque entiendo que se obvian las características clave que hacen que el sistema funcione de una determinada manera. Y si lo que quieren es proponer una alternativa deberían empezar por describir fielmente los problemas del modelo actual como algo sistémico, que tiene un nombre y unos fines, y no como la mala praxis de una industria.
Hay un momento en el que uno de los entrevistados dice:
- “Debemos aceptar que está bien que las empresas busquen ganar dinero. Lo que está mal es que no haya normas, reglas ni competencia y las empresas actúen como gobiernos de facto”
¿Se trata tal vez, por estas características, de buscar un giro hacia la socialdemocracia? ¿Algo que simplemente atenúe los excesos del gran capital? ¿O a lo mejor se trata de, como diría Sarkozy, refundar el capitalismo?
No logo.
En el mundo en que quieren que vivamos cualquier cosa es susceptible de ser un negocio, ése es uno de los problemas de raíz.
Las aplicaciones que se desarrollan dentro un sistema se circunscriben a su lógica. Desde esta perspectiva generan las mismas virtudes o, en su caso, defectos. El consumismo, el culto a la moda fugaz, el crecimiento infinito, etc. Por ejemplo, el diseño de aplicaciones como Tinder acaba por crear relaciones personales de usar y tirar, de una visión humana como objetos de consumo individual, u otras como Deliveroo para perpetuar la cultura de la inmediatez. No es que no respondan a necesidades, sino que se diseñan con un sesgo cultural. Son valores ligados al mercado, a una concepción materialista entendida como el culto al objeto, a la marca, al logo.
Como cantaría Kevin Johansen “Todo tiene Logo, até, até logo. Su tío, mi hermana, tu abuela...já tem Logo. Si no tiene Logo, falta poco, saravaravá!” - (Logo videoclip)
Adicción y manipulación: mi profesora tenía razón.
Me gustaría contar aquí una anécdota personal. Cuando estudiaba en la universidad tenía un conocido estudiando aeronáutica, que contaba la pasión con la que algunos de sus compañeros veían la tecnología de los misiles de guerra y cómo querrían especializarse algún día en ello. Lo que le sorprendía no era la fascinación por la tecnología en sí misma, sino que no se llegaban a plantear preguntas morales más allá del desarrollo técnico, despejando los usos del propio misil de la ecuación. Algo parecido me ocurrió a mí en otro nivel (al parecer no menos importante) en el primer año de carrera. En una asignatura de publicidad, la profesora nos explicaba las tácticas del márketing. Nos enseñaba cómo se aplicaban los estudios en psicología en técnicas para atraer la atención del cliente, desde las más evidentes a las más sofisticadas. La disposición de los productos en el supermercado, los olores que identifican cada tienda, el bombardeo mediático, el product placement, el lenguaje visual retorcido, en resumen: el arte del engaño.
Recuerdo que la escuchaba atónito. Lo que más me sorprendía era ver ese el brillo en sus ojos, la pasión descarnada con la que lo contaba ¡le encantaba aquello! y veía cómo a muchos de mis compañeros de clase les ilusionaba también. A mí me horrorizaba.
Existe una industria especializada en torno a la manipulación y a la adicción (a generarla). El uso de ingredientes y sustancias adictivas en los productos alimenticios es algo estudiado metódicamente y se lleva haciendo y perfeccionando desde hace décadas, así como los estímulos visuales en televisión o los juegos de azar, etc. El hecho de que la publicidad sea el motor económico de las redes sociales no es sino la traslación de esas tecnologías a un nuevo medio en el que pueden ser odiosamente más sofisticadas si cabe.
Un sistema basado en la explotación.
Hacia el final del documental hay una entrevista a un hombre llamado Justin Rosenstein, antiguo desarrollador de Google y de Facebook, que me gustó mucho y transcribo al completo aquí:
- “Vivimos en un mundo en el que un árbol vale más, económicamente, muerto que vivo, en un mundo en el que una ballena vale más muerta que viva. Mientras la economía funcione así y las corporaciones no se regulen van a seguir destruyendo árboles, matando ballenas, explotando la tierra y sacando petróleo del suelo aunque sepamos que destruye el planeta y que dejará un mundo peor para las generaciones futuras.
- -
- Piensan a corto plazo por la religión del lucro a toda costa, como si el que cada empresa actúe bajo su propio interés produzca el mejor resultado. Esto ha afectado al medio ambiente por largo tiempo. Lo que es aterrador, y nos hará despertar como civilización sobre lo errónea que ha sido esta teoría es ver que ahora nosotros somos el árbol, somos la ballena.
- -
- Pueden explotar nuestra atención. Somos más rentables para una empresa si pasamos más tiempo mirando una pantalla, mirando un anuncio, que si aprovechamos ese tiempo viviendo nuestra vida de una manera más enriquecedora. Y vemos los resultados de ello. Vemos corporaciones que usan poderosas inteligencias artificiales que nos sobrepasan en inteligencia para engañarnos y ver cómo captar nuestra atención para que veamos lo que ellos quieren en vez de lo que encaja con nuestras metas, nuestros valores y nuestras vidas.”
Creo que expresó el problema muy bien. Pero le faltó decir que el árbol o la ballena ya lo eran los humanos de mucho antes, sólo que… los de otra clase. Hay que hablar de clases, hay que hablar del tercer mundo.
Mientras explotaban a los demás parecía que no nos concernía, pero ahora que la explotación abarca un espectro tan amplio con estas tecnologías es cuando nos damos cuenta de lo injusto del sistema. Pero no existe este sistema sin explotación, porque es precisamente por ello por lo que funciona.
Fake news, propaganda y desestabilización política.
Sobre este aspecto me quedo con una frase que creo resume a la perfección el problema de la segmentación y la objetividad. Lo dice Jaron Lanier, ingeniero informático y pionero de las tecnologías de realidad virtual. Y se refiere a ello como una wikipedia personalizada:
- “Ahora imagina por un segundo, que Wikipedia dice: ‘vamos a dar a cada persona una definición diferente personalizada, y nos pagarán por ello’. Así que Wikipedia te espiará y calculará que puede hacer para que esa persona cambie por algún interés comercial. Y luego cambiará la entrada. ¿te imaginas? Pues deberías poder hacerlo porque eso es exactamente lo que pasa en Facebook, es exactamente lo que pasa en tu ‘feed’ de Youtube”.
Y quien dice publicidad, dice propaganda política, claro. Y en eso estamos.
Internet
Una de las entrevistadas, Bailey Richardson, desarrolladora del equipo inicial de Instagram, dice en un momento dado:
- “Internet era un sitio raro, de locos. Era algo experimental. Ha habido cosas creativas en Internet, y aún las hay, pero es que… parece un centro comercial gigante ¿sabes? Para mí es cómo: Dios, tiene que haber algo más que eso”
¿Alguien dijo software libre? No se nombra ni una palabra aquí, y debería ser algo central, no ya en el uso práctico, sino en la filosofía y política detrás de ello. Este asunto merecería un artículo aparte.
Supongo que internet antes era así porque el acceso era limitado a gente con conocimientos técnicos que no tenían ánimo de lucro y lo veían como una oportunidad de compartir conocimiento o información. Aún no habían descubierto la forma de extraer beneficio económico. Pero en cuanto vieron el filón entraron con todo.
Yo me imagino a veces el mundo cibernético como un espacio físico y veo cómo los cowboys se reparten el terreno, masacran a los indios y empiezan a poner fichitas del monopoly por todos lados hasta hacer de ese vasto paisaje un bonito megacentro comercial. Ya no sólo es que te obliguen a pasar por él, es que te estrechan los límites de lo que puedes hacer al margen de eso. Si te alejas de ese foco poco menos que te sitúas en la clandestinidad.
(No) es una herramienta.
Me gustó mucho una frase de Tristan Harris, antiguo desarrollador de Google y principal voz del documental, que dice que la verdadera herramienta es pasiva. Somos nosotros las que le damos uso cuando la necesitamos, no ella la que nos usa a nosotros, reclama o manipula:
- “Hemos pasado de un entorno tecnológico basado en herramientas a uno basado en la adicción y manipulación. Eso es lo que ha cambiado. Las redes sociales no son una herramienta que espere ser utilizada. Tienen sus propios objetivos y sus propios medios para perseguirlos usando tu psicología contra ti”.
Para mí, esto es la pura definición de la informática “personal”. El problema de estas aplicaciones activas no es sólo que te traten como a un idiota, es que no te hacen caso. Tienen su propia agenda.
Cuántas veces no estamos delante de una pantalla y gritamos para nuestros adentros de rabia porque no hace lo que queremos que haga o nos molesta con notificaciones. Los ordenadores no reciben nuestras órdenes. Nos quitan el control de nuestra herramienta. Ella nos usa a nosotros (cuando digo ella, digo los intereses de los desarrolladores). No es que estén hechas para tontos, están más bien hechas para que tengas la interacción justa.
Empiezas por comprarte algo que ni siquiera te pertenece. Te obliga a registrarte para poder darle uso. Con respecto a la máquina, no podemos abrirla y cambiar los componentes sin más, no podemos repararla, y con respecto a las aplicaciones, los sistemas operativos nos limitan la configuración a lo que al fabricante quiera y con la dictadura de las actualizaciones. Nos obliga a pasar por el aro sí o sí. Y encima lo que te venden como herramienta no lo es. Por poner un ejemplo paradigmático: ¿no es un ipad algo que compramos cuya única utilidad es comprar cosas? No es algo que sirva para hacer algo productivo ( hay alguna excepción) pero no es una herramienta de trabajo. Es un centro comercial ambulante, por el que además tenemos que pagar el local y los gastos de suministros. Es una necesidad creada.
Skynet toma consciencia.
La parte quizás más interesante del asunto de la minería de datos y la vigilancia masiva lo cuenta muy bien el documental, y es que estamos ante una nueva vuelta de tuerca. Ya no es que la herramienta nos limite ciertos aspectos, es que la herramienta en sí misma nos controla a nosotros.
Tanto es así, que los propios creadores de los algoritmos y de las Inteligencias Artificiales caen en sus propias trampas, porque la IA consigue evolucionar para adelantarse a sus movimientos. Es la definición más terrorífica de la idea del control por parte de las máquinas. Es como Kasparov jugando contra DeepBlue. Se adelantan a nuestros movimientos, aprenden lo que hacemos de tal modo que llevamos tiempo perdiendo la partida sin saberlo, porque sabemos lo que la IA quiere que sepamos. Maravillosamente espeluznante. Es una Skynet diferente a la que nos muestra la película Terminator.
El problema es que aplicamos al algoritmo los mismos sesgos culturales que tenemos en nuestra vida real. Por ejemplo, les damos objetivos que se basan en la eficiencia. Pero cómo definimos eficiencia, dependerá de quién esté escribiendo el software. Eficiencia significa una cosa para la compañía de seguros y otra distinta para el asegurado, y en estos momentos el asegurado no escribe el software.
No se puede luchar contra la máquina, el desarrollo tecnológico es imparable. Pero la solución, desde mi punto de vista, pasa por evitar que el motor de la economía sea el desarrollo privado y el beneficio del capital. Asegurándonos que los desarrolladores de nuevas tecnologías no vean el mundo de esta manera, la no mercantilización de la humanidad ni de los recursos fundamentales. No sólo son los datos, es… todo. La tecnología en sí misma no tiene ideología, es si acaso, la concepción de herramientas para un uso ideológico.
Los datos personales y nuestra intimidad no deberían ser objeto de negocio, son bienes tan fundamentales como el agua que bebemos. En una entrevista al director de Nestlé en 2005 para el documental “we feed the world”, éste decía:
- “(…) el agua es un alimento, y que como todo producto alimenticio debería tener un valor de mercado. Personalmente yo creo que hay que darle valor a un producto alimenticio para que todos seamos conscientes de que tiene un precio”.
Me pregunto qué opina Mark Zuckerberg al respecto.
Salud y recuerden que hay que acabar con la adicción a... oh, me ha llegado una notificación al móvil ¡me voy corriendo!