“El dilema social”, el documental de Netflix que muestra a las redes sociales como siniestras

Read the English translation of this article – The Social Dilemma, the Netflix Documentary That Reveals Social Networks as Sinister

Netflix incluyó en su lista de documentales uno nuevo y muy interesante titulado en Inglés “The Social Dilemma” o “El dilema social”, en Español. El documental trata sobre como las redes sociales se han especializado de tal manera que son capaces de predecir los gustos de sus usuarios con el fin de desplegar publicidad pagada por sus clientes.

La documental presenta entrevistas con Tristan Harris, el supervisor de diseño ético de Google y cofundador del Center for Humane Technology, Aza Raskin, cofundador de Asana y cocreador del botón Me gusta de Facebook, Justin Rosenstein, profesor de la Universidad de Harvard Shoshana Zuboff, el ex presidente de Pinterest Tim Kendall, la directora de investigación de políticas de AI Now Rashida Richardson, la directora de investigación de Yonder Renee DiResta, la directora del programa de becas de medicina de adicciones de la Universidad de Stanford Anna Lembke y el pionero de la realidad virtual Jaron Lanier.

Un giro interesante en este programa es que alterna las entrevistas con recreaciones dramáticas que ejemplifican como las redes sociales afectan a sus usuarios.

De todos es sabido que las aplicaciones como Facebook, Twitter, You Tube, Pinterest, y todas las demás de una forma u otra usan la infomación recopilada de sus usuarios para algo más que publicarla en su website o compartirla con otras personas. Pero no se trata solo de guardarla y venderla a alguien que quiera tener direcciones de email para enviar publicidad. La información recopilada ayuda a los sistemas de inteligencia artificial de estas plataformas a hacer un perfil de la personalidad y los gustos de cada usuario de manera individual.

Esto no es tan sorprendente en realidad. Cualquier usuario que sea lo suficientemente observador podrá darse cuenta de que Facebook, Twitter, y YouTube siempre presentan contenido que parece estar relacionado con los perfiles, videos, o tweets leídos con anterioridad. Cualquiera que haya reproducido música en YouTube sabe que después de escuchar esa primera canción, YouTube se encargará de reproducir otras más que estén relacionadas con ese primer tema musical. Las siguientes canciones podrán ser del mismo artista, luego vendrán canciones del mismo estilo, luego variaciones de ese estilo, y otros artistas que interpreten la misma música. Es como si un Dj que conociera el gusto del usuario tal como si fuera el suyo propio se estuviese encargando de seleccionar las canciones. Lo mismo ocurre si el video tiene que ver con algún programa de TV que la persona desee ver, o un tema específico. Si el usuario empezó por ver videos sobre teorías de la conspiración, aparecerán más y más videos sobre el mismo tema.

Este es un simple ejemplo para mostrar como estos sistemas se han vuelto sumamente especializados y predicen el contenido que queremos consumir basados en lo que hemos consumido anteriormente. Por eso es que Facebook nos puede hacer sugerencias de posibles personas conocidas para agregarlas a nuestra listas de amigos. Las páginas que visitamos fuera de las plataformas también son conocidas por los sistemas de IA de las redes. Seguramente algún lector se haya dado cuenta del hecho de que luego de consultar una página en Internet sobre cualquier tema, aparecen banners junto a los videos de YouTube que tengan que ver con ese mismo website o uno similar.

Esto no tendría nada de malo, en principio, si solo se tratara de banners o publicidad que los sistemas nos quieran mostrar. El punto es que, según el documental, ese comportamiento de las redes sociales y este constante enfoque en lo que los usuarios quieren ver para ofrecerles contenido similar junto a la publicidad no solo coarta la posibilidad de libre elección que una persona tiene, sino que comienza a modificar la manera de pensar y el comportamiento de la persona, incluso con las características de una adicción.

Esta tecnología es de libre uso para cualquiera que esté dispuestas a pagar por ella. Esto es potencialmente peligroso ya que en manos de los individuos equivocados, estas herramientas de rastreo de la conducta en que se han convertidos las plataformas de redes sociales pueden modificar el comportamiento de naciones enteras. Al menos, esto es lo que los entrevistados sugieren en el documental. En particular hablan del suceso ocurrido en Myanmar donde se sospecha que las redes sociales fueron utilizadas para provocar el rechazo de la población en contra de musulmanes Rohingya. En 2019, Reuters reportó que Facebook había cerrado 89 cuentas de Facebook, 107 páginas, 15 grupos y cinco cuentas de Instagram, algunas de las cuales tenían cientos de miles de seguidores. Algunas de estas cuentas estaban vinculadas, según Facebook, a elementos que deseaban “manipular o corromper el debate público”.

Otro punto importante es como, según el documental, se ha detectado un aumento en los comportamientos auto-agresivos y suicidios en pre-adolescentes y adolescentes vinculados al bullying y otros comportamientos similares. También se menciona una nueva clase de conducta llamada “dismorfia de redes sociales” o “dismorfia selfie”. Las personas que tienen este comportamiento buscan la ayuda de cirujanos plásticos para operarse y parecerse lo más posible a las imágenes que producen al tomarse una foto con su celular y aplicarle algunos de los filtros digitales que mejoran su apariencia.

Este documental se puede ver en Netflix actualmente.

Read the English translation of this article – The Social Dilemma, the Netflix Documentary That Reveals Social Networks as Sinister