Cómo fue que YouTube radicalizó Brasil

El sistema de búsquedas y recomendaciones de YouTube parece haber desviado a usuarios de forma sistemática a los canales de extrema derecha en Brasil.

Max Fisher & Amanda Taub

Cuando Matheus Dominguez tenía 16 años, YouTube le recomendó un video que cambió su vida Estaba en una banda en Niterói, una ciudad rodeada de playas en Brasil, y ensayaba guitarra viendo tutoriales en línea.

Hacía poco tiempo, YouTube había instalado un poderoso sistema de inteligencia artificial que aprendía del comportamiento de los usuarios y juntaba videos con recomendaciones de otros canales. Un día, lo dirigió a un maestro de guitarra no profesional llamado Nando Moura, quien había ganado una gran cantidad de seguidores publicando videos sobre heavy metal, videojuegos y, sobre todo, política.

En diatribas coloridas y paranoicas de extrema derecha, Moura acusaba a las feministas, a los maestros y a los políticos tradicionales de llevar a cabo una gran cantidad de conspiraciones. Dominguez quedó cautivado.

A medida que pasaba más tiempo en el sitio, YouTube le recomendaba videos de otras figuras de extrema derecha. Uno era un legislador llamado Jair Bolsonaro, quien en aquel entonces era una figura marginal de la política nacional… pero una estrella de la comunidad de extrema derecha de YouTube en Brasil, donde la plataforma se ha vuelto un medio que se ve más que todos los canales de televisión menos uno.

El año pasado, se convirtió en el presidente Bolsonaro.

“YouTube se volvió la plataforma de redes sociales de la derecha brasileña”, comentó Dominguez, ahora un desgarbado muchacho de 17 años quien asegura que, también, planea buscar un cargo político.

Miembros de la extrema derecha recién empoderada de la nación —desde organizadores comunitarios hasta legisladores federales— aseguran que su movimiento no habría crecido tanto, ni tan rápido, sin el motor de recomendaciones de YouTube.

Una nueva investigación ha descubierto que podrían estar en lo correcto. El sistema de búsquedas y recomendaciones de YouTube parece haber desviado a usuarios de forma sistemática a los canales conspirativos y de extrema derecha en Brasil.

Una investigación de The New York Times en Brasil encontró que, una y otra vez, los videos que promueve el sitio han cambiado de una manera drástica elementos centrales de la vida diaria.

Los maestros describen salones de clase que se han vuelto indisciplinados a causa de estudiantes que citan videos conspirativos de YouTube o graban a sus profesores en secreto, alentados por las estrellas de derecha en la plataforma.

Algunos padres acuden a “Dr. YouTube” para obtener consejos de salud, pero más bien reciben desinformación peligrosa, con lo cual obstaculizan los esfuerzos de la nación por combatir enfermedades como el zika. Los videos virales han provocado amenazas de muerte en contra de defensores de la salud pública.

Y, en la política, una ola de estrellas derechistas de YouTube compitió por un cargo junto con Bolsonaro, y algunos ganaron por márgenes históricos. La mayoría sigue usando la plataforma, y gobierna la cuarta democracia más grande del mundo mediante el perfeccionamiento del troleo y la provocación en internet.

El sistema de recomendaciones de YouTube está diseñado para maximizar el tiempo que una persona pasa viendo videos, entre otros factores, según la empresa, mas no para favorecer alguna ideología política. El sistema sugiere qué ver después, y a menudo reproduce videos de forma automática, una misión interminable por mantenernos pegados a nuestras pantallas.

Sin embargo, las emociones que atraen a la gente —como el miedo, la duda y la ira— suelen ser características centrales de las teorías conspirativas y, en particular, según expertos, del extremismo de la derecha.

Debido a que el sistema sugiere videos más provocativos para mantener a los usuarios en el sitio, puede dirigirlos a contenido extremo que de otra manera tal vez nunca encontrarían. Además, está diseñado para guiar a los usuarios a nuevos temas a fin de despertar un nuevo interés: un beneficio para los canales como el de Moura que usan la cultura popular como una puerta hacia ideas de extrema derecha.

En la actualidad, el sistema maneja el 70 por ciento del tiempo total en la plataforma, aseguró la empresa. Mientras las audiencias se disparan a nivel mundial, YouTube está generando más de 1000 millones de dólares al mes, según algunos analistas.

Zeynep Tufekci, una académica especializada en redes sociales, lo llamó “uno de los instrumentos radicalizadores más poderosos del siglo XXI”.

Representantes de la empresa rebatieron la metodología de los estudios y aseguraron que los sistemas de la plataforma no privilegian ningún punto de vista ni dirigen a los usuarios hacia el extremismo. Sin embargo, representantes de la empresa admitieron algunos de los hallazgos y prometieron hacer cambios.

Farshad Shadloo, un vocero, señaló que YouTube ha “invertido grandes cantidades en las políticas, los recursos y los productos” para reducir la propagación de desinformación perjudicial, aunque agregó: “Hemos visto que el contenido autoritario es muy popular en Brasil y es uno de los contenidos más recomendados en el sitio”.

EL PARTIDO DE YOUTUBE

Maurício Martins, el vicepresidente local del partido de Bolsonaro en Niterói, le dio el crédito a YouTube por haber conseguido la “mayoría” del reclutamiento del partido, incluido el suyo.

Un día Martins estaba matando el tiempo en el sitio, recordó, cuando la plataforma le mostró el video de un bloguero de derecha. Lo vio por curiosidad. Le mostró otro, y luego otro más.

“Antes de eso, no tenía ningún antecedente de ideología política”, afirmó Martins, quien declaró que las recomendaciones de reproducción automática de YouTube fueron “mi educación política”.

“Así sucedió con todo el mundo”, mencionó.

La influencia política de la plataforma cada vez se siente más en las escuelas brasileñas.

“A veces estoy viendo un video de un juego y de pronto aparece un video de Bolsonaro”, comentó Inzaghi D., un estudiante de bachillerato de 17 años en Niterói.

Cada vez es más frecuente que sus compañeros hagan afirmaciones extremistas, y a menudo citen como evidencia a estrellas de YouTube como Moura, el guitarrista convertido en conspirador.

“Es la principal fuente de información para los chicos”, señaló.

Pocas personas ilustran la influencia de YouTube mejor que Carlos Jordy.

Musculoso y lleno de tatuajes —la mano izquierda tiene un cráneo en llamas con ojos de diamante—, Jordy se unió a la municipalidad en 2017 con pocas esperanzas de ascenso por medio de la política tradicional. Por lo tanto, se inspiró en blogueros como Moura y su mentor político, Bolsonaro, y se concentró en YouTube.

Jordy publicó videos en los que acusa a los maestros locales de haber conspirado para adoctrinar a los estudiantes en torno al comunismo. Los videos le brindaron una “audiencia nacional”, dijo, e impulsaron su ascenso asombroso, tan solo dos años después, a la legislatura federal.

“Si no existieran las redes sociales, no estaría aquí”, admitió. “Jair Bolsonaro no sería presidente”.

AL FONDO DEL ABISMO

A unos cientos de kilómetros de Niterói, los investigadores de un equipo comandado por Virgilio Almeida de la Universidad Federal de Minas Gerais se encorvaban frente a computadoras para intentar comprender cómo es que YouTube le da forma a la realidad de sus usuarios.

El equipo analizó transcripciones de miles de videos, así como los comentarios que los acompañaban debajo. Encontraron que los canales de derecha en Brasil habían logrado expandir sus audiencias mucho más rápido que otros, y parecían ser tendencia en el contenido político general del sitio.

En los meses posteriores a que YouTube cambiara su algoritmo, aumentaron las menciones positivas de Bolsonaro. Al igual que las menciones de teorías conspirativas que él había planteado. Esto comenzó cuando las encuestas aún lo mostraban como alguien sumamente impopular, lo cual sugiere que la plataforma estaba haciendo más que solo reflejar las tendencias políticas.

Un equipo del Centro Berkman Klein de Harvard se dispuso a demostrar si el motor de recomendaciones de YouTube había impulsado el ascenso meteórico de la extrema derecha brasileña en la plataforma.

Jonas Kaiser y Yasodara Córdova, junto con Adrian Rauchfleisch de la Universidad Nacional de Taiwán, programaron un servidor en Brasil para que entrara a un canal popular o concepto de búsqueda, y luego abriera las recomendaciones más populares de YouTube, siguiera las recomendaciones en cada uno, y así sucesivamente.

Al repetir este proceso miles de veces, los investigadores descubrieron cómo la plataforma movía usuarios de un video al siguiente. Hallaron que después de que los usuarios veían un video sobre política o incluso entretenimiento, las recomendaciones de YouTube a menudo favorecían canales de derecha llenos de conspiraciones, como el de Moura.

De forma decisiva, a los usuarios que veían un canal de extrema derecha les solían mostrar muchos más.

El algoritmo había unido canales que antes eran marginales, y luego creó una audiencia para ellos, concluyeron los investigadores.

Sólo 33 por ciento de brasileños apoya a gobierno de Bolsonaro

Uno de esos canales era el de Bolsonaro, quien había usado la plataforma durante mucho tiempo para publicar engaños y conspiraciones. Aunque fue uno de los primeros usuarios de YouTube, sus seguidores en línea habían hecho poco por expandir su base política, la cual apenas existía a nivel nacional.

Luego el sistema político de Brasil colapsó justo cuando se disparó la popularidad de YouTube en ese país. Los puntos de vista de Bolsonaro no habían cambiado. Sin embargo, la extrema derecha de YouTube, donde Bolsonaro era una de las principales figuras, vio cómo explotó su audiencia, lo cual sirvió a fin de preparar a grandes cantidades de brasileños para su mensaje en un momento en el que el país estaba listo para un cambio político.

YouTube cuestionó la metodología de los investigadores y señaló que sus datos internos contradecían esos hallazgos. No obstante, la empresa rechazó las solicitudes de The New York Times para tener acceso a esos datos, así como solicitudes para observar ciertas estadísticas que habrían revelado si los hallazgos de los investigadores eran acertados o no.

‘DR. YOUTUBE’

Las conspiraciones no estaban limitadas a la política. Muchos brasileños que hacían búsquedas en YouTube para encontrar información sobre atención médica hallaron videos que los aterrorizaron: algunos decían que el zika se estaba propagando en vacunas o en los insecticidas que buscaban detener la propagación de la enfermedad que transmiten los mosquitos, la cual ha causado estragos en el noreste de Brasil.

Al parecer, los videos aumentaron en la plataforma de una manera muy similar al contenido político extremo: con afirmaciones alarmistas y promesas de verdades prohibidas que mantenían a los usuarios pegados a sus pantallas.

Doctores, trabajadores sociales y exfuncionarios gubernamentales mencionaron que los videos habían creado la base de una crisis de salud pública pues los pacientes atemorizados se rehusaban a vacunarse e incluso a usar insecticidas contra el zika.

Las consecuencias han sido notables en las comunidades más pobres como Maceió, una ciudad de las más azotadas por el zika, la cual se encuentra al noreste de Brasil.

“Las noticias falsas son una guerra virtual”, comentó Flávio Santana, un neurólogo pediatra radicado en Maceió. “Nos llegan de todos lados”.

Cuando el zika se propagó por primera vez en 2015, los trabajadores del sector salud distribuyeron larvicidas que mataban a los mosquitos que contagian la enfermedad.

Tribunal de Brasil detiene investigación contra hijo de Jair Bolsonaro

Poco después de que YouTube instaló su nuevo motor de recomendaciones, los pacientes de Santana comenzaron a decirle que habían visto videos en los que culpaban a las vacunas del zika… y, luego, a los larvicidas. Muchos se rehusaron a usarlos.

Auriene Oliviera, una especialista en enfermedades infecciosas del mismo hospital, señaló que cada vez es más frecuente que los pacientes cuestionen sus consejos, entre ellos procedimientos cruciales para la supervivencia de sus hijos.

“Me dicen: ‘No, investigué en Google, lo vi en YouTube’”, mencionó.

De acuerdo con Oliviera, los proveedores de asistencia médica competían “todos los días” con “el Dr. Google y el Dr. YouTube”… y estaban perdiendo.

Mardjane Nunes, una experta en el zika que acaba de dejar un cargo importante en el Ministerio de Salud, afirmó que los trabajadores del sector salud de todo Brasil han reportado experiencias similares. Mientras más comunidades se rehúsan a utilizar el larvicida antizika, agregó, la enfermedad está resurgiendo poco a poco.

“Las redes sociales están ganando”, lamentó.

UN ‘ECOSISTEMA DE ODIO’

Mientras ascendía la extrema derecha, muchas de sus voces principales aprendieron a usar los videos conspirativos como armas, pues les ofrecían a sus vastas audiencias un blanco: gente a quien culpar. Con el tiempo, los conspiradores de YouTube se enfocaron en Debora Diniz, una activista en pro de los derechos de las mujeres cuya defensa del aborto la había vuelto un blanco de la extrema derecha desde hacía tiempo.

Bernardo Küster, una estrella de YouTube cuyas diatribas caseras le habían ganado 750.000 suscriptores y el respaldo de Bolsonaro, la acusó de estar involucrada en los supuestos complots del zika.

Sus videos insinuaban que las mismas personas que trabajaban para ayudar a familias afectadas por el zika estaban detrás de la enfermedad. Con el respaldo de extranjeros misteriosos, la meta de estas personas era abolir la prohibición del aborto en Brasil… o incluso volver obligatorios los abortos.

Cuando los canales conspirativos y de extrema derecha comenzaron a citarse los unos a los otros, el sistema de recomendaciones de YouTube aprendió a enlazar sus videos. Sin importar qué tan plausible podía ser un rumor individual por sí solo, juntos, daban la impresión de que decenas de diversas fuentes estaban revelando la misma verdad aterradora.

“Se siente como si el espectador hiciera la conexión, pero la conexión la hace el sistema”, aseguró Diniz.

El teléfono y el correo electrónico de Diniz se llenaron de amenazas de violación y de tortura. Algunas citaban sus rutinas diarias. Muchas hacían eco de los videos de Küster, aseguró Diniz.

Brasil vive jornada de protesta contra recortes a la Educación

Aunque nunca respaldó explícitamente las amenazas, Küster las mencionó con júbilo. Eso lo mantenía justo dentro de las reglas de YouTube.

Cuando la universidad donde Diniz daba clases recibió una advertencia de que había un hombre armado que les iba a disparar a ella y sus alumnos, y la policía dijo que ya no podía garantizar su seguridad, Diniz huyó de Brasil.

“El sistema de YouTube de recomendar el siguiente video y el que sigue después de ese”, comentó Diniz, había creado “un ecosistema de odio”.

“Escuché que es enemiga de Brasil. Escuché en el siguiente que las feministas están cambiando los valores de la familia. Y en el siguiente escuché que recibe dinero del extranjero”, comentó. “Ese círculo provoca que alguien piense: ‘Haré lo que es necesario’”.

“Necesitamos que las empresas se responsabilicen de su papel”, denunció Diniz. “En términos éticos, son responsables”.

Mariana Simões colaboró con el reportaje desde Niterói y Maceió, Brasil. Kate Steiker-Ginzburg colaboró con el reportaje desde Niterói, Maceió y São Paulo, Brasil. Renata Matarazzo colaboró con la investigación.

The New York Times