En al menos dos experimentos a lo largo de los años, Facebook ha explorado lo que sucede cuando apaga su controvertido sistema de clasificación de noticias: el software que decide para cada usuario qué publicaciones verá y en qué orden, muestran los documentos internos. Eso deja a los usuarios para ver todas las publicaciones de todos sus amigos en orden cronológico simple.

Ambas pruebas parecen haber enseñado a los investigadores de Facebook la misma lección: los usuarios están mejor con el software de Facebook tomando las decisiones.

Los documentos de investigación internos, algunos de los cuales no se informaron anteriormente, ayudan a explicar por qué Facebook parece estar tan unido a su sistema de clasificación automatizado, conocido como el algoritmo de suministro de noticias. Ese sistema está bajo un intenso escrutinio público.

En testimonio ante el Congreso y en el extranjero, la denunciante Frances Haugen ha señalado que el algoritmo es fundamental para los problemas de la red social, argumentando que amplifica y recompensa sistemáticamente el contenido odioso, divisivo, engañoso y, a veces, completamente falso al colocarlo en la parte superior de los feeds de los usuarios. . Y documentos internos informados anteriormente, que Haugen proporcionó a los reguladores y medios de comunicación, incluido The Washington Post, han demostrado cómo Facebook elabora su sistema de clasificación para mantener a los usuarios enganchados, a veces a costa de enojarlos o desinformarlos.

Un número creciente de legisladores de ambos partidos piensa ahora que los usuarios deberían tener una opción para deshabilitar estos sistemas de clasificación automatizados, para siempre. Un proyecto de ley presentado en la Cámara de Representantes esta semana requeriría que las empresas de redes sociales ofrezcan una versión de sus servicios que no dependa de algoritmos opacos para decidir lo que ven los usuarios. Se suma a un proyecto de ley similar en el Senado. Ambos están patrocinados por miembros de alto rango de ambos partidos, lo que le da a la legislación un camino viable para convertirse en ley. (Se diferencian de propuestas anteriores que buscan regular algoritmos a través de otros medios, como permitir que las plataformas sean demandadas cuando amplifican contenido ilegal).

El impulso político plantea una vieja pregunta para Facebook: ¿por qué no darles a los usuarios el poder de desactivar voluntariamente sus algoritmos de clasificación de feeds? ¿Permitir que los usuarios opten por ver todas las publicaciones de las personas que siguen, en orden cronológico, sería tan malo?

Los documentos sugieren que la defensa de Facebook de las clasificaciones algorítmicas se deriva no solo de sus intereses comerciales, sino de una convicción paternalista, respaldada por datos, de que su sofisticado software de personalización sabe lo que los usuarios quieren mejor que los propios usuarios. Es una visión que probablemente se extiende más allá de Facebook: rivales como Twitter, TikTok y YouTube dependen en gran medida de los sistemas de recomendación de contenido automatizados, al igual que el hermano corporativo de Facebook, Instagram.

Pero los críticos dicen que este punto de vista pasa por alto algo importante: el valor de dar a los usuarios más agencia sobre su dieta de información.

Desde 2009, tres años después de lanzar el servicio de noticias, Facebook ha utilizado un software que predice qué publicaciones encontrará más interesantes para cada usuario y las coloca en la parte superior de sus noticias mientras oculta a otras. Ese sistema, que ha evolucionado en complejidad para absorber hasta 10,000 piezas de información sobre cada publicación, ha impulsado el crecimiento del servicio de noticias hasta convertirse en una fuente de información dominante.

La proliferación de información falsa, teorías de conspiración y propaganda partidista en Facebook y otras redes sociales ha llevado a algunos a preguntarse si no estaríamos todos mejor con un sistema más simple y antiguo: uno que simplemente muestre a la gente todos los mensajes, fotos y videos. de todos los que siguen, en el orden en que fueron publicados. Así fue más o menos cómo funcionó Instagram hasta 2016 y Twitter hasta 2017. Pero Facebook se ha resistido durante mucho tiempo.

"Las investigaciones que hemos realizado muestran que las fuentes no clasificadas pueden generar problemas de integridad y otros problemas", dijo la portavoz Ariana Anthony, preguntando por qué Facebook no permite que los usuarios desactiven la clasificación de forma permanente.

Los documentos internos dejan en claro que las decisiones de Facebook sobre la clasificación de los feeds no siempre se han guiado por preocupaciones sobre la "integridad", que es el término de Facebook para el contenido que puede ser dañino o engañoso. Más bien, parecen haber sido informados principalmente por datos sobre la participación de los usuarios, al menos hasta hace poco.

"Siempre que tratamos de comparar feeds clasificados y no clasificados, los feeds clasificados simplemente parecen mejores", escribió un empleado en un memo titulado "¿Está bien el ranking?", Que se publicó en la red interna de la empresa, Facebook Workplace, en 2018. Ese empleado, que dijo que había trabajado y estudiado el servicio de noticias durante dos años, se preguntó si la clasificación automatizada también podría tener costos más difíciles de medir que los beneficios. "Incluso hacer esta pregunta se siente un poco blasfemo en Facebook", agregaron.

En 2014, otro informe interno, titulado "La clasificación de los feeds es buena", resumió los resultados de las pruebas que encontraron que permitir a los usuarios desactivar el algoritmo los llevó a pasar menos tiempo en sus feeds de noticias, publicar con menos frecuencia e interactuar menos. En última instancia, comenzaron a iniciar sesión en Facebook con menos frecuencia, poniendo en peligro el crecimiento de años en la participación de los usuarios que durante mucho tiempo ha impulsado el lucrativo negocio publicitario de la compañía. Sin un algoritmo que decida qué publicaciones mostrar en la parte superior de los feeds de los usuarios, concluyó el autor del informe, cuyo nombre fue redactado, "Facebook probablemente se reduciría".

Lo que muchos usuarios pueden no darse cuenta es que Facebook ofrece una opción para ver un feed mayormente cronológico, llamado "más reciente", si lo seleccionas en un menú de configuración. Para acceder a él hoy en la aplicación móvil de Facebook, debe tocar el pequeño icono de "menú" en la parte inferior de su feed, luego buscar y seleccionar "más reciente". Un atajo que Facebook introdujo en marzo, llamado "barra de filtro de alimentación", no funcionó en absoluto en la cuenta de este reportero.

Pero hay un problema: la configuración solo se aplica mientras permanezca conectado. Cuando se vaya y regrese, el algoritmo de clasificación volverá a estar activo.

En la prueba de 2014, que no se ha informado anteriormente, la empresa jugó con respetar la configuración "más reciente" durante períodos de tiempo más largos y más cortos después de que un usuario la seleccionara de la configuración, es decir, dejando el algoritmo de clasificación desactivado durante más tiempo. y períodos más cortos antes de volver a ella. Los resultados no fueron alentadores, desde el punto de vista de Facebook. Cuanto más tiempo dejaba Facebook el feed del usuario en orden cronológico, menos tiempo dedicaban a él, menos publicaban y menos a menudo volvían a Facebook.

En un comentario sobre el informe, un empleado de Facebook preguntó si a la empresa le iría mejor si eliminara por completo la opción de alimentación cronológica: "Parece una experiencia muy mala hacer clic en 'Más reciente' y luego volver a configurarlo por defecto después de 12 horas. parece que sería más frustrante que no tener la opción ".

Un informe separado de 2018, descrito por primera vez por el boletín Big Technology de Alex Kantrowitz, encontró que desactivar el algoritmo unilateralmente para un subconjunto de usuarios de Facebook y mostrarles las publicaciones en su mayoría en el orden en que fueron publicadas, condujo a "caídas masivas de participación". En particular, también encontró que los usuarios vieron más contenido de baja calidad en sus feeds, al menos al principio, aunque los investigadores de la compañía pudieron mitigar eso con medidas de "integridad" más agresivas.

Desde entonces, ese último hallazgo se ha convertido en la justificación de Facebook para su algoritmo de clasificación.

Nick Clegg, vicepresidente de asuntos globales de la compañía, dijo en una entrevista televisiva el mes pasado que si Facebook eliminara el algoritmo de suministro de noticias, "lo primero que sucedería es que la gente vería más, no menos, discurso de odio; más , no menos, desinformación; más, no menos, contenido dañino. ¿Por qué? Porque esos sistemas algorítmicos están diseñados precisamente como una gran clase de filtro de spam gigante para identificar y desaprobar y degradar el contenido malo ".

Algunos críticos dicen que es un argumento de hombre de paja. Simplemente eliminar las clasificaciones automatizadas para un subconjunto de usuarios, en una red social que ha sido construida para depender en gran medida de esos sistemas, no es lo mismo que diseñar un servicio para que funcione bien sin ellos, dijo Ben Grosser, profesor de nuevos medios en la Universidad. de Illinois en Urbana-Champaign. Los feeds de esos usuarios ya no están seleccionados, pero las publicaciones que ven todavía están influenciadas por los sistemas de recompensa del algoritmo. Es decir, todavía ven contenido de personas y editores que compiten por los me gusta, las acciones y los comentarios que impulsan las recomendaciones de Facebook.

Y debido a que el algoritmo siempre ha estado ahí, a los usuarios de Facebook no se les ha dado el tiempo ni las herramientas para seleccionar sus feeds por sí mismos de manera reflexiva. En otras palabras, Facebook nunca le ha dado a una fuente cronológica de noticias una oportunidad justa para tener éxito.

Grosser tiene una pequeña red social experimental llamada "Minus", que tiene un feed cronológico, no tiene me gusta ni otro sistema de recompensa visible, y no tiene un algoritmo de clasificación.

"Mi experiencia al ver un feed cronológico dentro de una red social que no siempre está tratando de optimizar para el crecimiento es que muchos de estos problemas", como el discurso de odio, el trolling y los medios manipuladores, "simplemente no existen".

Facebook no es la única plataforma social con un algoritmo de clasificación opaco, por supuesto. Twitter también utiliza software de aprendizaje automático para clasificar los tweets que las personas ven en sus líneas de tiempo. Al igual que Facebook, ofrece una opción para ver los tweets en orden cronológico. En el caso de Twitter, esa configuración es mucho más accesible, requiriendo un solo toque en el ícono de "brillo" arriba de la fuente principal. Mientras tanto, la página "Para ti" de TikTok es completamente algorítmica, sin opción para desactivar las clasificaciones automáticas. Lo mismo ocurre con Instagram.

Facebook no ha adoptado una posición oficial sobre la legislación que requeriría que las redes sociales ofrezcan una opción de alimentación cronológica, pero Clegg dijo en un artículo de opinión el mes pasado que la compañía está abierta a la regulación sobre algoritmos, transparencia y controles de usuario.

Twitter, por su parte, señaló un posible apoyo a los proyectos de ley.

"Estamos de acuerdo en que una mayor transparencia y elección en tecnología es importante, y nos alienta que el Congreso se esté centrando en estos temas", dijo Lauren Culbertson, directora de política pública estadounidense de Twitter. "Creemos firmemente que las personas deben tener un control significativo sobre su experiencia en Twitter, y que las personas deben recibir la información que necesitan para tomar decisiones informadas".

Por más interesante que sea la propia investigación de Facebook sobre feeds cronológicos, no debería considerarse definitiva a los efectos de la formulación de políticas, dijo Nathalie Maréchal, gerente senior de políticas y asociaciones de la organización sin fines de lucro Ranking Digital Rights.

"Solo las propias empresas pueden hacer los experimentos para encontrar las respuestas. Y por muy talentosos que sean los investigadores de la industria, no podemos confiar en que los ejecutivos tomen decisiones de interés público basadas en esa investigación, o para que el público y los legisladores accedan a esa investigación. "

"Creo que los usuarios tienen derecho a esperar experiencias en las redes sociales sin algoritmos de recomendación", agregó Maréchal. "Como usuario, quiero tener el mayor control posible sobre mi propia experiencia, y los algoritmos de recomendación me quitan ese control".