TikTok, YouTube y Facebook quieren parecer dignos de confianza. No te dejes engañar

TikTok hizo un gran anuncio el año pasado. La empresa abriría un Centro de Transparencia y Responsabilidad, dando al público una rara visión de su funcionamiento, incluido su algoritmo. Estos sistemas basados en la inteligencia artificial suelen ser cajas negras, pero TikTok se comprometió a «liderar el camino cuando se trata de ser transparente», dijo, proporcionando información sobre cómo y por qué el algoritmo recomienda contenido a los usuarios.

El anuncio pretendía situar a TikTok como un ejemplo de plataforma tecnológica responsable y no tóxica. Facebook, Twitter y YouTube perdieron hace tiempo la batalla por la opinión pública, enfrentándose a la ira de los consumidores y los legisladores sobre los sistemas de inteligencia artificial que desinforman, radicalizan y polarizan. Pero como plataforma más reciente, TikTok tiene el potencial de ganarse una reputación más halagüeña, incluso en medio de la prensa negativa sobre sus prácticas de privacidad y su conexión con China.

Sin embargo, a pesar de su postura como plataforma transparente y fiable, TikTok sufre algunas de las mismas aflicciones que sus compañeros. En junio, Mozilla informó de que los anuncios políticos, prohibidos en TikTok, se están infiltrando sigilosamente en la plataforma y se hacen pasar por contenido orgánico. Fue necesario que un equipo de mis colegas realizara una investigación en profundidad con herramientas técnicas para sacar a la luz este hecho.

TikTok ha hablado desde entonces con mis colegas y ha tomado medidas para solucionar este problema y ofrecer transparencia sobre quién paga por la influencia en la aplicación. Pero aún quedan grandes preguntas, como: ¿Será la búsqueda de la transparencia siempre un juego del gato y el ratón entre las grandes plataformas tecnológicas y los investigadores independientes sin recursos? Y si un TikTok imperfecto es una de las plataformas más transparentes, ¿qué dice eso sobre el estado de la confianza y la agencia del consumidor en línea?

TikTok no es la única plataforma que lucha por hacer realidad una transparencia significativa. Sin leyes o normas claras que separen la transparencia «significativa» de la «superficial», los ejecutivos de las empresas tecnológicas siguen sin cumplir sus compromisos públicos voluntarios. El resultado es una serie de iniciativas de transparencia superficial que logran poco o desaparecen rápidamente.

Consideremos la biblioteca de anuncios de Facebook de 2018: Después de años de abuso de su plataforma de anuncios por parte de actores políticos, Facebook se comprometió a liberar un archivo público de anuncios. Pero la biblioteca no cumplió con la mayoría de los requisitos que los investigadores contactados por Mozilla habían solicitado. La herramienta estaba plagada de errores, le faltaba información vital y tenía límites de búsqueda restrictivos, y Facebook no se comprometió con las mejoras que sugerimos.

Más recientemente, tras la presión ejercida por algunos ejecutivos de la empresa, Facebook desmanteló en parte el equipo que estaba detrás de CrowdTangle, una herramienta que proporciona transparencia sobre las publicaciones de páginas públicas en la plataforma que reciben más participación. Brian Boland, antiguo vicepresidente de Facebook y defensor interno que impulsó una mayor transparencia durante su etapa en la empresa, declaró a The New York Times que Facebook «no quiere poner los datos a disposición de otros para que hagan el trabajo duro y les pidan cuentas». (Un portavoz de Facebook dijo que la empresa da prioridad a la transparencia y que el propósito de la reorganización de CrowdTangle era integrarla mejor en el equipo de productos centrados en la transparencia).

Y justo la semana pasada, Facebook cerró efectivamente el proyecto Ad Observatory de la Universidad de Nueva York, una iniciativa de investigadores de terceros que buscaba una mayor transparencia en la selección de anuncios de Facebook. (Facebook dijo que los investigadores estaban violando las condiciones de servicio de la empresa).

YouTube también es culpable de ofrecer una imagen borrosa de su plataforma. Durante años, el algoritmo de recomendación de YouTube ha amplificado los contenidos perjudiciales, como la desinformación sobre la salud y las mentiras políticas. De hecho, Mozilla publicó en julio una investigación en la que descubrió que el algoritmo de YouTube recomienda activamente contenidos que violan sus propias directrices comunitarias. (Un portavoz de YouTube dijo que la compañía está explorando nuevas formas para que investigadores externos estudien los sistemas de la empresa y que sus datos públicos muestran que «el consumo de contenido dañino procedente de nuestros sistemas de recomendación es significativamente inferior al 1 por ciento»).

Mientras tanto, YouTube pregona sus esfuerzos de transparencia, diciendo en 2019 que «lanzó más de 30 cambios diferentes para reducir las recomendaciones de contenido límite y la desinformación dañina», lo que resultó en «una caída promedio del 70 por ciento en el tiempo de visualización de este contenido que proviene de recomendaciones no suscritas en los Estados Unidos.» Sin embargo, sin ninguna forma de verificar estas estadísticas, los usuarios no tienen ninguna transparencia real.

Al igual que los contaminadores pintan de verde sus productos adornando sus envases con imágenes ecológicas, las grandes plataformas tecnológicas optan por el estilo, no por la sustancia.

Plataformas como Facebook, YouTube y TikTok tienen buenas razones para retener formas más completas de transparencia. Cada vez son más las plataformas de Internet que se apoyan en sistemas de inteligencia artificial para recomendar y seleccionar contenidos. Y está claro que estos sistemas pueden tener consecuencias negativas, como desinformar a los votantes, radicalizar a los vulnerables y polarizar a grandes sectores del país. La investigación de Mozilla sobre YouTube lo demuestra. Y no estamos solos: La Liga Antidifamación, The Washington Post, The New York Times y The Wall Street Journal han llegado a conclusiones similares.

El lado oscuro de los sistemas de inteligencia artificial puede ser perjudicial para los usuarios, pero esos sistemas son una mina de oro para las plataformas. Los agujeros de conejo y los contenidos escandalosos mantienen a los usuarios atentos y, por tanto, consumiendo publicidad. Al permitir que los investigadores y los legisladores husmeen en los sistemas, estas empresas están iniciando el camino hacia las regulaciones y la presión pública para una Inteligencia Artificial más fiable -pero potencialmente menos lucrativa-. Las plataformas también se están abriendo a una crítica feroz; lo más probable es que el problema sea más profundo de lo que sabemos. Después de todo, las investigaciones realizadas hasta ahora se han basado en conjuntos de datos limitados.

Mientras las empresas tecnológicas dominan la falsa transparencia, los reguladores y la sociedad civil en general no deben caer en ella. Tenemos que denunciar el estilo que se disfraza de sustancia. Y luego tenemos que ir un paso más allá. Tenemos que definir cómo es la verdadera transparencia y exigirla.

¿Cómo es la verdadera transparencia? En primer lugar, debería aplicarse a las partes del ecosistema de Internet que más afectan a los consumidores, como los anuncios y las recomendaciones basados en la inteligencia artificial. En el caso de la publicidad política, las plataformas deberían satisfacer las peticiones básicas de los investigadores introduciendo bases de datos con toda la información relevante que sean fáciles de buscar y navegar. En el caso de los algoritmos de recomendación, las plataformas deben compartir datos cruciales como qué vídeos se recomiendan y por qué, y también crear herramientas de simulación de recomendaciones para los investigadores.

La transparencia también debe estar diseñada para beneficiar a los usuarios cotidianos, no sólo a los investigadores. La gente debería poder identificar fácilmente por qué se le recomienda un contenido específico o quién ha pagado por ese anuncio político en su feed.

Para lograr todo esto, debemos hacer cumplir la normativa existente, introducir nuevas leyes y movilizar a una base de consumidores que se haga oír. Este año, la Comisión Federal de Comercio ha señalado su autoridad y su intención de seguir supervisando el posible sesgo de los sistemas de inteligencia artificial en uso. La Oficina de Rendición de Cuentas del Gobierno ha esbozado cómo podrían ser en la práctica las auditorías de la inteligencia artificial y las evaluaciones de terceros. Y el interés bipartidista del Congreso por frenar a las grandes empresas tecnológicas ha empezado a centrarse en la transparencia de algunas formas importantes: La Ley de Anuncios Honestos, presentada en congresos anteriores, haría que los anuncios políticos en línea fueran tan transparentes como los de la televisión y la radio.

Mientras tanto, los consumidores deberían preguntar a las empresas si los productos utilizan tecnología de inteligencia artificial y cómo lo hacen. ¿Por qué? Las expectativas de los consumidores pueden empujar a las empresas a adoptar voluntariamente informes y funciones de transparencia. El aumento de la encriptación en los últimos años es una buena analogía. La encriptación de extremo a extremo, antes oscura, es ahora la razón por la que los consumidores acuden en masa a plataformas de mensajería como iMessage y Signal. Y esta tendencia ha empujado a otras plataformas, como Zoom, a trabajar para adoptar esta función.

A medida que las grandes empresas tecnológicas ejercen una influencia cada vez mayor en nuestras vidas individuales y colectivas, la visibilidad de lo que hacen y cómo operan es más importante que nunca. No podemos permitirnos que la transparencia se convierta en un eslogan sin sentido: es una de las pocas palancas de cambio en el interés público que nos quedan.

Santos Muñoz Tebar es un reconocido SEO español. Realiza consultorías y auditorías SEO de un alto nivel en grandes páginas web de todo el mundo. Es Experto en Marketing Digital (SEO, Análisis Digital, UX) y ponente en los principales eventos del sector del mundo.

Deja un comentario