Es cada vez más difícil para el gobierno señalar secretamente tus publicaciones en las redes sociales
El gobierno tiene cada vez más dificultad en señalar secretamente tus publicaciones en las redes sociales.
Mientras la policía israelí sofocaba las protestas palestinas en las calles de Jerusalén Este en mayo de 2021, una agencia separada intentaba hacer lo mismo en línea. El Departamento de Cibercrimen del Ministerio de Justicia de Israel envió a las empresas de redes sociales listas de miles de cuentas de usuarios que quería eliminar por violar las políticas de contenido de los servicios con sus publicaciones sobre las protestas. Un ex empleado de Twitter dice que la empresa suspendió algunas de las cuentas señaladas por la agencia israelí por usar un lenguaje odioso o acosador. Pero los encargados de políticas determinaron que la mayoría eran simplemente palestinos y otros que tuiteaban comentarios críticos sobre Israel, pero que no violaban ninguna norma.
El departamento cibernético israelí es un ejemplo de lo que los académicos de las plataformas en línea llaman una unidad de referencia de Internet, un equipo gubernamental creado para presionar a los servicios en línea para que tomen medidas contra el contenido que no les gusta. Una serie de URIs han sido lanzadas por países de todo el mundo a medida que los gobiernos de todo tipo luchan con las plataformas en línea. Las empresas de tecnología a menudo priorizan las solicitudes de las URIs en las colas de moderación, lo que preocupa a los críticos que dicen que las unidades pueden reflejar motivaciones políticas y a menudo evitan obstáculos legales diseñados para evitar la censura injusta.
Después de una década de crecimiento en su mayoría sin restricciones, las unidades de referencia de Internet ahora enfrentan nuevos controles y equilibrios en los Estados Unidos y la Unión Europea.
Un juez federal de Louisiana emitió este mes una orden judicial preliminar que prohíbe a 41 funcionarios de la administración Biden y a su personal en 10 agencias diferentes de Estados Unidos informar a las empresas de redes sociales sobre contenido que se considera que viola los términos de uso del servicio. La prohibición limitó severamente la influencia de la Casa Blanca en las plazas digitales a través de las URIs informales de las agencias y llevó al Departamento de Estado a posponer una reunión planificada con Meta para compartir información sobre la lucha contra la desinformación en el extranjero.
En la UE, se espera que las unidades de referencia estén sujetas a nuevos requisitos de transparencia según una disposición de la amplia Ley de Servicios Digitales que entrará en vigor el próximo año.
- Apple amenaza con retirar FaceTime y iMessage en el Reino Unido deb...
- Promoción de verano de Apple Pay ofrece descuentos en Ray-Ban, Soni...
- Ofertas El MacBook Air con el chip M1 de Apple vuelve al mejor prec...
La sentencia y la ley son las primeras interrupciones significativas de la relación estrecha que ha existido entre las plataformas en línea y las agencias gubernamentales y otras organizaciones que patrullan la web para suprimir discretamente comentarios desfavorables. Pero aunque los grupos de derechos que promueven la libertad de expresión han aplaudido las nuevas intervenciones, también advierten que las URIs y las decisiones de moderación que generan seguirán en gran medida sin controles o divulgaciones adecuados.
Las unidades de referencia de Internet aparecieron por primera vez alrededor de 2010 en el Reino Unido, cuando servicios como Facebook y YouTube enfrentaban presiones de los funcionarios de contraterrorismo para manejar mejor el contenido generado por extremistas islámicos violentos. Las empresas que intentaban establecer mejores relaciones con los gobiernos generalmente aceptaban las solicitudes e incluso nombraban a las URIs como “indicadores confiables”, cuyos informes sobre contenido dañino se revisarían más rápidamente que los de los usuarios estándar.
El número y la actividad de las URIs se expandieron rápidamente. Las empresas también agregaron organizaciones de la sociedad civil como indicadores confiables. Las autoridades de países como Alemania y Francia utilizaron la táctica para suprimir el extremismo político de extrema derecha en las redes sociales en la década de 2010, y luego la desinformación sobre la salud durante la pandemia.
Las unidades de referencia no siempre son entidades formales o bien organizadas, y sus funciones varían, pero se ha establecido un proceso común: elegir un tema para monitorear, como la desinformación política o el antisemitismo, rastrear contenido problemático y luego informarlo a las empresas a través de líneas telefónicas dedicadas, cartas físicas, relaciones personales con personas internas o los botones “reportar esto” disponibles para todos los usuarios. Las unidades pueden informar únicamente lo que parece ser actividad delictiva, pero algunas indican contenido que es legal pero está prohibido según las reglas de una plataforma, como la desnudez o las cuentas de bots.
Más a menudo que no, según los expertos, el cumplimiento por parte de las plataformas es voluntario porque las solicitudes no son legalmente vinculantes; por lo general, no se informa a los usuarios quién denunció su contenido. Los grupos de derechos han expresado desde hace mucho tiempo su preocupación de que las URIs eludan efectivamente los procesos legales, intercambiando velocidad y simplicidad por transparencia y controles sobre el abuso de poder, al tiempo que también empujan los informes de los usuarios al final de la fila.
Por lo general, las empresas de redes sociales pueden sentir una presión significativa para actuar según las solicitudes de las URIs porque luchar contra ellas podría llevar a regulaciones que aumenten los costos de hacer negocios, según varios expertos y cuatro ex empleados de políticas de empresas de tecnología que han manejado estas demandas. Es común que los políticos y grupos influyentes soliciten canales directos para plantear preocupaciones sobre el contenido y para que las plataformas se los proporcionen.
Los equilibrios de poder establecidos fuera de línea se reflejan en los programas. La Autoridad Palestina, uno de los pequeños grupos gobernantes en desacuerdo con Israel, “no tiene la influencia o la relación con Meta para operar una URIs efectiva”, dice Eric Sype del grupo de derechos palestino 7amleh. Meta, TikTok y Twitter no respondieron a las solicitudes de comentarios para esta historia, y YouTube se negó a hacer comentarios.
Las URIs han sido desafiadas antes. En 2021, el año en que Israel chocó con los manifestantes en Jerusalén Este y contactó a empresas como Twitter, el Tribunal Supremo del país falló en contra de un desafío a la unidad del Ministerio de Justicia. El tribunal llamó al trabajo “crucial para la seguridad nacional y el orden social”, y permitió que continuara porque los demandantes no pudieron demostrar un daño directo. Ese año, la URI envió casi 6.000 solicitudes a empresas de tecnología, incluidas más de 1.300 a Twitter, para la eliminación voluntaria o la restricción de contenido como “elogio del terrorismo” y desinformación sobre la vacuna Covid, según las divulgaciones anuales del gobierno israelí y un análisis del Departamento de Estado de los EE. UU. Casi 5.000 solicitudes fueron aceptadas, según los datos. La embajada de Israel en Washington, DC, no respondió a una solicitud de comentarios.
El Consejo de Supervisión independiente de Meta, un órgano de apelación para asuntos complicados de moderación de contenido, también se ha enfrentado a la empresa. El año pasado, la compañía eliminó una canción de música drill del Reino Unido a petición de la policía de Londres debido a la preocupación de que la referencia a un tiroteo en la canción pudiera incitar a la violencia. El Consejo revocó la eliminación, afirmando que Meta no tenía suficiente evidencia de una amenaza creíble, y criticó a la empresa por aceptar solicitudes informales de aplicación de la ley de manera “caótica y opaca”. Pidió a Meta que haga públicas todas esas solicitudes, una petición que el copresidente del Consejo de Supervisión, Michael McConnell, y la miembro Suzanne Nossel, repitieron en artículos de opinión separados este mes. Meta en su sitio web dice que está trabajando en hacerlo, pero no está seguro de cuánto tiempo llevará, porque centralizar todas las solicitudes es complicado.
La decisión de la corte federal de Estados Unidos este mes que prohibió a los funcionarios de agencias hacer peticiones de eliminación fue el golpe más duro hasta ahora para las UDI. Esto ocurrió después de que dos estados liderados por conservadores y varios usuarios de redes sociales presentaran una demanda alegando que la Casa Blanca estaba violando la protección de la Primera Enmienda contra la censura gubernamental al presionar a Facebook y Twitter para que coloquen etiquetas de advertencia en publicaciones y suspendan o prohíban cuentas. El contenido en disputa cuestionaba el uso de mascarillas faciales para el Covid, las vacunas, el origen del virus y los confinamientos.
El juez Terry Doughty dictaminó que es probable que los demandantes tengan éxito al demostrar que una avalancha de solicitudes de eliminación por correo electrónico y llamadas de funcionarios de la Casa Blanca y de agencias federales obligó a las compañías de redes sociales a actuar, lo que constituye una práctica conocida como presión. Acusó a la administración de atacar el “discurso conservador desfavorecido” y mencionó las demandas informales pero a veces intensas por correo electrónico de los funcionarios. Uno de ellos decía: “No puedo enfatizar lo suficiente la necesidad de resolver esto inmediatamente. Por favor, eliminen esta cuenta de inmediato”.
Escribió Doughty, “Los demandados ‘alentaron significativamente’ a las compañías de redes sociales hasta tal punto que las decisiones (de las compañías) deberían considerarse las decisiones del gobierno”.
La prohibición de Doughty, que está en espera mientras la Casa Blanca apela, intenta establecer los límites de la conducta aceptable para las UDI del gobierno. Establece una excepción para que los funcionarios sigan notificando a las compañías de redes sociales sobre actividades ilegales o problemas de seguridad nacional. Emma Llansó, directora del Proyecto de Libre Expresión en el Centro para la Democracia y la Tecnología en Washington, D.C., dice que esto deja muchas cosas sin resolver, ya que la línea entre la protección reflexiva de la seguridad pública y la supresión injusta de críticos puede ser delgada.
El nuevo enfoque de la Unión Europea (UE) hacia las UDI también parece comprometido para algunos activistas. La Ley de Servicios Digitales (DSA) requiere que cada país miembro de la UE designe un regulador nacional antes de febrero que aceptará solicitudes de agencias gubernamentales, organizaciones sin fines de lucro, asociaciones industriales o empresas que deseen convertirse en informantes confiables que puedan informar directamente a Meta y otras plataformas medianas y grandes sobre contenido ilegal. Los informes de los informantes confiables deben ser revisados “sin demoras indebidas”, bajo pena de multas de hasta el 6 por ciento de las ventas anuales globales de una empresa.
La ley tiene como objetivo hacer que las solicitudes de las UDI sean más precisas, designando un número limitado de organizaciones informantes confiables con experiencia en áreas diversas de contenido ilegal, como el discurso de odio racista, productos falsificados o violaciones de derechos de autor. Y las organizaciones deberán divulgar anualmente cuántos informes presentaron, a quién y los resultados.
Pero las divulgaciones tendrán lagunas significativas, porque solo incluirán solicitudes relacionadas con contenido que sea ilegal en un estado de la UE, lo que permite que los informes de contenido marcado únicamente por violar los términos de servicio pasen desapercibidos. Aunque no se requiere que las empresas de tecnología den prioridad a los informes de contenido marcado por infringir las reglas, nada les impide hacerlo. Y las plataformas aún pueden trabajar con informantes confiables no registrados, preservando esencialmente las prácticas oscuras de hoy. La DSA sí requiere que las empresas publiquen todas sus decisiones de moderación de contenido en una base de datos de la UE sin “demoras indebidas”, pero se puede omitir la identidad del informante.
“La DSA crea una nueva estructura paralela para los informantes confiables sin abordar directamente las preocupaciones en curso con los informantes existentes como las UDI”, dice Paddy Leerssen, investigador posdoctoral en la Universidad de Ámsterdam que participa en un proyecto de análisis continuo de la DSA.
Dos funcionarios de la UE que trabajan en la aplicación de la DSA, que hablaron bajo condición de anonimato porque no estaban autorizados a hablar con los medios, dicen que la nueva ley tiene como objetivo garantizar que los 450 millones de residentes de la UE se beneficien de la capacidad de los informantes confiables para enviar avisos de vía rápida a empresas que de otra manera no cooperarían con ellos. Aunque la nueva designación de informante confiable no fue diseñada para agencias gubernamentales y autoridades de aplicación de la ley, nada les impide presentar solicitudes, y la DSA menciona específicamente a las unidades de referencia en Internet como posibles candidatas.
Los grupos de derechos están preocupados de que si los gobiernos participan en el programa de informantes confiables, se pueda utilizar para sofocar el discurso legítimo bajo algunas de las leyes más draconianas del bloque, como la prohibición de Hungría (actualmente impugnada en los tribunales) de promover relaciones del mismo sexo en materiales educativos. Eliška Pírková, líder global de libertad de expresión en Access Now, dice que será difícil para las empresas de tecnología resistir la presión, a pesar de que los coordinadores de los estados pueden suspender a los informantes confiables que se consideren que actúan de manera inapropiada. “Es la falta total de salvaguardias independientes”, dice. “Es bastante preocupante.”
Según un ex empleado de Twitter, la plataforma prohibió al menos a una organización de derechos humanos presentar informes a su cola de reportes de más alta prioridad hace un par de años debido a que presentaba demasiados informes erróneos. Sin embargo, dejar de lado a un gobierno podría ser más difícil. La embajada de Hungría en Washington, DC, no respondió a una solicitud de comentarios.
Tamás Berecz, director general de INACH, una coalición mundial de grupos no gubernamentales que luchan contra el odio en línea, dice que algunos de sus 24 miembros de la UE están contemplando solicitar el estado oficial de verificador de confianza. Pero tienen preocupaciones, incluyendo si los coordinadores en algunos países aprobarán las solicitudes de organizaciones cuyos valores no se alinean con los del gobierno, como un grupo que monitorea el discurso de odio anti-gay en un país como Hungría, donde el matrimonio entre personas del mismo sexo está prohibido. “Realmente no sabemos qué va a pasar”, dice Berecz, dejando espacio para cierto optimismo. “Por ahora, están contentos estando en un programa de confianza no oficial”.
