Marina Díaz Sanz, Universidad de Deusto y Miren Gutiérrez, Universidad de Deusto
Las empresas tecnológicas se preparan actualmente para que la Corte Suprema de EE. UU. escuche uno de los casos más importantes que enfrenta la industria big tech: un fallo que podría hacerla responsable de la recomendación de contenido dañino. El caso Gonzalez vs. Google busca responsabilizar a YouTube (Google) por la muerte de una mujer asesinada en un ataque terrorista en 2015. Su familia está demandando a la plataforma por recomendar vídeos de ISIS utilizados para reclutar a terroristas y sostiene que la ley no exime a las plataformas tecnológicas del daño causado por sus sistemas de recomendación.
En el centro del caso, el tribunal analiza por primera vez la Sección 230 de la Communications Decency Act, una ley aprobada en 1996 que otorga a los proveedores de internet protección legal para alojar publicaciones. No es el único caso en el que se pone a las grandes corporaciones tecnológicas tras las cuerdas. En un artículo científico, investigamos qué hay detrás de esta tendencia, analizamos en profundidad cuatro relevantes casos legales y proponemos un nuevo contrato social que ponga a la ciudadanía y al Estado en el centro de las relaciones con las plataformas.
Hasta hace poco, uno de los factores que explicaban el enorme crecimiento de grandes corporaciones tecnológicas como Google/Alphabet, Uber, Amazon y Facebook era la existencia de un contexto político-económico permisivo dentro del cual estos gigantes económicos han sabido explotar algunas zonas grises. Según las investigadoras K. Sabeel Rahman y Kathleen Thelen, “estas zonas grises surgen no sólo de la explotación estratégica en los límites de las regulaciones laborales, financieras y otras regulaciones económicas, sino también de las nuevas tecnologías aún no reguladas por los organismos gubernamentales”.
Poca regulación
La escasa regulación de las actividades económicas de las grandes corporaciones tecnológicas –por definición, altamente desterritorializadas– sigue siendo hoy una circunstancia que juega a favor de las big tech. Los gobiernos a muchos niveles no han desarrollado todavía los marcos reguladores necesarios para garantizar que el capitalismo de plataformas no atente deliberadamente contra los derechos civiles y políticos de la ciudadanía de países en todo el mundo.
Más bien al contrario, gobiernos de toda índole, tanto en democracias liberales consolidadas como en sistemas políticos autoritarios, han recurrido a los servicios ofrecidos por las grandes corporaciones para cumplir con sus deberes públicos o avanzar sus intereses. Las tensiones emergen cuando, por ejemplo, en nombre de la seguridad nacional, los gobiernos adoptan actitudes demasiado flexibles respecto al derecho a la privacidad de las personas. Para describir esta realidad, en el famoso libro Change of State (2006), Sandra Braman acuñó el concepto de “Estado informacional”, que nos ponía ante el espejo de Estados con grandes capacidades para monitorear las actividades de la ciudadanía.
Con posterioridad, pero en línea con las ideas de Braman, José van Dijck se refirió en un artículo de 2014 a la “vigilancia de datos” (dataveillance) y alertó sobre la connivencia entre empresas privadas y agencias de inteligencia gubernamentales en el escrutinio continuado de las comunicaciones interpersonales en Estados Unidos.
El caso del cierre de SyRI
En algunos otros casos, las violaciones del derecho a la privacidad se solapan con posibles casos de racismo institucionalizado. En Países Bajos, una sentencia del tribunal de La Haya ordenó en febrero de 2020 el cese de SyRI (System Risk Indication), el sistema algorítmico utilizado por el gobierno holandés para detectar fraude en la obtención de subsidios y prestaciones sociales. La sentencia argumentó que el sistema, en uso desde 2014, violaba el artículo 8 de la Convención Europea de Derechos Humanos sobre el derecho a la vida privada y familiar.
A ello se sumó la alegación de la corte acerca de la falta de transparencia del algoritmo base encargado de identificar a posibles infractores, así como falta de voluntad del gobierno holandés en revelar los criterios utilizados en su diseño. Lo cierto es que el funcionamiento de SyRI se cebó con barrios de bajos niveles socioeconómicos donde se concentra la población de origen migrante.
Algunas novedades
Nuestra investigación identifica una novedad con respecto al papel de los gobiernos en la economía de las plataformas. Casos como Nuevo Mexico vs. Google o Glawischnig-Piesczek vs. Facebook nos muestran un creciente interés de los gobiernos por garantizar derechos individuales y el interés público en detrimento de las big tech. En casos como el del Estado de Nuevo México en Estados Unidos, el gobernador está embarcado en un proceso contra Google por acceder, a través de los servicios que presta a la comunidad educativa, a datos de menores con los que genera perfiles y comercia posteriormente.
En el segundo caso, los tribunales austriacos y la Corte de Justicia de la Unión Europea han fallado en favor de la política Eva Glawischnig–Piesczek, cuya imagen fue difamada por usuarios de Facebook sin que la compañía hiciera nada para evitar los daños a su reputación. En la era del capitalismo de las plataformas estamos ante una encrucijada vital. Bajarse del barco no parece una opción realista. Pensar que podemos desconectarnos y sacar a las plataformas de nuestras vidas para recuperar derechos no parece que esté en la mente de nadie (ni personas, ni gobiernos ni, por descontado, de las big tech).
El reto regulatorio pasaría por llenar los vacíos que existen en las zonas grises y en ajustar el alcance territorial de regulaciones como el Reglamento General de Protección de Datos adoptado por la Unión Europea. Hay quienes hablan de la “territorialización de internet”, opción que, por el momento, se está usando más bien para la censura, por ejemplo en China.
En nuestro artículo, proponemos que cualquier opción democráticamente saludable pasa por la adopción de un nuevo contrato social que establezca un equilibrio más justo entre usuarios/as (tanto personas como gobiernos) y las grandes corporaciones que exprimen el jugo de nuestros datos. En este contrato social, el derecho a los datos (data rights) y la alfabetización en datos (data literacy) deben ser pilares sólidos para que el click en la casilla de “I accept” –“yo acepto”– pase a ser una rutina ejercida con conciencia ciudadana.
Marina Díaz Sanz, Profesora de Relaciones Internacionales, Universidad de Deusto y Miren Gutiérrez, Investigadora, activismo de datos, Universidad de Deusto
Este artículo fue publicado originalmente en The Conversation. Lea el original.
Apoya TU periodismo independiente y crítico
Ayúdanos a contribuir a la Defensa del Estado de Derecho Haz tu aportación