Fronteras Digitales

• Recientemente ha aparecido en prensa la noticia sobre la voluntad del gobierno español de aplicar la llamada «frontera inteligente» en los pasos fronterizos de Ceuta y Melilla con el fin de ejercer un mayor control de seguridad mediante el uso de inteligencia artificial a través de la recogida de datos biométricos (reconocimiento facial, huellas dactilares…). Frente a esta noticia, las abajo firmantes manifestamos nuestra preocupación y creemos necesario alertar de los peligros asociados a este tipo de decisiones políticas que conlleva el uso de la inteligencia artificial.

  
  Los duros controles fronterizos son espacios de potencial vulneración de derechos:

  
  • Vulneración de derechos fundamentales: el impacto en los derechos básicos que puede tener en un futuro la recopilación de datos biométricos como ya ocurre en aplicación del Convenio de Dublín. Los traslados de personas solicitantes de asilo de un estado miembro a otro en contra de su voluntad, en aumento en los últimos años, han sido, en parte, propiciadas por la recopilación de datos
  biométricos, como sus huellas dactilares.

  
  • Violación de la privacidad: los datos biométricos son datos intrínsecos a las personas. La recopilación de datos biométricos en personas sin pasaporte europeo no cumple con el principio de proporcionalidad. Estas personas se encuentran a menudo en situación de vulnerabilidad y no se tienen en cuenta las consecuencias no deseadas de disponer de unos datos biométricos de personas que no cuentan con mecanismos de protección, garantía, y reparación adecuados.

  
  • Discriminación y criminalización. La aplicación de la “frontera inteligente” como un elemento de lucha contra el terrorismo supone un peligro de discriminación y criminalización y la convierte en un nuevo dispositivo racista dentro del Estado Español. Las políticas antiterroristas a menudo han resultado una herramienta de propagación de la islamofobia, que han tenido como consecuencia un rechazo generalizado hacia la población migrante y racializada. Es de sobra conocido que los algoritmos de reconocimiento facial suelen arrojar falsos positivos y falsos negativos en rostros no caucásicos, lo cual, en este contexto concreto, podría suponer graves consecuencias para personas identificadas erróneamente como sospechosas de actos terroristas. La utilización de IA para el control fronterizo profundizaría la estigmatización y criminalización de grupos de personas que ya se encuentran en una gran situación de vulnerabilidad y/o exclusión.

  
  • Transparencia y auditabilidad. El procedimiento adolece de una falta de transparencia tanto en la forma, como en el fondo. Tampoco se menciona la auditabilidad y publicidad de los algoritmos. Por las informaciones conocidas, no se habla de que los algoritmos que se empleen sean auditables y/o explicables, tampoco de mecanismos de trazabilidad que permitan supervisión humana ni de políticas de protección de datos.

  
  • Mecanismos de control y revisión. Resulta imprescindible incorporar mecanismos de control y revisión de los procedimientos algorítmicos que permitan enmendar errores de manera ágil por grupos de personas independientes en los que han de poder participar entidades en defensa de los derechos humanos y antirracistas. El uso de estos sistemas de reconocimiento facial supone una doble securitización del proceso, que estigmatiza pero también diluye la responsabilidad humana y política ante los daños, efectos indeseados o consecuencias negativas de su uso.

  Por todo ello, la aplicación de mecanismos de inteligencia artificial en el control fronterizo supone un peligro de vulneración de derechos humanos, discriminación, criminalización y violación de la privacidad.

  
  Por ello exigimos:

  
  • La aplicación de la regulación de la IA y protección de datos elaborada por la Comisión Europea también a contextos y situaciones que se consideran de tipo “securitario”, no puede haber vacío legal en este ámbito.

  
  • La derogación del Reglamento UE 2017/2226 del Parlamento Europeo y del Consejo 30/11 /17 que permite el reconocimiento facial.

  
  • La necesidad de información y consentimiento informado ante el uso de estos sistemas, incluso si se llegan a aplicar y desplegar.

  
  • Incorporación sistemática de observadores de derechos humanos en las actuaciones en frontera.

  
  • Aplicación de tecnologías explicables y auditables, auditoría y control externo de las tecnologías aplicadas, los datos e imágenes almacenadas.

  
  • Para que la tarea de fiscalización y control por parte de la sociedad civil se pueda llevar a cabo de manera rigurosa, los procesos de diseño y pruebas de los sistemas, incluyendo las bases de datos utilizadas para calibrar los algoritmos, deben ponerse a disposición de auditorías independientes y personas afectadas.

  ---

  ADHESIONES:

  – Acollim Cerdanyola-Ripollet

  – Afroféminas

  – Alba Sud

  – Algorace

  – Algorights – Por una IA aliada de los Derechos Humanos

  – Alianza por la Solidaridad – Alternativa Antimilitarista. Moc / ADNV  – Asamblea de Apoyo a Personas Migrantes de Salamanca – ASPA (Asociación andaluza por la solidaridad y la paz) – Asociación Mujeres de Guatemala – Asociación de Mujeres Migrantes y Diversas

  – Asociación Pro Derechos Humanos Andalucía (APDHA)

  – Associació Atzavara – arrels

  – Associació Avizor

  – Associació Cultural 9 barris

  – Associació de Software Lliure Decidim

  – Barcelona Science and Technology Studies Group (STS-b)

  – Boza Sur

  – Bit Lab Cultural Cooperativa

  – Caminando Fronteras

  – Campanya CIE No

  – Canòdrom – Ateneu d’Innovació Digital i Democràtica

  – Caravana Obrim Fronteres

  – Centre de Drets Humans Irídia

  – Centre Delàs – CENTRO INTERNACIONAL PARA LA IDENTIFICACIÓN DE MIGRANTES DESAPARECIDOS-CIPIMD – CGT Ceuta Acción Social

  – CGT Melilla

  – CIEMEN – Centre Internacional Escarré per a les minories ètniques i les nacions

  – Conciencia Afro

  – Coordinadora de barrios, Madrid

  – Coordinadora Obrim Fronteres

  – DataForGoodBCN

  – Digital Fems

  – Donestech

  – Elite taxi

  – Europe Cares

  – Ensorrem Fronteres

  – Equipo Decenio Afrodescendiente

  – European Digital Rights (EDRi)

  – FeminismIA – Forn de teatre Pa’tothom – Fotomovimiento

  – Fundació Autònoma Solidària

  – Girona Acull

  – Institut Drets Humans Catalunya

  – Intered

  – Justícia i Pau

  – Kemet Zaragoza

  – Lafede.cat –  Organitzacions per la Justícia Global

  – La Floresta Contra Fronteres

  – Maakum Ceuta

  – Munay Formación Antirracista y Decolonial

  – No Amb la Guerra – Educació per la pau

  – Novact – No Name Kitchen

  – Núria Social

  – Observatori de Drets Humans i Empresa

  – Observatori DESC

  – OACU – Observatori d’Antropologia del Conflicte Urbà

  – Observatori d’Ètica en Intel·ligència Artificial de Catalunya

  – Oxfam Intermon

  – Plataforma 12D – Plataforma Benvinguts Refugiats Menorca

  – Putas Indignadas

  – Putas Libertarias Raval

  – Red Acoge

  – Red de Mujeres Latinoamericanas y del Caribe

  – REDESSCAN (Red Canaria defensa de los Servicios Sociales)

  – RegularizaciónYa

  – Resilience Earth

  – RidersXDerechos

  – Rights International Spain

  – Sant Just Solidari

  – Servei Civil Internacional de Catalunya (SCI)

  – Servicio Doméstico Activo (SEDOAC)

  – Sindicato de Manteros de BCN

  – Sindicato de Manteros de Madrid

  – Social Project 4.0

  – Solidary Wheels

  – SOS Racisme Catalunya  – SOS Racismo Galicia

  – SOS Racismo Madrid

  – Stop Mare Mortum

  – Tanquem els CIEs Barcelona

  – Taxi project

  – Teatro Sin Papeles

  – Unitat contra el Feixisme i el Racisme – UCFR  – ViT Foundation (Visualization for Transparency) – Xarxa de Suport Mutu Alt Empordà Total: 84 Adhesiones individuales: Adela Caamaño García Adrián Rodríguez Aida Martinez Francos Albert Sabater Coll Ana Casanova Ana Valdivia Anaïs Madera Anaïs Vila Andrea Belén Serrano Paredes Àngel Querol Prades Angélica Cuero Anna Celma Anna Ramis Assens Bani Brusadin Berenice Zambrano Brenda Navarro Bru Aguiló Carla Pan Vilanova Carla Puertas Carolina Romero Cristina Escarmis Homs Coline Schupfer Cristina Riera Daniel García Blanco David Diaz Garcia David Moriña Dora Hardy Elisabet Roselló Roman // Postfuturear Eloi Badia Esther Paniagua Gómez Fátima Fernández Faustino Donoso Caro Feliu Madaula Canadell Francesca Latini Francisco Francisco Sevillano Garcia Gala Pin Guadalupe Ponce García Guillermo Miñones Helios F. Garcés Hendaya Miranda Hontanares Arranz Peña Houssam Bakkali Ilia Laura Lorenzo Calvo Javier Arredondo Javier Fernández Javier Sanchez Joaquina Borrego Laso Jordi Ayala Jordi Llurba Jordi Ortiz I Lombardía José L. Aznarte (Departamento de IA – UNED) Josema Juan Linares-Lanzman Judith Membrives i Llorens Julia Baquero Navarra Júlia Barceló Júlia Gonzalo Julie Wark Khadidjatou Fall Koldobi Velasco Vázquez Laura Alonso da Costa Liliana Arroyo Moliner Lluís Pastells Ferrer Maialen Ezkioga Maite Echarte Majo Pulido Manuela Valenzuela María Angosto González María Antúnez María Jesús Monedero Isorna Maria Jose Calvo María Salvador Mariona Planiol Marita Zambrana Vega Marta Pareja Mercedes Zarco Moha Gerehou Moisès Subirana Iborra Nataly Carreño Nerea Basauri Nieves Nartínez Nuria Núria Pàmies Martorell Núria Valles Núria Ramos Geli Oriol Daviu Castilla Pablo Aragón Patricia Cantarell Patricia del Álamo Retamal Paula Boet Paula Casimiro Paula Guerra Cáceres Pepa Picas Martínez Pilar Aguilar Milan Quique Abad Ramon Balcells Crusellas Raquel Bonell Redwan Baddouh Bejja Rosalia Molina Sandra Anitua Safwan Mahd Selene Buendia Vilches Selene Gálvez Langarita Sergio Espín Silvia Llanto Sofia Catala Vidal Sònia Ros Stéphane M. Grueso Teresa Ferré Panisello Teresa González de Chávez Fernández Toni Navarro Thai Jungpanich Valentín García Veronika Arauzo Victor Nave Violeta Assiego Yeda Lorenzo Calvo Youssef M. Ouled

  ---

  RECOGIDA DE ADHESIONES:

  Si quieres adherir tu organización o a título individual, rellena el siguiente formulario. Los datos serán recopilados con el único fin de añadir las adhesiones al manifiesto. Actualizamos el listado manualmente así que puede ser que tardes unas horas en ver tu organización o nombre.

  Nombre de la organización o persona individual(obligatorio)

  Correo electrónico (obligatorio)

  Si quieres añadir algo más, utiliza este campo:

  Enviar solicitud de adhesión

  ---

  Δ