La implantación de la Inteligencia Artificial en frontera y la vulneración de derechos

  • Recientemente ha aparecido en prensa la noticia sobre la voluntad del gobierno español de aplicar la llamada «frontera inteligente» en los pasos fronterizos de Ceuta y Melilla con el fin de ejercer un mayor control de seguridad mediante el uso de inteligencia artificial a través de la recogida de datos biométricos (reconocimiento facial, huellas dactilares…). Frente a esta noticia, las abajo firmantes manifestamos nuestra preocupación y creemos necesario alertar de los peligros asociados a este tipo de decisiones políticas que conlleva el uso de la inteligencia artificial.


    Los duros controles fronterizos son espacios de potencial vulneración de derechos:


    Vulneración de derechos fundamentales: el impacto en los derechos básicos que puede tener en un futuro la recopilación de datos biométricos como ya ocurre en aplicación del Convenio de Dublín. Los traslados de personas solicitantes de asilo de un estado miembro a otro en contra de su voluntad, en aumento en los últimos años, han sido, en parte, propiciadas por la recopilación de datos
    biométricos
    , como sus huellas dactilares.


    Violación de la privacidad: los datos biométricos son datos intrínsecos a las personas. La recopilación de datos biométricos en personas sin pasaporte europeo no cumple con el principio de proporcionalidad. Estas personas se encuentran a menudo en situación de vulnerabilidad y no se tienen en cuenta las consecuencias no deseadas de disponer de unos datos biométricos de personas que no cuentan con mecanismos de protección, garantía, y reparación adecuados.


    Discriminación y criminalización. La aplicación de la “frontera inteligente” como un elemento de lucha contra el terrorismo supone un peligro de discriminación y criminalización y la convierte en un nuevo dispositivo racista dentro del Estado Español. Las políticas antiterroristas a menudo han resultado una herramienta de propagación de la islamofobia, que han tenido como consecuencia un rechazo generalizado hacia la población migrante y racializada. Es de sobra conocido que los algoritmos de reconocimiento facial suelen arrojar falsos positivos y falsos negativos en rostros no caucásicos, lo cual, en este contexto concreto, podría suponer graves consecuencias para personas identificadas erróneamente como sospechosas de actos terroristas. La utilización de IA para el control fronterizo profundizaría la estigmatización y criminalización de grupos de personas que ya se encuentran en una gran situación de vulnerabilidad y/o exclusión.


    Transparencia y auditabilidad. El procedimiento adolece de una falta de transparencia tanto en la forma, como en el fondo. Tampoco se menciona la auditabilidad y publicidad de los algoritmos. Por las informaciones conocidas, no se habla de que los algoritmos que se empleen sean auditables y/o explicables, tampoco de mecanismos de trazabilidad que permitan supervisión humana ni de políticas de protección de datos.


    Mecanismos de control y revisión. Resulta imprescindible incorporar mecanismos de control y revisión de los procedimientos algorítmicos que permitan enmendar errores de manera ágil por grupos de personas independientes en los que han de poder participar entidades en defensa de los derechos humanos y antirracistas. El uso de estos sistemas de reconocimiento facial supone una doble securitización del proceso, que estigmatiza pero también diluye la responsabilidad humana y política ante los daños, efectos indeseados o consecuencias negativas de su uso.

    Por todo ello, la aplicación de mecanismos de inteligencia artificial en el control fronterizo supone un peligro de vulneración de derechos humanos, discriminación, criminalización y violación de la privacidad.


    Por ello exigimos:


    • La aplicación de la regulación de la IA y protección de datos elaborada por la Comisión Europea también a contextos y situaciones que se consideran de tipo “securitario”, no puede haber vacío legal en este ámbito.


    • La derogación del Reglamento UE 2017/2226 del Parlamento Europeo y del Consejo 30/11 /17 que permite el reconocimiento facial.


    • La necesidad de información y consentimiento informado ante el uso de estos sistemas, incluso si se llegan a aplicar y desplegar.


    • Incorporación sistemática de observadores de derechos humanos en las actuaciones en frontera.


    • Aplicación de tecnologías explicables y auditables, auditoría y control externo de las tecnologías aplicadas, los datos e imágenes almacenadas.


    • Para que la tarea de fiscalización y control por parte de la sociedad civil se pueda llevar a cabo de manera rigurosa, los procesos de diseño y pruebas de los sistemas, incluyendo las bases de datos utilizadas para calibrar los algoritmos, deben ponerse a disposición de auditorías independientes y personas afectadas.


    ADHESIONES:

    Acollim Cerdanyola-Ripollet 
    Afroféminas
    Alba Sud
    Algorace
    Alianza por la Solidaridad

    Alternativa Antimilitarista. Moc / ADNV 

    Asamblea de Apoyo a Personas Migrantes de Salamanca

    Asociación Mujeres de Guatemala

    Asociación de Mujeres Migrantes y Diversas
    Asociación Pro Derechos Humanos Andalucía (APDHA) 
    Associació Atzavara – arrels
    Associació Avizor
    – Associació Cultural 9 barris 
    Associació de Software Lliure Decidim
    Barcelona Science and Technology Studies Group (STS-b)
    Boza Sur
    Bit Lab Cultural Cooperativa
    Caminando Fronteras
    Campanya CIE No
    Canòdrom – Ateneu d’Innovació Digital i Democràtica
    Caravana Obrim Fronteres
    Centre de Drets Humans Irídia
    Centre Delàs

    CGT Ceuta Acción Social
    CGT Melilla
    CIEMEN – Centre Internacional Escarré per a les minories ètniques i les nacions 
    Conciencia Afro
    Coordinadora de barrios, Madrid
    Coordinadora Obrim Fronteres
    DataForGoodBCN
    Digital Fems
    Donestech
    Elite taxi 
    Europe Cares
    – Ensorrem Fronteres
    Equipo Decenio Afrodescendiente
    FeminismIA

    Forn de teatre Pa’tothom

    Fotomovimiento
    Fundació Autònoma Solidària
    Girona Acull
    Institut Drets Humans Catalunya 
    Intered
    Justícia i Pau
    Kemet Zaragoza
    Lafede.cat –  Organitzacions per la Justícia Global
    La Floresta Contra Fronteres
    Maakum Ceuta
    Munay Formación Antirracista y Decolonial
    No Amb la Guerra – Educació per la pau
    Novact

    No Name Kitchen
    Núria Social
    Observatori de Drets Humans i Empresa 
    Observatori DESC
    OACU – Observatori d’Antropologia del Conflicte Urbà
    Observatori d’Ètica en Intel·ligència Artificial de Catalunya
    Oxfam Intermon
    Plataforma 12D

    Plataforma Benvinguts Refugiats Menorca
    Putas Indignadas
    Putas Libertarias Raval
    Red Acoge
    Red de Mujeres Latinoamericanas y del Caribe
    REDESSCAN (Red Canaria defensa de los Servicios Sociales)
    RegularizaciónYa 
    Resilience Earth
    RidersXDerechos 
    Rights International Spain 
    Sant Just Solidari
    Servei Civil Internacional de Catalunya (SCI)
    Servicio Doméstico Activo (SEDOAC)
    Sindicato de Manteros de BCN
    Sindicato de Manteros de Madrid 
    Social Project 4.0
    Solidary Wheels
    SOS Racisme Catalunya 

    SOS Racismo Galicia
    SOS Racismo Madrid
    Stop Mare Mortum
    Tanquem els CIEs Barcelona 
    Taxi project 
    Teatro Sin Papeles
    Unitat contra el Feixisme i el Racisme – UCFR 

    ViT Foundation (Visualization for Transparency)

    Xarxa de Suport Mutu Alt Empordà

    Total: 84

    Adhesiones individuales:

    Adela Caamaño García
    Adrián Rodríguez
    Aida Martinez Francos
    Albert Sabater Coll
    Ana Casanova
    Ana Valdivia
    Anaïs Madera
    Anaïs Vila
    Andrea Belén Serrano Paredes
    Àngel Querol Prades
    Angélica Cuero
    Anna Celma
    Anna Ramis Assens
    Bani Brusadin
    Berenice Zambrano
    Brenda Navarro
    Bru Aguiló
    Carla Pan Vilanova
    Carla Puertas
    Carolina Romero
    Cristina Escarmis Homs
    Coline Schupfer
    Cristina Riera
    Daniel García Blanco
    David Diaz Garcia
    David Moriña
    Dora Hardy
    Elisabet Roselló Roman // Postfuturear
    Eloi Badia
    Esther Paniagua Gómez
    Fátima Fernández
    Faustino Donoso Caro
    Feliu Madaula Canadell
    Francesca Latini
    Francisco
    Francisco Sevillano Garcia
    Gala Pin
    Guadalupe Ponce García
    Guillermo Miñones
    Helios F. Garcés
    Hendaya Miranda
    Hontanares Arranz Peña
    Houssam Bakkali
    Ilia Laura Lorenzo Calvo
    Javier Arredondo
    Javier Fernández
    Javier Sanchez
    Joaquina Borrego Laso
    Jordi Ayala
    Jordi Llurba
    Jordi Ortiz I Lombardía
    José L. Aznarte (Departamento de IA – UNED)
    Josema
    Juan Linares-Lanzman
    Judith Membrives i Llorens
    Julia Baquero Navarra
    Júlia Barceló
    Júlia Gonzalo
    Julie Wark
    Khadidjatou Fall
    Koldobi Velasco Vázquez
    Laura Alonso da Costa
    Liliana Arroyo Moliner
    Lluís Pastells Ferrer
    Maialen Ezkioga
    Maite Echarte
    Majo Pulido
    Manuela Valenzuela
    María Angosto González
    María Antúnez
    María Jesús Monedero Isorna
    Maria Jose Calvo
    María Salvador
    Mariona Planiol
    Marita Zambrana Vega
    Marta Pareja
    Mercedes Zarco
    Moha Gerehou
    Moisès Subirana Iborra
    Nataly Carreño
    Nerea Basauri
    Nieves Nartínez
    Nuria
    Núria Pàmies Martorell
    Núria Valles
    Núria Ramos Geli
    Oriol Daviu Castilla
    Pablo Aragón
    Patricia Cantarell
    Patricia del Álamo Retamal
    Paula Boet
    Paula Casimiro
    Paula Guerra Cáceres
    Pepa Picas Martínez
    Pilar Aguilar Milan
    Quique Abad
    Ramon Balcells Crusellas
    Raquel Bonell
    Redwan Baddouh Bejja
    Rosalia Molina
    Sandra Anitua
    Safwan Mahd
    Selene Buendia Vilches
    Selene Gálvez Langarita
    Sergio Espín
    Silvia Llanto
    Sofia Catala Vidal
    Sònia Ros
    Stéphane M. Grueso
    Teresa Ferré Panisello
    Teresa González de Chávez Fernández
    Toni Navarro
    Thai Jungpanich
    Valentín García
    Veronika Arauzo
    Victor Nave
    Violeta Assiego
    Yeda Lorenzo Calvo
    Youssef M. Ouled

    RECOGIDA DE ADHESIONES:

    Si quieres adherir tu organización o a título individual, rellena el siguiente formulario. Los datos serán recopilados con el único fin de añadir las adhesiones al manifiesto. Actualizamos el listado manualmente así que puede ser que tardes unas horas en ver tu organización o nombre.


Crea tu sitio web con WordPress.com
Primeros pasos