{"id":1310,"date":"2021-11-23T21:16:51","date_gmt":"2021-11-23T20:16:51","guid":{"rendered":"https:\/\/escuelasaludable.org\/?p=1310"},"modified":"2021-11-24T08:53:09","modified_gmt":"2021-11-24T07:53:09","slug":"carta-al-gobierno-sobre-los-riesgos-del-reconocimiento-y-analisis-facial","status":"publish","type":"post","link":"https:\/\/escuelasaludable.org\/?p=1310","title":{"rendered":"Carta al Gobierno sobre los riesgos del reconocimiento y an\u00e1lisis facial"},"content":{"rendered":"<h5>Desde el \u00c1rea de digitalizaci\u00f3n y contaminaci\u00f3n electromagn\u00e9tica de Ecologistas en Acci\u00f3n nos solidarizamos con el llamamiento de acad\u00e9micas y acad\u00e9micos de todo el Estado a favor de una MORATORIA sobre el uso del reconocimiento facial (que se desarrollar\u00e1 exponencialmente con el 5G y la inteligencia artificial), por afectar no solo al \u00e1mbito de la privacidad sino fundamentalmente al de la justicia social.<\/h5>\n<h5>Ver abajo la CARTA ABIERTA solicitando una comisi\u00f3n de investigaci\u00f3n independiente para estudiar la necesidad de establecer una moratoria en el uso y comercializaci\u00f3n de sistemas de reconocimiento y an\u00e1lisis facial en el Estado espa\u00f1ol.<\/h5>\n<p>Al Gobierno de Espa\u00f1a:<\/p>\n<p>Mediante esta carta abierta PEDIMOS al gobierno una comisi\u00f3n de investigaci\u00f3n que estudie la necesidad de establecer una MORATORIA en el uso y comercializaci\u00f3n de sistemas de reconocimiento y an\u00e1lisis facial por parte de empresas p\u00fablicas y privadas hasta que la Cortes Generales y las instituciones legislativas europeas debatan cu\u00e1les, de qu\u00e9 manera, en qu\u00e9 condiciones, con qu\u00e9 garant\u00edas y con qu\u00e9 objetivos debe permitirse, si cabe, el uso de estos sistemas.<\/p>\n<p>Con regularidad se publican en medios generalistas y especializados noticias acerca de nuevos usos masivos para estos sistemas. A modo de ejemplo reciente podemos citar el caso de RENFE, que ha publicado (y luego retirado) una licitaci\u00f3n para desarrollar un sistema de reconocimiento y an\u00e1lisis que, entre otras cosas, deb\u00eda permitir identificar el g\u00e9nero, la etnia o incluso el estado emocional de usuarias y usuarios<sup>1<\/sup>. Asimismo, dicho sistema deb\u00eda poder analizar las <strong>im\u00e1genes<\/strong> y alertar acerca de \u201cpeleas\u201d o \u201cactitudes antisociales\u201d. Sistemas similares ya est\u00e1n disponibles para entornos educativos, laborales<sup>2<\/sup>, sanitarios, de ocio y muchos otros, tanto p\u00fablicos<sup>3 4<\/sup> como privados<sup>5<\/sup>.<\/p>\n<p>La preocupaci\u00f3n que motiva esta carta tiene que ver con los potenciales efectos perniciosos que estos sistemas pueden tener sobre el bienestar, los intereses y las necesidades y derechos fundamentales<sup>6<\/sup> de la poblaci\u00f3n espa\u00f1ola en general. Por ello nos parece necesario que el Gobierno intervenga de manera r\u00e1pida antes de que estos sistemas contin\u00faen expandi\u00e9ndose y se conviertan en est\u00e1ndares de facto, a pesar de la intromisi\u00f3n que suponen en la esfera privada de las personas sin su consentimiento expl\u00edcito. Est\u00e1n en juego cuestiones fundamentales de justicia social, dignidad humana, equidad, igualdad en el trato e inclusi\u00f3n.<\/p>\n<p>Los sistemas de reconocimiento y an\u00e1lisis de im\u00e1genes de personas (de sus caras, gestos, peinados, posturas y movimientos corporales, vestimenta, texturas y\/o colores de piel) y, por extensi\u00f3n, los algoritmos de aprendizaje autom\u00e1tico que los sustentan computacionalmente tienen graves problemas que han sido ampliamente documentados y discutidos por la comunidad cient\u00edfica y entidades gubernamentales y civiles<sup>7<\/sup>. A continuaci\u00f3n, presentamos una breve selecci\u00f3n:<\/p>\n<ul>\n<li>Asociar a una persona una determinada caracter\u00edstica o tendencia (normalmente representada a trav\u00e9s de una puntuaci\u00f3n individual) con base en estad\u00edsticas poblacionales es altamente problem\u00e1tico, tanto desde un punto de vista epist\u00e9mico como \u00e9tico. La puntuaci\u00f3n individual (un <em>score<\/em> o un porcentaje probabil\u00edstico) puede identificar a un estudiante como probable tramposo, a un posible cliente de un banco como potencial moroso debido a que otros \u201csimilares a \u00e9l\u201d han sido morosos, o a una candidata a un puesto de trabajo como poco concienzuda, debido tambi\u00e9n a que candidatas de perfil similar han resultado ser poco concienzudas. Es muy problem\u00e1tico cuando un sistema toma decisiones operativas que afectan a personas individuales con base en predicciones que pueden ser v\u00e1lidas \u00fanicamente a nivel de grupo. Que una persona sea clasificada en una categor\u00eda o perfil determinados no determina su comportamiento futuro, esto viola la idea fundamental de que los seres humanos tenemos <em>libre albedr\u00edo<\/em> y que nuestro comportamiento no est\u00e1 determinado de antemano, sino que disfrutamos de un espacio de libertad de decisi\u00f3n y prop\u00f3sito. Las eventuales predicciones que se puedan hacer s\u00f3lo son v\u00e1lidas a nivel colectivo y nunca deber\u00edan transformarse en decisiones automatizadas que afecten a las personas a nivel individual.<\/li>\n<li>En l\u00ednea con lo anterior, hay suficientes evidencias que indican que asociar posturas, gestos, rasgos faciales, colores de piel, peinados o prendas de vestir a posibles comportamientos \u201cproblem\u00e1ticos\u201d, capacidades intelectuales o econ\u00f3micas puede resultar en clasificaciones racistas, clasistas y\/o sexistas<sup>8<\/sup>. Estas clasificaciones, no cuentan, adem\u00e1s, con base cient\u00edfica<sup>9<\/sup> y est\u00e1n claramente asociadas a experimentos nefastos del pasado como la eugenesia, la frenolog\u00eda o la criminal\u00edstica de Lombroso. M\u00e1s all\u00e1 de correlaciones estad\u00edsticas que no implican relaciones causa-efecto, no hay modelos cient\u00edficos aceptados en psicolog\u00eda, antropolog\u00eda o sociolog\u00eda que indiquen que un tipo de nariz, un rictus particular o una manera de andar sean predictores adecuados de comportamientos individuales futuros. Por ejemplo, la probabilidad de delinquir, de aprender historia o ingenier\u00eda o de desempe\u00f1arse correctamente en un trabajo no dependen de ninguna de esas variables que los sistemas de reconocimiento facial recogen y analizan para clasificar a las personas y tomar decisiones sobre ellas.<\/li>\n<li>En los sistemas de reconocimiento y an\u00e1lisis facial resulta especialmente complejo explicar por qu\u00e9 motivo y con base en qu\u00e9 criterios se ha clasificado a una persona en tal o cual categor\u00eda. Por esta dificultad para establecer una relaci\u00f3n clara entre la entrada de datos y la predicci\u00f3n o recomendaci\u00f3n de salida, los algoritmos de aprendizaje necesarios para estos sistemas se consideran <em>cajas negras<\/em> cuya opacidad dificulta saber c\u00f3mo toman sus decisiones y en qu\u00e9 criterios las basan. Adem\u00e1s, las propias categor\u00edas se integran en la caja negra aumentando, si cabe, su opacidad. Si bien es t\u00e9cnica y te\u00f3ricamente posible desarrollar sistemas m\u00e1s transparentes, los sistemas actuales no est\u00e1n especialmente dise\u00f1ados para permitir una rendici\u00f3n de cuentas que se ajuste a los requerimientos de una sociedad democr\u00e1tica.<\/li>\n<li>Estos sistemas adem\u00e1s son poco robustos ya que la calidad de sus resultados es altamente dependiente de cuestiones contextuales. Por ejemplo, que el sistema sea utilizado en condiciones de luz similares a las de las im\u00e1genes utilizadas para el \u201centrenamiento\u201d del sistema. Cuando las condiciones difieren de las utilizadas durante el entrenamiento los resultados pueden no ser correctos dando lugar tanto a falsos positivos como a falsos negativos<sup>10<\/sup>. Incluso desde el \u00e1mbito privado hay resistencia al uso de esta tecnolog\u00eda por sus debilidades<sup>11<\/sup>.<\/li>\n<li>Es f\u00e1cil que un sesgo muestral afecte de manera notable la calidad predictiva de un sistema cuando diferentes grupos no est\u00e1n representados de forma igualitaria en los datos de entrenamiento. Por ejemplo, aplicaciones de radiolog\u00eda que exhiben \u00edndices de \u00e9xito predictivo altamente prometedores en personas de piel clara muestran resultados mucho peores con personas de piel m\u00e1s oscura<sup>12<\/sup>.<\/li>\n<\/ul>\n<p>Debido a las graves deficiencias y riesgos que presentan estos sistemas, los posibles beneficios que quiz\u00e1s podr\u00edan ofrecer no compensan de ninguna manera sus potenciales efectos negativos, en especial para los grupos y colectivos que suelen sufrir injusticias y tratos discriminatorios: entre otros, mujeres, personas LGTBIQ+<sup>13<\/sup>, personas racializadas, migrantes, personas con discapacidad o personas en situaci\u00f3n de pobreza y riesgo de exclusi\u00f3n social.<\/p>\n<p>No hemos comentado aqu\u00ed otra gama de cuestiones relevantes como el profundo condicionamiento coercitivo que trae aparejada una vigilancia ubicua. Tampoco hemos considerado cuestiones de privacidad, seguridad o el consentimiento para la recogida y tratamiento de los datos (algo que en investigaci\u00f3n con humanos es absolutamente necesario, y que no parece estar siendo aplicado en la utilizaci\u00f3n de estos sistemas)<sup>14<\/sup> y hemos preferido concentrarnos en cuestiones de justicia social e igualdad. Sin embargo, vale la pena apuntar que se trata de problemas interrelacionados, dado que los datos recogidos mediante sistemas para reconocimiento y an\u00e1lisis facial potencian los riesgos y efectos negativos en los otros \u00e1mbitos.<\/p>\n<p>Existe pues una variada gama de razones (tanto t\u00e9cnicas como \u00e9ticas) que JUSTIFICAN la creaci\u00f3n de una comisi\u00f3n para investigar la necesidad de una moratoria, que nosotros consideramos imprescindible y urgente. Sugerimos que esta comisi\u00f3n sea independiente y est\u00e9 compuesta por cient\u00edficos, juristas, expertos en \u00e9tica e inteligencia artificial y por miembros de la sociedad civil, especialmente de aquellos colectivos que pueden verse <em>prima facie<\/em> afectados por estos sistemas. Es muy importante, adem\u00e1s, aprovechar esta oportunidad para llevar a cabo un profundo debate social acerca del rol que estos sistemas pueden jugar en nuestras vidas y bajo qu\u00e9 condiciones.<\/p>\n<p><strong>Firmantes (en orden alfab\u00e9tico)<\/strong><\/p>\n<p>Uju\u00e9 Agudo D\u00edaz, <em>Responsable de Bikolabs<\/em>, Biko.<\/p>\n<p>Patricia Amigot Leache, <em>Profesora Dpto. Sociolog\u00eda y Trabajo Social<\/em>, Universidad P\u00fablica de Navarra (UPNA).<\/p>\n<p>Pablo Arag\u00f3n, <em>Profesor Asociado<\/em>, Universitat Pompeu Fabra.<\/p>\n<p>Ignacio Arganda Carreras, <em>Ikerbasque Research Associate<\/em>, Universidad del Pa\u00eds Vasco\/ Euskal Herriko Unibertsitatea.<\/p>\n<p>C\u00e9sar Astudillo Gonz\u00e1lez, <em>Asesor Independiente de Dise\u00f1o Estrat\u00e9gico e Innovaci\u00f3n Profesor<\/em> <em>Asociado \/ Program Leader &#8211; Masters in Design and Innovation<\/em>, Istituto Europeo di Design (Madrid).<\/p>\n<p>Txetxu Aus\u00edn, <em>Cient\u00edfico Titular<\/em>, Instituto de Filosof\u00eda, CSIC.<\/p>\n<p>Jos\u00e9 L. Aznarte, <em>Profesor titular del departamento de IA y Vicerrector adjunto de Digitalizaci\u00f3n e<\/em> <em>Innovaci\u00f3n<\/em>, UNED.<\/p>\n<p>Manuela Battaglini Manrique de Lara, <em>Abogada y consultora de \u00c9tica Digital, CEO,<\/em> Transparent Internet.<\/p>\n<p>Alejandro Benito-Santos, <em>Investigador Postdoctoral,<\/em> Universidad de Salamanca.<\/p>\n<p>Ana Bravo, <em>Profesora contratado doctor,<\/em> Universidad de Murcia.<\/p>\n<p>Marcel Cano Soler, <em>Profesor asociado,<\/em> Universidad de Barcelona, Universidad de Vic.<\/p>\n<p>David Casacuberta, <em>Profesor de filosof\u00eda<\/em>, Universidad Aut\u00f3noma de Barcelona.<\/p>\n<p>Diego Casado Mansilla, <em>Profesor e investigador (ayudante doctor)<\/em>, Facultad de ingenier\u00eda, Universidad de Deusto.<\/p>\n<p>Mario Castro Ponce, <em>Catedr\u00e1tico de Universidad,<\/em> Universidad Pontificia Comillas.<\/p>\n<p>Diego Cenzano Cestafe, <em>CEO<\/em>, Biko.<\/p>\n<p>Laura Cl\u00e8ries Garc\u00eda, <em>Directora de Elisava Research<\/em>, Facultad de Dise\u00f1o e Ingenier\u00eda Elisava.<\/p>\n<p>Jes\u00fas Conill Sancho, <em>Catedr\u00e1tico de Filosof\u00eda Moral,<\/em> Universidad de Valencia.<\/p>\n<p>Adela Cortina, <em>Catedr\u00e1tica Em\u00e9rita de \u00c9tica y Filosof\u00eda Pol\u00edtica,<\/em> Universidad de Valencia.<\/p>\n<p>Pilar Dellunde, <em>Catedr\u00e1tica Universitaria e Investigadora,<\/em> IIIA-CSIC.<\/p>\n<p>Lorena Fern\u00e1ndez \u00c1lvarez, <em>Directora de comunicaci\u00f3n digital<\/em>, Universidad de Deusto.<\/p>\n<p>Jorge Flores Fern\u00e1ndez, <em>Director<\/em>, PantallasAmigas.<\/p>\n<p>Luis Fuentes Melero, <em>Catedr\u00e1tico de Universidad<\/em>, Universidad de Murcia.<\/p>\n<p>Albert Fuster Mart\u00ed, <em>Director acad\u00e9mico<\/em>, Facultad de Dise\u00f1o e Ingenier\u00eda Elisava.<\/p>\n<p>Gemma Galdon Clavell, <em>Presidenta<\/em>, Fundaci\u00f3n Eticas <u>www.eticasfoundation.org<\/u>.<\/p>\n<p>Daniel Gamper, <em>Profesor Titular de Filosofia Pol\u00edtica,<\/em> Universitat Aut\u00f3noma de Barcelona.<\/p>\n<p>Pablo Garaizar Sagarminaga, <em>Profesor\/investigador<\/em>, Universidad de Deusto.<\/p>\n<p>Andrea Garc\u00eda Rodr\u00edguez, <em>Investigadora<\/em> , CIDOB (Barcelona Centre for International Affairs).<\/p>\n<p>I\u00f1igo Gonz\u00e1lez Ricoy, <em>Profesor agregado de Filosof\u00eda,<\/em> Universitat de Barcelona.<\/p>\n<p>Ariel Guersenzvaig, <em>Profesor titular<\/em>, Facultad de Dise\u00f1o e Ingenier\u00eda Elisava.<\/p>\n<p>Yusef Hassan Montero, <em>Director del M\u00e1ster de Dise\u00f1o de Experiencia de Usuario ,<\/em> Universidad Internacional de la Rioja.<\/p>\n<p>Angel Ferr\u00e1ndez Izquierdo, <em>Catedr\u00e1tico de Universidad,<\/em> Universidad de Murcia.<\/p>\n<p>Miren Itziar Laka Mugarza, <em>Catedr\u00e1tica del Departamento de Ling\u00fc\u00edstica y Estudios Vascos,<\/em> Universidad del Pa\u00eds Vasco\/ Euskal Herriko Unibertsitatea.<\/p>\n<p>Simona Levi, <em>XNet<\/em>, XNet.<\/p>\n<p>Karlos G. Liberal, <em>Responsable de Bikolabs<\/em>, Biko.<\/p>\n<p>Rosa Llop, <em>Profesora e investigador residente,<\/em> Hangar, Centro de Investigaci\u00f3n y Producci\u00f3n Art\u00edstica. \/ Facultad de Dise\u00f1o e Ingenier\u00eda Elisava.<\/p>\n<p>Jos\u00e9 Antonio Llorente Sesma, <em>Profesor asociado MU y Doctorando UOC,<\/em> MU Facultad de empresariales, Mondrag\u00f3n Unibertsitatea.<\/p>\n<p>M\u00aa Teresa L\u00f3pez de la Vieja, <em>Catedr\u00e1tica<\/em>, Universidad de Salamanca.<\/p>\n<p>Cristina L\u00f3pez Tarrida, <em>Ingeniero, Analista de Contrainteligencia,<\/em> Profesional independiente.<\/p>\n<p>Ramon L\u00f3pez de M\u00e1ntaras, <em>Premio Nacional de Investigaci\u00f3n \u00abJulio Rey Pastor\u00bb en Matem\u00e1ticas y<\/em> <em>TIC 2018<\/em>, Institut d&#8217;Investigaci\u00f3 en Intel.lig\u00e8ncia Artificial CSIC.<\/p>\n<p>Nerea Luis Mingueza, <em>Doctora, divulgadora y profesora asociada<\/em>, Universidad\/instituci\u00f3n UNIR y Universidad Nebrija.<\/p>\n<p>David Luque Ruiz, <em>Investigador (Captaci\u00f3n de Talento, Senior),<\/em> Universidad Aut\u00f3noma de Madrid.<\/p>\n<p>Pablo Malo Ocejo, <em>Psiquiatra<\/em>, Red de Salud Mental de Bizkaia. Osakidetza.<\/p>\n<p>Pablo Mart\u00edn, <em>CTO<\/em>, Political Watch.<\/p>\n<p>Manuel Mart\u00edn-Loeches Garrido, <em>Catedr\u00e1tico de Psicobiolog\u00eda<\/em>, Universidad Complutense de Madrid.<\/p>\n<p>Juan Ram\u00f3n Mart\u00edn San Rom\u00e1n, <em>Profesor Encargado de C\u00e1tedra Facultad de Comunicaci\u00f3n,<\/em> Universidad Pontificia de Salamanca.<\/p>\n<p>Laureano Martinez, <em>Profesor Ayudante Doctor<\/em>, Universidad P\u00fablica de Navarra.<\/p>\n<p>Emilio Mart\u00ednez Navarro , <em>Catedr\u00e1tico de Filosof\u00eda Moral y Pol\u00edtica, Director del Departamento de<\/em> <em>Filosof\u00eda, <\/em>Facultad de Filosof\u00eda de la Universidad de Murcia.<\/p>\n<p>Pablo Mart\u00ednez Garrido, <em>Investigador<\/em>, Universidad del Pa\u00eds Vasco \/ Euskal Herriko Unibertsitatea.<\/p>\n<p>Helena Matute Gre\u00f1o, <em>Catedr\u00e1tica de Psicolog\u00eda<\/em>, Universidad de Deusto, Bilbao.<\/p>\n<p>Imanol Miram\u00f3n Monasterio, <em>Editor<\/em>, Editorial Katakrak.<\/p>\n<p>N\u00faria Sara Miras Boronat, <em>Profesora agregada Facultad de Filosof\u00eda,<\/em> Universitat de Barcelona.<\/p>\n<p>Luis Montero Montero, <em>Autor<\/em>, Pensar el dise\u00f1o.<\/p>\n<p>Roger Paez i Blanch, <em>Profesor titular e investigador,<\/em> Facultad de Dise\u00f1o e Ingenier\u00eda Elisava.<\/p>\n<p>M\u00aa Jos\u00e9 Pedraja Linares, <em>Profesora Titular<\/em>, Departamento de Psicolog\u00eda B\u00e1sica y Metodolog\u00eda, Universidad de Murcia.<\/p>\n<p>&nbsp;<\/p>\n<p>Javier Pe\u00f1a Andr\u00e9s, <em>Director Cient\u00edfico<\/em>, Facultad de Dise\u00f1o e Ingenier\u00eda Elisava.<\/p>\n<p>Juan Ignacio P\u00e9rez Iglesias, <em>Director de la C\u00e1tedra de Cultura Cient\u00edfica<\/em>, Universidad del Pa\u00eds Vasco.<\/p>\n<p>Angel Puyol, <em>Catedr\u00e1tico de \u00c9tica<\/em>, Universitat Aut\u00f2noma de Barcelona.<\/p>\n<p>Emmanuel Rodr\u00edguez L\u00f3pez, <em>Editor<\/em>, Traficantes de Sue\u00f1os.<\/p>\n<p>David Rodr\u00edguez-Arias, <em>Profesor Titular<\/em>, Universidad de Granada.<\/p>\n<p>Bego\u00f1a Rom\u00e1n Maestre, <em>Profesora agregada Facultad de Filosofia<\/em>, Universidad de Barcelona.<\/p>\n<p>Charo S\u00e1daba, <em>Profesora titular<\/em>, Facultad de Comunicaci\u00f3n, Universidad de Navarra.<\/p>\n<p>Javier S\u00e1nchez Monedero, <em>Investigador Distinguido \u00abBeatriz Galindo\u00bb<\/em>, Universidad de C\u00f3rdoba.<\/p>\n<p>Ramon Sang\u00fcesa Sol\u00e9, <em>Profesor Titular<\/em>, Dept. Ciencias de la Computaci\u00f3n. Universitat Polit\u00e8cnica de Catalunya.<\/p>\n<p>Rodrigo Santamar\u00eda, <em>Profesor Titular del Departamento de Inform\u00e1tica y Autom\u00e1tica,<\/em> Universidad de Salamanca.<\/p>\n<p>Borja Sanz Urquijo, <em>Profesor e Investigador Facultad Ingenier\u00eda,<\/em> Universidad de Deusto.<\/p>\n<p>Carles Sierra, <em>Director Institut d\u2019Investigaci\u00f3 en Intel\u00b7lig\u00e8ncia Artificial<\/em>, IIIA-CSIC.<\/p>\n<p>Ofelia Tejerina Rodr\u00edguez, <em>Presidenta,<\/em> Asociaci\u00f3n de Internautas.<\/p>\n<p>Roberto Ther\u00f3n S\u00e1nchez, <em>Profesor Titular, Ciencia de la Computaci\u00f3n e Inteligencia Artificial,<\/em> Universidad de Salamanca.<\/p>\n<p>Ana Valdivia, <em>Research Associate<\/em>, King\u2019s College London (UK).<\/p>\n<p>Carissa V\u00e9liz, <em>Profesora Asociada,<\/em> Universidad de Oxford.<\/p>\n<p>Francisco R. Villatoro Machuca, <em>Profesor Titular de Ciencia de la Computaci\u00f3n e Inteligencia Artificial,<\/em> Universidad de M\u00e1laga.<\/p>\n<p>&nbsp;<\/p>\n<p><strong>Adhesiones:<\/strong><\/p>\n<p>Amparo Mu\u00f1oz Ferriol, <em>Profesora asociada,<\/em> Universidad de Valencia.<\/p>\n<p>Bani Brusadin, <em>Profesor asociado, PhD,<\/em> Universidad de Barcelona.<\/p>\n<p>Daniel Azagra Rueda, <em>Catedr\u00e1tico de An\u00e1lisis Matem\u00e1tico,<\/em> Universidad Complutense de Madrid.<\/p>\n<p>Nuria Cuadrado Gamarra, <em>Profesora de Derecho inform\u00e1tico,<\/em> Universidad Complutense de Madrid.<\/p>\n<p>Mar\u00eda L\u00f3pez Belloso, <em>Post doctoral researcher,<\/em> Universidad de Deusto.<\/p>\n<p>Ulises Cort\u00e9s, <em>Catedr\u00e1tico de Universidad,<\/em> Universitat Polit\u00e8cnica de Catalunya.<\/p>\n<p>Patrici Calvo Cabezas, <em>Profesor de Filosof\u00eda Moral,<\/em> Universitat Jaume I.<\/p>\n<p>Ricardo Baeza-Yates, <em>Premio Nacional Angela Ruiz Robles 2018, Catedr\u00e1tico de Ciencias de la<\/em> <em>Computaci\u00f3n, <\/em>Universitat Pompeu Fabra y Northeastern University.<\/p>\n<p>Antonio Di\u00e9guez, <em>Catedr\u00e1tico de L\u00f3gica y Filosof\u00eda de la Ciencia,<\/em> Universidad de M\u00e1laga.<\/p>\n<p>Anna Gin\u00e8s i Fabrellas, <em>Profesora Titular de Derecho del Trabajo ,<\/em> Universitat Ramon Llull, Esade.<\/p>\n<p>Juli\u00e1n Est\u00e9vez, <em>Profesor de Ingenier\u00eda e investigador en Rob\u00f3tica e Inteligencia Artificial,<\/em> Universidad del Pa\u00eds Vasco.<\/p>\n<p>Albert Sabater Coll, <em>Professor Serra H\u00fanter. Director de la C\u00e0tedra. Observatori d\u2019\u00c8tica en<\/em> <em>Intel\u00b7lig\u00e8ncia Artificial de Catalunya, <\/em>Universitat de Girona.<\/p>\n<p>Paula Elosua, <em>Catedr\u00e1tica de psicometr\u00eda,<\/em> Universidad del Pa\u00eds Vasco\/ Euskal Herriko Unibertsitatea.<\/p>\n<p>Diego Razquin Elcano, <em>Front end developer,<\/em> Biko.<\/p>\n<p>Eduardo Moratinos S\u00e1nchez, <em>Dise\u00f1ador estrat\u00e9gico y Co-responsable del proyecto brecha.xyz,<\/em> Trabajando desde z49.xyz.<\/p>\n<p>Oier Romillo Lartitegui, <em>Dise\u00f1ador estrat\u00e9gico y Co-responsable del proyecto brecha.xyz,<\/em> Trabajando desde z49.xyz.<\/p>\n<p>Aurora J\u00e1come Fern\u00e1ndez, <em>Arquitecta y Dise\u00f1adora de Servicios. Co-responsable del proyecto<\/em> <em>brecha.xyz, <\/em>Trabajando desde z49.xyz.<\/p>\n<p>Thais Ruiz de Alda, <em>Tecn\u00f3loga. Directora Executiva de Digitalfems,<\/em> Digitalfems.<\/p>\n<p>Josep Mart\u00ednez, <em>Presidente,<\/em> Associaci\u00f3 M\u00e1xima6 (Andorra).<\/p>\n<p>Santi P\u00e9rez Palacio, <em>Consultor UX,<\/em> Biko.<\/p>\n<p>Andr\u00e9s Gonz\u00e1lez Garc\u00eda, <em>CTO,<\/em> cleverdata.io.<\/p>\n<p>Manuel Sesma, <em>Secretario acad\u00e9mico. Dpto. Dise\u00f1o e Imagen,<\/em> Universidad Complutense de Madrid.<\/p>\n<p>Diego Rojas Burguillo, <em>Co-Fundador,<\/em> Thinking With You.<\/p>\n<p>Jon Uriarte, <em>Comisario de programas,<\/em> The Photographers&#8217; Gallery (Londres) y Festival de la Imagen Getxophoto.<\/p>\n<p>Francisco Garrido Pe\u00f1a, <em>Profesor Titular de Filosofia Moral,<\/em> Universidad de Ja\u00e9n.<\/p>\n<p>Cristina de la Cruz-Ayuso, <em>Coordinadora del Comit\u00e9 de \u00c9tica en Investigaci\u00f3n,<\/em> Universidad de Deusto.<\/p>\n<p>Enrique Pampliega, <em>Responsable,<\/em> Un Mundo Complejo. Blog personal.<\/p>\n<p>Carmen Velayos Castelo, <em>Profesora titular de \u00c9tica y Filosof\u00eda Pol\u00edtica<\/em>, Universidad de Salamanca.<\/p>\n<p>Mar\u00eda Casado, <em>Titular de la Catedra Unesco de Bioetica de la Universidad de Barcelona. Catedratica<\/em> <em>de filosofia del derecho, <\/em>Observatorio de bioetica y derecho UB.<\/p>\n<p>Amparo Las\u00e9n, <em>Profesora titular de sociolog\u00eda,<\/em> Universidad Complutense de Madrid.<\/p>\n<p>Juliana Botero Hincapie, <em>PhD,<\/em> Universidad del Pa\u00eds Vasco.<\/p>\n<p>Ramon Weber, <em>CIC nanoGUNE<\/em>, Universidad del Pa\u00eds Vasco\/ Euskal Herriko Unibertsitatea.<\/p>\n<p>Judith Membrives i Llorens, <em>Profesora Colaboradora,<\/em> Universitat Oberta de Catalunya.<\/p>\n<p>Karina Gibert, <em>Catedr\u00e1tica del centro Intelligent data Science and Artificial Intelligence (Universitat<\/em> <em>Polit\u00e9cnica de Catalunya) y Vicedecana de Igualdad y \u00c9tica del Colegio Oficial de Ingenier\u00eda Inform\u00e1tica de Catalunya, <\/em>Directora de IDEAI-UPC y vicedecana del COEINF.<\/p>\n<p>\u00c1ngel Fern\u00e1ndez Ramos, <em>Profesor \/ Investigador,<\/em> Universidad de Salamanca.<\/p>\n<p>Gorka Julio, <em>Desarrollador y formador,<\/em> Talaios.coop.<\/p>\n<p>Miren Arrese \u00c1lvarez, <em>Responsable de proyectos digitales,<\/em> Biko.<\/p>\n<p>Jos\u00e9 C\u00faneo, <em>Presidente,<\/em> Falabella &amp; Asociados.<\/p>\n<p>David Alfonso, <em>Ingeniero de Software,<\/em> Drop.<\/p>\n<p>Luis Usero Aragon\u00e9s, <em>Profesor,<\/em> Universidad de Alcal\u00e1.<\/p>\n<p>Sara A. Pedraz, <em>Responsable de Innovaci\u00f3n,<\/em> Merck.<\/p>\n<p>Vitaly Enrique Franco Dibos, <em>Ciudadano<\/em>.<\/p>\n<p>Luis Peraza Parga, <em>Profesor de Derecho Internacional de los Derechos Humanos<\/em>.<\/p>\n<p><em>Nota: las firmas son adhesiones a t\u00edtulo personal y no representan a las instituciones mencionadas.<\/em><\/p>\n<p>&nbsp;<\/p>\n<p><strong>Nuevas adhesiones:<\/strong><\/p>\n<p><u>http:\/\/bit.ly\/CartaalGobierno<\/u><\/p>\n<p><strong>Versi\u00f3n m\u00e1s actual de la carta:<\/strong><\/p>\n<p><u>http:\/\/bit.ly\/CartaGobiernoVersionActual<\/u><\/p>\n<p>&nbsp;<\/p>\n<p><strong>Promotores y contacto:<\/strong><\/p>\n<p><u>cartarecfacial@gmail.com<\/u><\/p>\n<p>Uju\u00e9 Agudo<\/p>\n<p>David Casacuberta<\/p>\n<p>Ariel Guersenzvaig<\/p>\n<p>Karlos G. Liberal<\/p>\n<p><strong>Versi\u00f3n web de la carta publicada con ctx.es: <\/strong><u>https:\/\/ctxt.es\/es\/20210301\/Firmas\/35455\/carta-gobierno-moratoria-reconocimiento-facial-racismo-sexismo-algoritmos.htm<\/u><\/p>\n<p>&nbsp;<\/p>\n<p><sup>1<\/sup> Mcloughlin, M. (2021). <em>Origen \u00e9tnico, sexo o vestimenta: El pol\u00e9mico sistema de RENFE para vigilar<\/em> <em>a sus viajeros<\/em>. <u>https:\/\/www.elconfidencial.com\/tecnologia\/2021-02-17\/renfe-videovigilancia-pliego-condiciones-tecnicos_2953824\/<\/u> Dado el car\u00e1cter abierto de esta carta intentamos incluir fuentes generalistas. Es muy frecuente la publicaci\u00f3n de <em>papers<\/em> presentando sistemas con supuestas capacidades similares en la literatura cient\u00edfico-t\u00e9cnica especializada.<\/p>\n<p><sup>2<\/sup> Sarabia, D. (2019). <em>Varias empresas multinacionales ya usan inteligencia artificial para analizar la<\/em> <em>personalidad en las entrevistas de trabajo<\/em>. <u>https:\/\/www.eldiario.es\/tecnologia\/varias-multinacionales-inteligencia-psicologicamente-entrevistas_1_1159455.html<\/u><\/p>\n<p><sup>\u00a0<\/sup><sup>3<\/sup> Aguiar, A. (2020). <em>Una estaci\u00f3n de autobuses de Madrid lleva a\u00f1os utilizando tecnolog\u00edas de<\/em> <em>reconocimiento facial sin que casi nadie se haya dado cuenta<\/em>. <u>https:\/\/www.businessinsider.es\/usa-reconocimiento-facial-estacion-autobuses-madrid-651165<\/u><\/p>\n<p><sup>4<\/sup> De Vega, L. (2021). <em>Gran Hermano llega al Peque\u00f1o Caribe de Madrid<\/em>. <u>https:\/\/elpais.com\/espana\/madrid\/2021-02-01\/gran-hermano-llega-al-pequeno-caribe-de-madrid.html <\/u><sup>5<\/sup> Herranz, A. (2021). <em>Iberia te permitir\u00e1 facturar \u00abpor la cara\u00bb: As\u00ed est\u00e1 desplegando un sistema de<\/em> <em>reconocimiento facial que te reconoce hasta con mascarilla. <\/em><u>https:\/\/www.xataka.com\/pro\/iberia-te-permitira-facturar-cara-asi-esta-desplegando-sistema-reconocimiento-facial-que-te-reconoce-mascarilla<\/u><\/p>\n<p><sup>6<\/sup> FRA (2018). <em>Under watchful eyes \u2013 biometrics, EU IT-systems and fundamental rights.<\/em> <u>https:\/\/fra.europa.eu\/en\/publication\/2018\/under-watchful-eyes-biometrics-eu-it-systems-and-fundamental-rights<\/u><\/p>\n<p><sup>\u00a0<\/sup><sup>7<\/sup> Por ejemplo, European Union Agency for Fundamental Rights, European Digital Rights (EDRi), Ada Lovelace Institute, AlgorithmWatch, Algorithmic Justice League, y la American Civil Liberties Union entre muchas otras.<\/p>\n<p><sup>8<\/sup> Ver por ejemplo Benjamin, R. (2019). <em>Race after technology: Abolitionist tools for the new Jim Code<\/em>.<\/p>\n<p>Cambridge: Polity; o Comisi\u00f3n Europea (2020). <em>Gendered innovations 2. How inclusive analysis<\/em><\/p>\n<p><em>contributes to research and innovation <\/em>Bruselas: Direcci\u00f3n General de Investigaci\u00f3n e Innovaci\u00f3n de la Comisi\u00f3n Europea.<\/p>\n<p><sup>9<\/sup> Barrett, L. F., Adolphs, R., Marsella, S., Martinez, A. M., y Pollak, S. D. (2019). Emotional expressions reconsidered: Challenges to inferring emotion from human facial movements. <em>Psychological Science in the Public Interest<\/em>, 20(1), 1-68.<\/p>\n<p><sup>10<\/sup> Harlan, E., y Schnuck, O. (2021). <em>Objective or biased<\/em>. <u>https:\/\/web.br.de\/interaktiv\/ki-bewerbung\/en\/<\/u> <sup>11<\/sup> Es el caso del proveedor corporativo m\u00e1s grande del mundo de c\u00e1maras para cuerpos de polic\u00eda (Axon), que en el a\u00f1o 2019 anunci\u00f3 que no desplegar\u00eda tecnolog\u00eda de reconocimiento facial en ninguno de sus productos, \u00abporque era demasiado poco fiable para el trabajo policial y podr\u00eda exacerbar las desigualdades existentes en el trabajo policial, por ejemplo, penalizando a las comunidades negras o LGBTQ\u00bb. Crawford, K. (2019). Regulate facial-recognition technology. <em>Nature<\/em>, 572, 565.<\/p>\n<p><sup>\u00a0<\/sup><sup>12<\/sup> Adamson, A. S., y Smith, A. (2018). Machine learning and health care disparities in dermatology. <em>JAMA Dermatology, 154<\/em>(11), 1247-1248.<\/p>\n<p><sup>13<\/sup> Keyes, O. (2018). The misgendering machines: Trans\/HCI implications of automatic gender recognition. <em>Proc. ACM Hum.-Comput. Interact.<\/em>, 2(CSCW), Article 88.<\/p>\n<p><sup>14<\/sup> Somos conscientes de que el Reglamento General de Protecci\u00f3n de Datos de la Uni\u00f3n Europea, entre otras leyes, ya regula el tratamiento de datos especialmente protegidos como el origen racial o la orientaci\u00f3n sexual, y dispone la prohibici\u00f3n del tratamiento de datos biom\u00e9tricos dirigidos a identificar a una persona espec\u00edfica, as\u00ed como la necesidad de la obtenci\u00f3n de consentimiento informado previo y de garantizar la seguridad de los datos tratados.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Desde el \u00c1rea de digitalizaci\u00f3n y contaminaci\u00f3n electromagn\u00e9tica de Ecologistas en Acci\u00f3n nos solidarizamos con el llamamiento de acad\u00e9micas y acad\u00e9micos de todo el Estado a favor de una MORATORIA sobre el uso del reconocimiento facial (que se desarrollar\u00e1 exponencialmente con el 5G y la inteligencia artificial), por afectar no solo al \u00e1mbito de la [&hellip;]<\/p>\n","protected":false},"author":3,"featured_media":1311,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[48,66],"tags":[],"class_list":["post-1310","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-campos-de-accion","category-derechos-digitales-y-control-social"],"_links":{"self":[{"href":"https:\/\/escuelasaludable.org\/index.php?rest_route=\/wp\/v2\/posts\/1310","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/escuelasaludable.org\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/escuelasaludable.org\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/escuelasaludable.org\/index.php?rest_route=\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/escuelasaludable.org\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=1310"}],"version-history":[{"count":4,"href":"https:\/\/escuelasaludable.org\/index.php?rest_route=\/wp\/v2\/posts\/1310\/revisions"}],"predecessor-version":[{"id":1315,"href":"https:\/\/escuelasaludable.org\/index.php?rest_route=\/wp\/v2\/posts\/1310\/revisions\/1315"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/escuelasaludable.org\/index.php?rest_route=\/wp\/v2\/media\/1311"}],"wp:attachment":[{"href":"https:\/\/escuelasaludable.org\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=1310"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/escuelasaludable.org\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=1310"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/escuelasaludable.org\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=1310"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}