Discriminación tecnológica: Cuando el reconocimiento facial no sabe que tu cara es una cara

Autumn Gardiner pensó que actualizar su permiso de conducir sería sencillo. Tras casarse el año pasado, se dirigió a la oficina local del Departamento de Vehículos de Connecticut (DMV) para cambiar el apellido de su identificación. Mientras estaba allí, los funcionarios le dijeron que tenía que actualizar su foto. Fue entonces cuando las cosas empezaron a ir mal.

Cada vez que el personal intentaba tomarle una foto, el sistema la rechazaba. «Todo el mundo miraba. Trataban de tomar más fotos», recuerda. Gardiner, que trabaja como gestora de subsidios para una organización benéfica de conservación del medio ambiente, es una de las pocas personas en todo el mundo que padecen el síndrome de Freeman-Sheldon. A veces conocido como «síndrome de la cara silbante», este trastorno genético afecta a los músculos de la cara y el cráneo, lo que puede dar lugar a una boca demasiado pequeña.

A medida que se pedía ayuda a más empleados del DMV, Gardiner comenzó a pensar que las fotos eran rechazadas por su diferencia facial. El sistema de cámaras no parecía funcionar para ella: «Era humillante y extraño. Esta máquina me decía que no tenía un rostro humano».

Gardiner no está sola. Alrededor de media docena de personas que viven con diversas diferencias faciales, desde marcas de nacimiento hasta afecciones craneofaciales, cuentan a WIRED que cada vez tienen más dificultades para participar en la vida moderna, ya que el software de verificación de identidad, que a menudo se basa en el aprendizaje automático, se está convirtiendo rápidamente en algo habitual.

Algunos de los que viven con diferencias faciales cuentan a WIRED que se han sometido a múltiples cirugías y han sufrido el estigma durante toda su vida, algo que ahora se refleja en la tecnología con la que se ven obligados a interactuar. Cuentan que no han podido acceder a los servicios públicos porque fallan los servicios de verificación facial, mientras que otros han tenido dificultades para acceder a los servicios financieros. Los filtros de las redes sociales y los sistemas de desbloqueo facial de los teléfonos a menudo no funcionan.

«A la comunidad de personas con diferencias faciales se la pasa por alto constantemente», afirma Phyllida Swift, Directora General de Face Equality International (FEI), una agrupación que representa a otras organizaciones sin fines de lucro y de desfiguración facial. La FEI calcula que en el mundo hay más de 100 millones de personas con desfiguraciones faciales. Según la investigación de la FEI, las personas con diferencias faciales han tenido problemas con las puertas de los pasaportes en los aeropuertos, las aplicaciones fotográficas, los filtros de video en las redes sociales, el desenfoque del fondo en las videollamadas, etc. «En muchos países, el reconocimiento facial es cada vez más una parte de la vida cotidiana, pero esta tecnología está fallando a nuestra comunidad», indicó Nikki Lilly, patrocinadora de FEI, en una reunión de las Naciones Unidas en marzo.

Cómo configurar el bloqueo de pantalla en todos tus dispositivos

El bloqueo de pantalla protege tus datos privados de los intrusos, así que asegúrate de configurarlo correctamente.

Acceso denegado

Desde los teléfonos hasta las habitaciones de hotel, tu cara actúa cada vez más como una llave digital. En la última década, los rápidos avances en el aprendizaje automático y la inteligencia artificial han llevado a la creación de una serie de tecnologías de reconocimiento facial, lo que significa que, ahora más que nunca, tu aspecto puede utilizarse como identificador digital. La policía ha generalizado el uso de sistemas de reconocimiento facial, que a menudo han resultado ser imprecisos y parciales con respecto a los asiáticos y los negros, mientras que en el mundo más amplio de la comprobación facial los servicios gubernamentales, los sistemas antifraude y las instituciones financieras utilizan la IA para realizar comprobaciones de identidad. Más recientemente, las redes sociales y los sitios web de pornografía han adoptado el escaneado facial como parte de las medidas de verificación de la edad.

Estas comprobaciones faciales de «autenticación» pueden adoptar múltiples formas. Las selfies pueden compararse automáticamente con los documentos de identidad existentes, mientras que las pruebas de vitalidad pueden requerir que el usuario grabe un breve video para demostrar que es real y no un estafador que sostiene una foto impresa ante la cámara. En términos generales, estos sistemas biométricos suelen medir sus rasgos faciales, como la distancia entre los ojos o el tamaño de la mandíbula, para crear «huellas faciales». Aunque este tipo de tecnologías de vigilancia pueden ser eficaces para mucha gente, es posible que no sean capaces de detectar a las personas con diferencias faciales. La tecnología de aprendizaje automático subyacente puede no estar entrenada en conjuntos de datos con una variedad de rostros, por ejemplo.

«El caso de Face Equality International, personas con rostros diferentes, es un importante ejemplo de lo que puede ir mal cuando estos sistemas no funcionan», explica Greta Byrum, fundadora de la empresa de consultoría tecnológica Present Moment Enterprises, que se centra en el impacto social de los sistemas tecnológicos y ha proporcionado trabajo gratuito a FEI. Añade: «Estamos viendo cómo las tecnologías de reconocimiento facial se convierten en uno de esos martillos ante los que todo parece un clavo».