Patricia nació y creció en Colombia. Ahora es solicitante de asilo en Zaragoza, España. Con apenas unos meses en la ciudad, ya ha trabajado para dos compañías como repartidora, un trabajo que, como ella dice, actualmente «es la única opción». Reparte mediante cuentas que alquila y por las que paga un treinta por cierto de lo que gana, dependiendo de si reparte entre semana o en fin de semana. La aleatoriedad del algoritmo de reconocimiento facial de Glovo, que le solicitaba hacerse una foto después de entregar algún pedido, ya fuera de día o de noche, estuviera quieta o en desplazamiento, o hubieran pasado unas horas o días desde el reconocimiento anterior, hizo que perdiera su trabajo como repartidora en esta compañía. Tras muchos «intentos fallidos», Glovo bloqueó la cuenta, lo que no era rentable para la propietaria, quien decidió cerrarla. Así, fue como Patricia, empezó a repartir con Uber Eats, con la que los intentos de «pasar el reconocimiento facial», son más exitosos. Como esta compañía solicita la foto al iniciar la aplicación, Patricia queda con el propietario de la cuenta al empezar su jornada. Otra cosa son los clientes, que se quedan extrañados, y pueden reportar a la compañía la incidencia de que Patricia, una mujer, no coincide con la foto y nombre del perfil de la cuenta del repartidor, un hombre. Lo que ella excusa diciendo que es su «hermano, marido o padre que estaba indispuesto» (Informante1).

Los algoritmos de reconocimiento facial realizan comparaciones automáticas e instantáneas entre una imagen previamente archivada y digitalizada según cálculos algorítmicos de distancias entre ciertos puntos cardinales del rostro a identificar, y una digitalización, según los mismos cálculos, de una fotografía tomada en el acto. Esta verificación automática dice ser más ágil y precisa que cualquier comprobación de documentos y cotejo de rasgos faciales realizada de manera manual. Para reducir márgenes de error en el reconocimiento algorítmico se han investigado diferentes factores que degradan la precisión de la verificación facial automática: variación de pose inicial, envejecimiento, cambio de expresión, ausencia y la presencia de ciertos objetos (gafas, gorros, mascarillas); así como aspectos ajenos al sujeto identificado: iluminación, oclusión parcial de ciertas partes, etc. Las tecnologías de reconocimiento facial se basan en «algoritmos de aprendizaje mecánico» (machine-learning algorithms), es decir, algoritmos automatizados que se auto-modifican para continuar mejorando sus niveles de actuación y eficiencia. Estos sistemas de verificación facial se han aplicado en sectores que trabajan para garantizar la seguridad, por ejemplo, en aduanas, bancos, y también, en ciertas plataformas de servicios, como el transporte de pasajeros y de comida a domicilio.

La Ley Rider exige «transparencia algorítmica» a las plataformas (Real Decreto-ley 9/2021) ¹ . Esta exigencia ha llevado a que esta legislación firmada en 2021 en España sea considerada pionera en regularizar el uso de inteligencia artificial en el trabajo de plataformas. Sin embargo, dicha exigencia no menciona las operaciones algorítmicas de verificación de identidad, ignorando sus implicaciones, en términos de situaciones laborales, y sobre todo, en lo referente a situaciones migratorias. La ausencia en el discurso institucional de la alta presencia de población migrante en la economía del reparto llama la atención. Aunque la literatura no ha abordado de forma sistemática las estadísticas ni analizado las consecuencias de esta dimensión migrante del trabajo de reparto, algunos autores enfatizan la relación entre la condición migrante y el trabajo contingente de la gig economy, argumentando cómo la mano de obra migrante es imprescindible para entender el funcionamiento de la economía de plataformas (Altenried 2021; van Doorn y Vijay 2021). Nuestro proyecto de investigación nacional coincide con este diagnóstico. Después de dos años con más de quince investigadores trabajando en cinco ciudades españolas, observando los lugares de encuentro entre repartidores y realizándoles entrevistas, hemos encontrado que el perfil del repartidor de comida en España es mayoritariamente de origen extranjero, lo que queda de manifiesto en los perfiles de las y los informantes que posteriormente detallamos.

Paralelamente, la literatura académica sobre algoritmos en las plataformas del sector de reparto a domicilio se ha centrado en cuestiones principalmente laborales: los cálculos computerizados sobre la designación del pedido, y el modo en cómo esto afecta a la organización y control del trabajo (Shapiro 2018; Griesbach et al. 2019; Kellogg et al. 2020; Cano et al 2021). Sin embargo, las plataformas del sector del food-delivery utilizan otra serie de cálculos automatizados atendiendo a incidentes logísticos en el proceso altamente contingente del reparto. En este caso, se trata de un incidente generalizado en el sector: es una práctica extendida y bien conocida entre inspectores de trabajo, sindicatos y mismos repartidores, que consiste en la cesión de licencias personales a terceros. Es decir, las cuentas diseñadas para uso individual, de facto son utilizadas por más usuarios que la persona jurídica que abrió la cuenta a través del móvil firmando una aceptación de términos y condiciones. Las cuentas se ceden con tan sólo transmitir la contraseña de entrada a la aplicación. Esta cesión se está realizando en dos modalidades, concretamente, el subarriendo («cuentas alquiladas», a decir de los repartidores entrevistados) entre desconocidos, y el uso prestado («cuentas compartidas») entre varios familiares y amigos.

Nuestro objetivo es estudiar el «sistema de reconocimiento facial» (SRF), medida algorítmica de vigilancia para prevención del fraude anunciado por las plataformas de reparto de comida en respuesta a la práctica extendida del uso de la aplicación por terceros. Frente a estudios estrictamente laborales de la gestión algorítmica, nuestra investigación aborda decisiones algorítmicas relacionadas con la vulnerabilidad administrativa de un gran número de repartidores en situaciones migratorias precarias. Por ello, mediante las entrevistas se ha registrado la situación migratoria en cuanto a origen del pasaporte, permisos de protección internacional y visados, entendiendo que estos datos son importantes en el análisis del impacto de los algoritmos de reconocimiento facial en sus trayectorias migratorias y laborales ² .

Nos centramos entonces en el despliegue de los algoritmos de vigilancia biométrica en las plataformas de reparto: ¿Por qué hay sistemas de reconocimiento facial contra el fraude de identidad en un sector no asociado con la criminalidad como el reparto de comida a domicilio? ¿Qué consecuencias tienen estas verificaciones en caliente (just-in-time checkpoints) realizadas a los repartidores, y cómo inciden en las cuentas alquiladas y compartidas, fenómeno al alza en plataformas como Glovo y Uber Eats? Para responder, hemos utilizado metodología etnográfica multisituada, realizando trabajo de campo en varias ciudades españolas, incluyendo observación itinerante y entrevistas semi-estructuradas a repartidores de plataformas de reparto de comida a domicilio. En este artículo, nos centramos en diez entrevistas, tanto personales como grupales, realizadas a repartidores de Glovo y Uber Eats con situaciones migratorias diversas, y sobre todo, aquellos con cuentas alquiladas y/o compartidas.

A modo de marco teórico, realizamos un estado de la cuestión sobre los sistemas de identificación algorítmica y los tres cuerpos de literatura que informan nuestra aproximación. A continuación, nos centramos en nuestro caso de estudio particular, los sistemas de reconocimiento facial (SRF) implementados por Glovo y Uber Eats en España contra el «fraude de identidad» cometido en la cesión de cuentas a terceros. Nos basamos en trabajo de campo etnográfico realizado durante el año 2022 principalmente en Zaragoza y A Coruña, y en menor medida, en Madrid y Barcelona. Finalmente, reflexionamos sobre la aparente paradoja, entre la proclamada eficiencia de la verificación facial algorítmica por un lado y por otro, la generalización de cuentas subarrendadas y compartidas entre repartidores, principalmente aquellos en situaciones migratorias con irregularidades administrativas.

Frente al «drama algorítmico» que conceptualiza los cálculos matemáticos realizados por sistemas de inteligencia artificial como entes fuera de lo social, omnipresentes y ultra poderosos (Ziewitz 2016; Seaver 2018), nos inspiramos en literaturas que trabajan desde la materialidad de las relaciones entre los humanos y la tecnología. Para acercarnos a los algoritmos de verificación de identidad seguimos tres tradiciones académicas. Primero, los Estudios de la Ciencia y la Tecnología y su legado ontológico de no separar máquinas de humanos. Los nuevos campos críticos sobre lo digital recogidos en la introducción continúan esta aproximación cotidiana, y pragmática, aplicada a los algoritmos (Neyland 2019; Jaton 2021). El seguimiento etnográfico de los diseñadores por ejemplo, muestra cómo los cálculos algorítmicos constituyen procesos altamente materiales y contingentes, resultados de hábitos, destrezas y valores de los muchos actores que participan en el proceso de diseñar, aplicar y retocar las instrucciones algorítmicas (Jaton y Vinck 2016; Jaton 2017; Jaton y Bowker 2020). Esta aproximación matiza el «poder social» exagerado que se ha atribuido a los algoritmos, y describe cómo las condiciones y consecuencias de las operaciones algorítmicas son producto de una «agencia distribuida» entre «asociaciones inestables» compuestas por diferentes personas, documentos, aparatos y procesos automatizados, produciendo una serie de «efectos en red» (Neyland y Möllers 2017).

Segundo, la intersección entre STS y los Estudios Raciales Críticos explora cómo estas instrucciones matemáticas se realizan en relación a ciertas bases de datos, y no otras, o con ciertos fines, y no otros. Dicho proceso de selección entre posibilidades a nivel tecnológico no es baladí, pues se materializa en diseños discriminatorios que reflejan, y retroalimentan a su vez, las estratificaciones sociales vigentes en términos de clase, género, categoría racial, o dis/capacidad (Browne 2015; Noble 2018; Benjamin 2019). En concreto, Race After Technology muestra cómo «la cuestión racial se mete dentro de la inteligencia artificial» (Benjamin 2019: 81). En referencia a los programas de reconocimiento facial, señala que esta exposición codificada conlleva una doble consecuencia arriesgada para ciertas poblaciones: por una parte, se visibilizan aquellos que normalmente no son visibles. Por otra parte, se generaliza un rasgo constante entre sociedades racistas: «la amenaza a la exposición» de poblaciones altamente vulnerables a ser vistos o expuestos (Benjamin 2019: 100-112).

Tercero, los Estudios Críticos de Vigilancia, y, sobre todo aquellos trabajos centrados en control de fronteras y gestión migratoria. La digitalización de ciertos rasgos físicos humanos -como dimensiones faciales, huellas digitales, profundidad del iris, o voz- y el uso de programas informáticos algorítmicos, permite la identificación automática de personas. La vigilancia algorítmica basada en datos biométricos ha sido altamente desplegada para el monitoreo de actividades consideradas ilícitas, como evitar fraudes de identidad en actividades financieras, y para hacer más eficiente la gestión de flujos migratorios (Introna y Wood 2004; Sanchez del Rio et al. 2016; Smith, Mann, y Urbas 2018). El reconocimiento facial a través de cálculos algorítmicos se ha convertido en el método de identificación biométrica más extendido con fines de seguridad y contra el crimen (Kaur et al. 2020). Esta tecnología se ha cuestionado por sus finalidades en determinados contextos, y por sus consecuencias negativas por lidiar de manera «automatizada» con problemas sociales complejos (Gates 2011; Smith y Miller 2022).

Dado este marco de referencia nuestra investigación profundiza en el carácter contingente y performativo de los algoritmos, atendiendo a sus despliegues y localizaciones específicas. Así, nuestro caso de estudio pregunta: ¿cómo emerge y se sostiene un sistema algorítmico de vigilancia biométrica en el sector mundano del reparto de comida a domicilio?

Abrir una cuenta como repartidor es sencillo si cuentas con documentación acreditativa para trabajar en el país. Una vez abierta es todavía más sencillo que otras personas que no son el propietario de la cuenta puedan utilizarla para trabajar, pues conectarse a la aplicación es posible mediante un usuario y contraseña fácilmente canjeable o intercambiable. Esto es lo que denominamos el fenómeno de cuentas alquiladas o compartidas, en las que uno o varios terceros (no propietarios de la cuenta) hacen uso de la misma para trabajar como repartidores. Bien sea mediante subarriendo (pagando el treinta por ciento de lo obtenido al propietario), o compartiendo la cuenta entre varios repartidores (de los cuales sólo uno es el propietario), práctica extendida generalmente entre familiares y amigos.

Aproximadamente el 80% de nuestros informantes trabajan mediante cuentas subarrendadas y/o compartidas. Ya sea porque no tienen permiso de trabajo, o porque intercambiar la cuenta entre familiares o amigos les permite entregar pedidos en franjas horarias más extendidas y así, incrementar ingresos, lo cierto es que estas prácticas de empleo irregular se presentan de manera habitual en el sector del reparto de comida a domicilio (Sanz et al. 2023). No obstante, no se trata de un fenómeno aislado en España, puesto que también se ha encontrado en Reino Unido ³ o en Francia ⁴ . Para tratar de evitar estas prácticas que las compañías denominan de «fraude de identidad», algunas de ellas como Glovo y UberEats, han optado por implantar procesos algorítmicos de reconocimiento facial. Mientras la toma de este tipo de datos biométricos ha servido para aumentar la gestión restrictiva de flujos migratorios, la cesión de cuentas facilita de facto flujos de migración, tanto en origen como en destino:

Según los repartidores, las compañías están al tanto de las prácticas de cesión de cuentas y sus consecuentes situaciones de desprotección. Sin embargo, les conviene esta oferta de mano de obra:

Sin embargo, las compañías no dejan de anunciar sus medidas contra «el fraude de identidad», sobre todo después de los dos accidentes mortales de repartidores en España, uno de origen nepalí en 2019 y otro de Venezuela en 2021. Ambos alquilaban cuentas y fueron arrollados de madrugada por camiones de basura en Barcelona ⁵ y Madrid ⁶ .

El sistema de reconocimiento facial (SRF) es el método que diversas compañías de reparto de comida a domicilio utilizan con el fin de asegurarse que el repartidor trabaje la misma cuenta con la que se ha dado de alta en la plataforma. Los sistemas de Glovo y Uber Eats actúan de modo diferente en algunos aspectos. En la primera, mediante la propia aplicación de la compañía, al repartidor le salta este reconocimiento cuando entrega un pedido cualquiera a lo largo de la jornada a decir de nuestros informantes; algunas veces, se le puede pedir reconocimiento varias veces al día. Debe darle a «aceptar» cuando aparece la leyenda «verificación» y a continuación se abre la cámara dentro del programa de la misma aplicación, y el repartidor necesita sacarse una foto, situando el rostro dentro de un perímetro dado. Después «pasa la rayita, como un scanner» y así se valida que la persona que se saca la foto coincide con la que se dio de alta en la cuenta. La implantación del SRF ha sido intermitente, con periodos de mucha actividad y otros de total ausencia, como desde el verano del 2022. Según nuestro tercer informante: «el reconocimiento facial es algo que nunca ha funcionado a la perfección. Lo han quitado muchas veces, y lo han puesto muchas veces.» Después de un tiempo inactivo, Glovo ha anunciado que va a volver a implantarlo, aunque todavía no ha sucedido, según nuestros informantes.

Esté en funcionamiento o no, a finales de noviembre de 2022, su propia página web continúa indicando cómo el reconocimiento sirve para luchar contra el fraude, identificar cuentas alquiladas y preservar la seguridad. Además, explica que funciona de manera aleatoria y en caso de no pasarlo, la cuenta se cancela por catorce días. También da indicaciones a los repartidores en caso de tener problemas con auto-identificarse ⁷ .

El mecanismo de Uber Eats es similar en cuanto a la toma de la fotografía. Sin embargo, los repartidores afirman que el reconocimiento facial se exige todos los días, tanto a autónomos como a contratados, las dos modalidades de trabajo actuales ofrecidas por esta compañía. La información online sobre su SRF contiene un discurso similar en contra del fraude y por la seguridad de todos. En el apartado «¿Por qué se me pide tomarme una foto?» se desarrollan todas las razones y procedimientos para el reconocimiento facial ⁸ . En concreto, solicita que los repartidores se tomen fotos con mascarilla, intuimos que refiriéndose más al sector de transportistas de personas ⁹ . En el caso del transporte de comida, la diferencia con respecto a Glovo según los repartidores, está en que la solicitud de reconocimiento aparece de manera previsible, siempre al conectarse, al inicio de la jornada laboral.

Esta previsibilidad es muy útil para organizarse entre propietarios y usuarios de la cuenta, para sacar la foto requerida a horas acordadas, sin sobresaltos en medio de itinerarios de reparto o en otras circunstancias, al contrario que en Glovo.

No obstante, también cabe señalar que tanto en Uber Eats como en Glovo, el SRF, en ocasiones falla, incluso con repartidores con cuenta propia:

En definitiva, la confusión sobre las exigencias e ineficiencias de este sistema, así como las experiencias de intentos de superación y reparación de dichos fallos, son tema recurrente entre nuestros informantes.

Tanto para evitar incidentes de migración irregular como crímenes bancarios, las geografías faciales se aplauden por su alto grado de fiabilidad, en relación con las huellas dactilares, registros de voz, y otros datos biométricos. Dichos niveles de eficiencia en los SRF contrastan con la situación de fraude de identidad generalizada en el sector de reparto de comida a domicilio en España. Cada vez que el SRF salta a repartidores con cuentas subarrendadas como prestadas, se suele solventar por múltiples intervenciones humanas en el proceso, alterando la eficiencia de la vigilancia algorítmica. Con el fin de pasar el control biométrico, se concierta el cuándo y dónde tomar la foto del dueño nominal de la cuenta de reparto, para que los repartidores de facto, puedan seguir trabajando. En caso de fallar el reconocimiento, incidente de error frecuente, el repartidor contacta al mandatario de la cuenta quien comunica la incidencia a la respectiva compañía, mediante insistentes justificaciones por correo electrónico, que en todo caso no implican un reconocimiento adicional mediante el envío de documentación acreditativa o similares. Así, los bloqueos de cuentas anunciados, temporales por quince días o permanentes a través de la desconexión de la cuenta, son mínimos comparado con el alto número de fraudes de identidad vigentes. Por lo tanto, a expensas de las verificaciones, ya sean exitosas o fallidas, el sector de reparto prosigue con cuentas bajo «fraude de identidad». Únicamente en casos reiterados de no pasar correctamente el reconocimiento facial las compañías proceden a un bloqueo total o más prolongado de la cuenta. En última instancia, las plataformas no hacen seguimiento estricto de los reconocimientos faciales fallidos, ni tampoco denuncian situaciones de irregularidad (por fraude de identidad o por trabajo sin permiso de residencia y/o de trabajo):

Todos los repartidores entrevistados confirman dicha observación de que las plataformas son conscientes de la práctica generalizada de la cesión de cuentas. La implementación de los SRF en el sector de reparto de comida ha generado una serie de situaciones divergentes y multi-direccionales en relación a la legalidad, precariedad y beneficios de repartidores como de plataformas. Se trata de los llamados «efectos en red» donde los sistemas algorítmicos no operan como una causalidad totalizante, sino en forma de «agencia distribuida» en una cadena cambiante de interacciones entre tecnologías y humanos. Aunque la tecnología de verificación facial sea la misma, sus resultados varían si se inserta e interactúa en tejidos tecno-humanos diferentes. Las relaciones entre implicados del sistema de vigilancia de fronteras y del fraude fiscal no son las mismas que en el tejido del negocio del reparto de comida. La misma tecnología, basada en cálculos algorítmicos sobre datos biométricos, dadas diferentes relaciones humanas-tecnológicas, se despliega y operacionaliza de forma diferente, con otros efectos en red. En la literatura sobre fronteras, donde hay intereses opuestos entre las partes, la verificación algorítmica se analiza como un dispositivo diseñado para vigilar y contraatacar el movimiento de una población objeto, codificada como migración irregular. En el sector de reparto, la situación no es tan dialéctica. Nuestra investigación revela cómo, algunas veces, compañías, legislación migratoria, y repartidores, llegan a compartir mismos intereses, en este caso, superar los controles de verificación de identidad. De esta forma, diferentes intervenciones humanas influyen en el diseño, aplicación y rectificación de los sistemas de verificación algorítmica del sector de reparto, para que la práctica de empleo irregular de cuentas subarrendadas y cedidas continúe sin problemas. De hecho, el 2 de noviembre del 2022, Glovo anunciaba nuevos términos de condiciones ¹⁰ , donde permite descargar una misma cuenta en varios móviles. Esta medida facilita aún más superar el SRF de forma satisfactoria por terceros usuarios. Es decir, la plataforma adapta la infraestructura tecnológica al interés simultáneo, al menos temporalmente, por la práctica de cuentas alquiladas y compartidas. Sin poder profundizar en esta reciente política de Glovo que permite subcontratar cuentas, seguiremos explorando las implicaciones que este caso de estudio presenta para la antropología de los algoritmos, más allá de sus posibles dramas y retos etnográficos.