Despedido por un algoritmo: cuestionamientos éticos a la Inteligencia Artificial

Un interesante artículo publicado en el medio Bloomberg, desnuda una realidad que cada vez más presente, no tan sólo en empresas privadas, sino que también ocurre en mundo público y es la incorporación de algoritmos y de Inteligencia Artificial para automatizar procesos y definir indicadores o puntuaciones (scores), para la toma de decisiones.

Así por ejemplo, se utiliza IA en sistemas de ciberseguridad para identificar comportamientos anómalos y prevenir brechas de seguridad. En sistemas bancarios también los algoritmos identifican y con un puntaje en distintos aspectos, deciden si bloquean tarjetas o transacciones o alertan sobre posibles riesgos en fraudes en línea. En servicios públicos como el SII y Contraloría General de la República ya estarían utilizando algoritmos para identificar comportamientos irregulares, revisar antecedentes y acentuar y dar herramientas para labores de fiscalización.

Pero en el caso concreto del artículo inicial referenciado, se demuestra como Amazon, recurre al uso de algoritmos para despedir a trabajadores, específicamente a los que se encuentran contratados para el servicio de entrega Flex, que son los que distribuyen las compras realizadas en la plataforma de comercio electrónico de Amazon.

No es novedad que durante años, la compañía ya ha utilizado algoritmos para administrar sus ventas y controlan a su vez a los comerciantes de terceros en su mercado en línea, quienes «han acusado que los vendedores han sido expulsados después de ser acusados falsamente de vender productos falsificados y aumentar los precios».

Según se indica, Amazon comenzó su servicio de entrega Flex estilo concierto en 2015, y el ejército de conductores contratados se convirtió rápidamente en una parte crítica de la máquina de entrega de la compañía. Normalmente, los controladores Flex manejan paquetes que no se han cargado en una furgoneta de Amazon antes de que el controlador se vaya. En lugar de hacer que el cliente espere, los conductores flex se aseguran de que los paquetes se entreguen el mismo día. También manejan un gran número de entregas de comestibles el mismo día de la cadena Whole Foods Market de Amazon. Los conductores flex ayudan a mantener a Amazon a cumplir con sus compromisos de ventas durante la pandemia. Todos entendemos que la logística ha sido fundamental para el crecimiento y confianza en el comercio electrónico.

El artículo menciona que al momento en que inician sesión, los conductores de Flex descubren que los algoritmos están monitoreando cada uno de sus movimientos. ¿Llegaron a la estación de entrega cuando dijeron que lo harían? ¿Completaron su ruta en la ventana prescrita? ¿Dejó un paquete a la vista de los piratas del porche en lugar de escondido detrás de una jardinera como se solicitó? Los algoritmos de Amazon escanean el chorro de datos entrantes en busca de patrones de rendimiento y deciden qué conductores obtienen más rutas y cuáles están desactivados. La retroalimentación humana es rara. Los conductores ocasionalmente reciben correos electrónicos automatizados, pero en su mayoría se les deja obsesionarse con sus calificaciones, que incluyen cuatro categorías: Fantástico, Excelente, Justo o En riesgo.

El informe de Bloomberg, nos muestra a ex empleados y numerosos informes disponibles en internet, quienes cuestionan la efectividad y funcionamiento ético del proceso tecnológico y algorítmico que define los despidos y declives en la valoración de los repartidores.

Interesante es la descripción de la generación del algoritmo y la visión que se tiene de ellos.
«Los ingenieros informáticos que diseñaron Flex trabajaron duro para que fuera justo y considerar variables como los atascos de tráfico y los problemas para acceder a los apartamentos que el sistema no puede detectar, dijeron ex empleados. Pero ningún algoritmo es perfecto, y en el tamaño de Amazon, incluso un pequeño margen de error puede considerarse un gran éxito internamente y aún así infligir mucho dolor a los conductores. Los controladores de Amazon Flex entregan alrededor del 95 % de todos los paquetes a tiempo y sin problemas, según una persona familiarizada con el programa. Los algoritmos examinan ese 5% restante para patrones problemáticos.

Los algoritmos Flex comenzaron como instrumentos contundentes y se refinaron con el tiempo. Al principio, según una persona familiarizada con la situación, los diseñadores establecieron un período de tiempo demasiado ajustado para que los conductores llegaran a la estación de entrega. No habían tenido en cuenta la naturaleza humana. Los conductores ansiosos por el trabajo prometían llegar a cierta hora cuando estaban demasiado lejos para llegar. La falla preparó a los buenos conductores para que fallaran, dijo la persona, y se solucionó solo después de una caída generalizada en las calificaciones. El sistema también utiliza el GPS para decidir cuánto tiempo debe tomar llegar a una dirección específica, pero a veces no tiene en cuenta el hecho de que navegar por un camino rural en la nieve toma mucho más tiempo que atravesar una calle suburbana en un día soleado».

Tras ser despedidos por bajo rendimiento, calificado por el algoritmo en esa categoría por diversos indicadores, tienen la opción de «apelar» a la decisión, pero existe también dudas respecto a si los casos son analizados por «humanos» o simplemente otro algoritmo define mantener o no la relación contractual de trabajo.

Este tipo de nuevas realidades debe ser analizadas en un marco de nuevo entorno laboral y la incorporación de tecnologías. Sobre todo, en el uso de Inteligencia Artificial y algoritmos, desde un punto de vista de decisiones justificadas, transparentes, realizadas por personas y no por máquinas, y en donde el componente ético de la utilización de estas tecnologías debe ser evaluadas y consideradas en una discusión o garantía legal.

Un desafío por considerar en nuestro país, sobre todo para considerar si es justificado o no el despido de un trabajador.

 

 

Artículos relacionados

Deja un comentario