A principios de junio, Amanda Claypool buscaba trabajo en un restaurante de comida rápida en Asheville, Carolina del Norte. Pero se enfrentó a un obstáculo inesperado y molesto: los reclutadores de chatbots, con fallas.
Algunos ejemplos: la reclutadora de chatbots de McDonald’s, “Olivia”, autorizó a Claypool para una entrevista en persona, pero luego no pudo programarla debido a problemas técnicos. Un bot de Wendy’s logró programarla para una entrevista en persona, pero era para un trabajo que no podía hacer. Luego, un chatbot de Hardees la envió a entrevistarse con un gerente de la tienda que estaba de licencia, lo que difícilmente es una estrategia de reclutamiento perfecta.
“Me presenté en Hardees y estaban un poco sorprendidos. El equipo que operaba el restaurante no tenía idea de qué hacer conmigo o cómo ayudarme”, dijo a Forbes Claypool, quien finalmente tomó un trabajo en otro lugar. “Parecía algo más complicado de lo que tenía que ser”, dijo. (McDonald’s y Hardees no respondieron a una solicitud de comentarios. Un portavoz de Wendy’s le dijo a Forbes que el bot crea “eficiencias en la contratación”, y agregó que “la innovación es nuestro ADN”).
Los chatbots de recursos humanos como los que encontró Claypool se utilizan cada vez más en industrias como la atención médica, el comercio minorista y los restaurantes para filtrar a los solicitantes no calificados y programar entrevistas con los que podrían ser adecuados para el trabajo. McDonalds, Wendy’s, CVS Health y Lowes utilizan Olivia, un chatbot desarrollado por Paradox, una startup de IA de 1500 millones de dólares con sede en Arizona. Otras empresas como L’Oreal confían en Mya, un chatbot de IA desarrollado en San Francisco por una startup del mismo nombre. (Paradox no respondió a una solicitud de comentarios sobre la experiencia de Claypool).
La mayoría de los chatbots de contratación no son tan avanzados ni elaborados como los chatbots conversacionales contemporáneos como ChatGPT. Se han utilizado principalmente para buscar trabajos que tienen un gran volumen de solicitantes: cajeros, asociados de almacén y asistentes de servicio al cliente. Son rudimentarios y hacen preguntas bastante sencillas: “¿Sabe cómo usar una carretilla elevadora?” o “¿Puedes trabajar los fines de semana?” Pero como descubrió Claypool, estos bots pueden tener errores, y no siempre hay un ser humano al que recurrir cuando algo sale mal. Y las respuestas claras que requieren muchos de los bots podrían significar el rechazo automático para algunos candidatos calificados que podrían no responder preguntas como un gran modelo de lenguaje quiere que lo hagan.
Eso podría ser un problema para las personas con discapacidades, las personas que no dominan el inglés y los solicitantes de empleo de mayor edad, dicen los expertos. Aaron Konopasky, abogado asesor sénior de la Comisión para la Igualdad de Oportunidades en el Empleo (EEOC) de Estados Unidos (EU), teme que los chatbots como Olivia y Mya no brinden a las personas con discapacidades o afecciones médicas opciones alternativas de disponibilidad o funciones laborales. “Si es un ser humano con quien estás hablando, existe una oportunidad natural para hablar sobre adaptaciones razonables”, dijo a Forbes. “Si el chatbot es demasiado rígido y la persona necesita poder solicitar algún tipo de exención, es posible que el chatbot no le dé la oportunidad de hacerlo”.
“Es algo así como Netflix recomienda películas basadas en otras películas que te gustan”.
Jeremy Schiff, CEO y fundador de RecruitBot
La discriminación es otra preocupación. El prejuicio subyacente en los datos utilizados para entrenar la IA puede generar sesgo y discriminación en las herramientas en las que se implementa. “Si el chatbot observa cosas como cuánto tiempo le lleva responder, o si está usando la gramática correcta y oraciones complejas, ahí es donde comienza a preocuparse por la aparición de prejuicios”, dijo Pauline Kim, profesora de derecho laboral y laboral en la Universidad de Washington, cuya investigación se centra en el uso de IA en herramientas de contratación. Pero ese sesgo puede ser difícil de detectar cuando las empresas no son transparentes acerca de por qué se rechazó a un candidato potencial.
Recientemente, las autoridades gubernamentales han introducido legislación para monitorear y regular el uso de la automatización en las herramientas de contratación. A principios de julio, la ciudad de Nueva York promulgó una nueva ley que requiere que los empleadores que utilizan herramientas automatizadas como escáneres de currículums y entrevistas con chatbots auditen sus herramientas en busca de prejuicios raciales y de género. En 2020, Illinois aprobó una ley que requiere que los empleadores que aplican IA analicen las entrevistas en video para notificar a los solicitantes y obtener el consentimiento.
Lee más: Estas son las profesiones que la inteligencia artificial no podrá reemplazar
Adiós a los CVs infalibles: los chatbots de IA son los nuevos entrevistadores de trabajo
Aún así, para las empresas que buscan recortar los costos de reclutamiento, los agentes de selección de IA parecen una opción obvia. Los departamentos de recursos humanos son a menudo uno de los primeros lugares en ver reducciones de personal, dijo Matthew Scherer, asesor principal de políticas para los derechos de los trabajadores y la tecnología en el Centro para la Democracia y la Tecnología. “Los recursos humanos siempre han sido un centro de costos para una empresa, nunca ha sido algo que genere ingresos”, explicó. “Los chatbots son un primer paso muy lógico para tratar de quitarles parte de la carga a los reclutadores”.
Eso es parte de la lógica detrás de Sense HQ, que proporciona servicios a empresas como Sears, Dell y Sony con chatbots de inteligencia artificial basados en mensajes de texto que ayudan a sus reclutadores a abrirse camino entre miles de solicitantes. La compañía afirma que ya la han utilizado unos 10 millones de solicitantes de empleo, y el cofundador Alex Rosen le dijo a Forbes que esos números significan un grupo mucho más grande de candidatos viables.
“La razón por la que construimos un chatbot en primer lugar fue para ayudar a los reclutadores a hablar con una franja más amplia de candidatos de lo que podrían hacerlo por sí mismos”, dijo, y agregó la advertencia obligatoria: “No creemos que eso la IA debería tomar la decisión de contratación por su cuenta. Ahí es donde se pone peligroso. Simplemente no creemos que esté ahí todavía”.
RecruitBot está incorporando la inteligencia artificial en la contratación mediante el uso del aprendizaje automático para filtrar una base de datos de 600 millones de solicitantes de empleo extraídos de LinkedIn y otros mercados laborales, todo con el objetivo de ayudar a las empresas a encontrar candidatos laborales similares a sus empleados actuales. “Es algo así como Netflix recomienda películas basadas en otras películas que te gustan”, dijo a Forbes el CEO y fundador Jeremy Schiff. Pero aquí también el sesgo es una preocupación obvia; contratar más de lo mismo tiene sus trampas. En 2018, Amazon eliminó su máquina o sistema de seguimiento de currículums basado en el aprendizaje que discriminaba a las mujeres porque sus datos de capacitación estaban compuestos principalmente por currículums de hombres.
“Los chatbots son un primer paso muy lógico para tratar de quitarles parte de la carga a los reclutadores”.
Matthew Scherer, asesor principal de políticas del Centro para la Democracia y la Tecnología
Urmila Janardan, analista de políticas en Upturn, una organización sin fines de lucro que investiga cómo las tecnologías impactan en las oportunidades para las personas, señaló que algunas empresas también recurrieron a las pruebas de personalidad para descartar candidatos, y las preguntas para evaluar a los candidatos pueden no estar relacionadas con el trabajo en absoluto. “Incluso podría ser potencialmente rechazado del trabajo debido a preguntas sobre la gratitud y la personalidad”, dijo.
Para Rick Gned, un pintor y escritor a tiempo parcial, un cuestionario de personalidad fue parte de una entrevista de chatbot que hizo para un trabajo de apilamiento de estantes de salario por hora en el supermercado australiano Woolworths. El chatbot, creado por la firma de contratación de IA Sapia AI (anteriormente conocida como PredictiveHire), le pidió que proporcionara respuestas de 50 a 150 palabras para cinco preguntas y luego analizó sus respuestas, buscando rasgos y habilidades que coincidieran con las preferencias de los reclutadores.
Concluir que Gned “lidia bien con el cambio” y está “más centrado en el panorama general que lo hace mirar por encima de los detalles”, lo adelantó a la siguiente ronda de entrevistas. Si bien Sapia AI no requiere que los solicitantes respondan a las preguntas dentro de un límite de tiempo, el sistema mide la estructura de las oraciones, la legibilidad y la complejidad de las palabras utilizadas en las respuestas de texto, dijo en un correo electrónico el CEO y cofundador de Sapia AI, Barb Hyman.
Gned encontró todo el asunto deshumanizante y preocupante, le dijo a Forbes. “Estoy en un grupo demográfico en el que no me afecta, pero me preocupan las personas que son minorías, que predominantemente conforman el mercado laboral de bajos ingresos”.
Para un solicitante de empleo, que solicitó el anonimato para hablar libremente, chatear con un bot tuvo al menos un aspecto positivo. Cuando llena cientos de solicitudes de empleo, a menudo nunca recibe una respuesta, pero el bot al menos le aseguró que su solicitud fue recibida. “Se sintió como un impulso moral en muchos sentidos”, dijo. “Pero si tuviera que hacer esto (enviar mensajes de texto con un chatbot) con cada trabajo al que postulé, sería un dolor de cabeza”.
Este artículo fue publicado originalmente por Forbes US.
Te puede interesar: México comete ecocidio y etnocidio con la construcción del Tren Maya: ONG
