El Servicio de Empleo de Austria (AMS) recibió este jueves grandes críticas de usuarios porque un nuevo “chatbot” que utiliza ChatGPT para responder a cuestiones sobre formación y empleo reproduce sesgos al recomendar formaciones de ciencia a los hombres, y humanidades y servicios a mujeres.
El “Berufsinfomat” (Chat de información sobre empleo), que se puso en marcha el miércoles, permite a los usuarios consultar oportunidades de formación y trabajo, ofreciendo respuestas personalizadas y enlaces útiles.
La plataforma también proporciona información sobre estudios y especializaciones, además de facilitar enlaces y ofertas de formación específicas del AMS.
El “Berufsinfomat”, desarrollado por la administración austríaca y la empresa especializada en IA Goodguys, fue diseñado para asistir tanto a buscadores de empleo como a los propios trabajadores del AMS a la hora de asesorar a quien busque información.
La herramienta, que según el Gobierno austríaco es la primera de su tipo en Europa, costó unos 300,000 euros (328,265 dólares) y combina información del AMS con datos proporcionados por ChatGPT.
Sin embargo, el sistema ha recibido en apenas un día numerosas críticas por reproducir prejuicios en sus respuestas, algo que ya se detectó en otros “chatbot” gestionados con IA.
No te pierdas: Google demanda a creadores de anuncios falsos sobre Bard, su chatbot de IA
Denuncian a chatbot por prejuicios de género al sugerir empleos
El diario Der Standard indica, por ejemplo, que al preguntar sobre recomendaciones de empleo para jóvenes de 18 años que acaban de terminar la educación secundaria, sugiere ingenierías y otras profesiones científicas y económicas para hombres, mientras que a las mujeres se les recomienda estudios de género, idiomas o trabajos en hostelería y cocina.
Las dos preguntas fueron formuladas exactamente de la misma forma, siendo el sexo de quien pregunta la única diferencia entre ambas.
A pesar de las críticas, el AMS asegura que trabaja en mejorar la plataforma y reducir esos prejuicios, y defiende la validez de la nueva herramienta.
El director de AMS, Johannes Kopf, reconoció en X (antes conocido como Twitter) que “no es fácil quitar todos los malos hábitos” a la IA, en respuesta a las críticas de los usuarios por las recomendaciones de la plataforma.
Con información de EFE
¿Ya nos sigues en X? Síguenos y recibe la información más destacada
