Algoritmos y contratación... Sí, pero ¿hasta dónde?

El desarrollo de herramientas de inteligencia artificial (IA) se está extendiendo a diferentes campos cada día, y las profesiones de la contratación no ha sido una excepción. Con verdaderas perspectivas potenciales - en particular en términos de eficacia en la clasificación de numerosas solicitudes, por ejemplo - pero también verdaderos interrogantes sobre la objetividad del proceso, su ética y su eficacia real.

Stéphanie Lecerf, directora de RRHH en Francia del Grupo Page y presidenta de la asociación A Compétence Egale, y Dominique Duquesnoy, director general de PerformanSe - miembro de la asociación A compétence Egale - comparten sus puntos de vista, muy bien argumentados, sobre las cuestiones que plantea el uso de algoritmos en la contratación interna o externa.

Stéphanie Lecerf (SL): Hoy tenemos potencialmente mucha información sobre muchos candidatos... y muy poco tiempo para procesarla. Por lo tanto, las herramientas que nos permiten identificar y procesar estos datos rápidamente son muy atractivas. Sobre todo, porque todos los reclutadores quieren ir más allá de los CV, probar nuevos enfoques, reclutar sobre la base de información diferente. Y toda contratación es una apuesta, arriesgada por naturaleza. Por lo tanto, cualquier cosa que haga que el proceso sea más seguro -o que permita imaginar que podría serlo- es lógicamente bienvenida...

Dominique Duquesnoy (DD): En entornos cambiantes e inestables, los procesos de toma de decisiones son cada vez más complejos. Por lo tanto, es natural el deseo de involucrar a otros factores, de utilizar otras fuentes de información, de probar otros enfoques. El futuro es siempre difícil de predecir, ¡y el hombre siempre ha intentado predecirlo de todas formas! A veces con métodos originales, o analizando variables complejas...

SL: Todo depende de lo fiables que sean y de cómo se utilicen. Para mí, el uso de las llamadas herramientas de contratación "predictivas", por ejemplo, plantea verdaderos interrogantes. Porque los sesgos discriminatorios pueden aparecer a varios niveles, dependiendo de la forma en que se hayan escrito y configurado los algoritmos, de la calidad e integridad de los datos o del funcionamiento de los propios algoritmos. Porque los algoritmos funcionan con los datos disponibles y, por tanto, por su propia naturaleza, con datos pasados, basados en los indicadores de rendimiento de las personas que ya están en el puesto. Son ante todo máquinas de "reproducción". Sin embargo, hoy necesitamos la diversidad -más que nunca-, necesitamos innovar, necesitamos imaginar nuevas habilidades para trabajos conocidos y proyectar las habilidades conocidas en nuevos trabajos, precisamente donde no hay historia. Pero también porque los tratamientos son siempre relativos, y su aparente objetividad es sólo una fachada en verdad...

DD: Un algoritmo sin una mente informada que lo guíe es, en efecto, ciego, pero un individuo sin una herramienta que le ayude también suele ser menos eficaz. La extracción de conocimientos ayuda a fundamentar la toma de decisiones, siempre que, por supuesto, se base en un análisis crítico de su utilidad en el proceso de toma de decisiones. Porque es cierto que los conocimientos extraídos del "espejo retrovisor" no siempre son relevantes para la decisión y que todos los datos recogidos no suelen explicar el rendimiento futuro. Me parece que se necesita una mayor precisión sobre las diferentes formas de rendimiento (en la tarea, contextual, adaptativo) para investigar los factores que contribuyen.

SL: Creo que el principal error sería creer que el procesamiento informático es objetivo y fiable por naturaleza. Porque no habría ningún "sesgo" humano de por medio, al contrario de lo que ocurre en la contratación tradicional. Esto no es cierto por las razones que he mencionado anteriormente. El tratamiento real de los datos es ciertamente idéntico, en el sentido de que todos los datos en cuestión serán tratados por igual, pero la elección de los datos, la parametrización del algoritmo y las instrucciones de tratamiento pueden presentar numerosos sesgos. El otro escollo sería pensar que, como reclutador, no somos capaces de entender cómo funcionan estas herramientas. Por el contrario, es necesario que nos las expliquen y que nos hagamos las preguntas adecuadas antes de utilizarlas.

DD: Para mí, es obvio pensar que si hay herramientas de evaluación... Se han construido según las reglas del arte, de acuerdo con los principios científicos probados, para limitar la intrusión del sesgo cognitivo en los resultados. El error sería, pues, pensar que el algoritmo puede o debe sustituir al ser humano. No sustituye al ser humano, sino que se hace cargo de ciertas tareas sencillas -en este caso la búsqueda y el tratamiento de la información- para ayudarle a volver a centrarse en actividades más esenciales como el análisis, la puesta en común, el intercambio... ¡y la toma de decisiones!

SL: Para evitar el sesgo, debemos asegurarnos de que los datos se recogen de forma justa y adecuada, imponer un análisis y un seguimiento regulares del impacto del procesamiento y su posible sesgo, hacer que los algoritmos sean auditables y mantener un control total sobre los parámetros de las herramientas al no utilizar el aprendizaje automático. En el seno de la asociación A Compétence Egale, hemos elaborado una carta que recuerda estos principios e insiste también en la transparencia de la recogida de los datos en cuestión y en la necesidad de proporcionar una información equitativa a los candidatos sobre la utilización de esta información. También nos recuerda la importancia de garantizar que las herramientas de IA sólo se utilicen como ayuda para la toma de decisiones. No debemos delegar nuestras decisiones de contratación en los algoritmos, sino mantener la plena responsabilidad de nuestras elecciones.

DD: Establecer un marco y unas normas es, por supuesto, esencial. Los procesos implicados deben hacerse visibles y explícitos, y debe mantenerse una forma de "ecología de la mente" en los usos que se hacen de ellos. Pero también y sobre todo creo que hay que intentar ir más allá de la simple captación predictiva. ¿Por qué no intentar diseñar y utilizar un algoritmo que tenga en cuenta los factores de la personalidad para dar una nueva mirada al individuo en el trabajo? ¿Ir más allá de lo que ya han hecho y proyectar lo que podrían hacer?

SL: ¡No hay razón para decir esto hoy... o para preocuparse por ello! La contratación no es un juego de ajedrez o una partida de go. Por ejemplo, hoy en día no existe ningún algoritmo que pueda medir de forma fiable las habilidades de comportamiento de los candidatos. Pero estas herramientas pueden ser valiosas para aumentar la eficiencia de los reclutadores, su capacidad para procesar la información más rápidamente e ir más allá de la información contenida en los CV. No deben oponerse entre sí, sino combinarse.

DD: No, por supuesto que no, pero podrán apoyar a los reclutadores en sus elecciones reuniendo una base de información más rica para ellos. Y acompañarlos de la mejor manera posible permitiéndoles realizar actividades más estimulantes, de reflexión, de propuesta o de decisión.

SL: Que es muy importante -ante los interrogantes sin precedentes que plantea el uso de la IA en la contratación- permanecer lúcidos y críticos, y sobre todo asumir plenamente nuestras responsabilidades. No podemos escondernos detrás de la herramienta. Sea lo que sea que el algoritmo proponga o sugiera, somos realmente responsables de lo que hacemos con estas "propuestas". Ante nuestros clientes internos, nuestros candidatos, nuestros empleadores y nuestros compañeros, debemos preservar sus derechos fundamentales y mantener la plena responsabilidad de nuestras elecciones y sus motivaciones.

DD: Independientemente de sus defectos y limitaciones, la introducción de nuevas herramientas es siempre un incentivo para progresar, para renovarnos con el fin de desarrollar nuestras habilidades más singulares... ¡y para volver a centrarnos en lo esencial!