La automatización de procesos de selección. ¿Un mal necesario?
La IA puede filtrar 500 CVs en minutos. ¿Pero elige los mejores, o los deja fuera?
Es rara la empresas que hoy en día no usa la inteligencia artificial para cribar candidaturas: sistemas de gestión de candidaturas (ATS) con puntuación automática, herramientas que ordenan perfiles y chatbots que hacen las primeras preguntas. La promesa es tentadora: más rapidez, menos carga para RRHH y decisiones «objetivas».
El problema está en esta última palabra.
La IA no es neutral. Aprende de los datos que la alimentan.
Un sistema de selección no inventa criterios. Los aprende de los datos con los que se entrena, y esos datos son las decisiones que tu empresa, o el sector, tomó en el pasado.
Amazon lo vivió en carne propia hace no tanto. Construyó una herramienta para puntuar CVs y la entrenó con diez años de candidaturas, en su mayoría de hombres. El sistema aprendió que ser hombre era un buen predictor y empezó a penalizar los CVs que incluían la palabra «women’s», como en «capitana del club de ajedrez femenino». La empresa acabó abandonando el proyecto.
No es un caso aislado. En 2024, un estudio de la Universidad de Washington analizó cómo tres modelos de lenguaje ordenaban 550 CVs reales cambiando únicamente el nombre del candidato. Los modelos prefirieron nombres asociados a personas blancas en el 85% de los casos y nombres femeninos solo en el 11%.
No hace falta que alguien le pida a las herramientas que discriminen A o B. Suelen discriminar porque repiten patrones que nadie revisó.
La llegada del AI Act
El Reglamento Europeo de Inteligencia Artificial ha clasificado como alto riesgo los sistemas de IA que se usan para contratar y seleccionar personas: publicar ofertas dirigidas, filtrar candidaturas y evaluar candidatos.
Ser alto riesgo trae consigo una lista de exigencias, y las reparte entre dos actores.
Quien desarrolla la herramienta tendrá que:
– Garantizar su precisión y robustez, pasar una evaluación de conformidad antes de venderla y registrarla en la base de datos europea.
– Tener un sistema de gestión de riesgos durante toda la vida del producto.
– Entrenarla con datos de calidad y representativos, y examinarlos para detectar y corregir sesgos.
– Elaborar documentación técnica y dar instrucciones de uso claras a quien la compra.
– Diseñarla para que una persona pueda supervisarla e intervenir en sus decisiones.
Por su parte, la empresa que use la herramienta tendrá qué:
– Supervisión humana real, asignada a personas con la formación, la autoridad y el apoyo necesarios.
– Vigilar cómo funciona el sistema y avisar al proveedor si detecta riesgos.
– Conservar los registros que genera la herramienta durante al menos seis meses.
– Informar a la plantilla y a sus representantes antes de usar el sistema en el entorno laboral.
– Informar a los candidatos de que en su proceso se utiliza un sistema de IA de alto riesgo.
Dicho de otro modo: el reglamento da por hecho que la empresa entiende, controla y responde por la herramienta que usa.
Un matiz importante: estas obligaciones aún no están en vigor. Con la reforma aprobada este verano (el llamado Omnibus de IA, en vigor desde el 27 de julio de 2026), los requisitos para sistemas de alto riesgo en el ámbito del empleo se aplicarán a partir del 2 de diciembre de 2027.
Lo que ya aplica hoy
Que el AI Act llegue en 2027 no significa que hoy haya vía libre.
El RGPD ya reconoce el derecho de las personas a no ser objeto de decisiones basadas únicamente en un tratamiento automatizado que les afecten de forma significativa. Descartar a alguien de un proceso de selección sin intervención humana entra de lleno en ese terreno.
Y la normativa de igualdad de trato y no discriminación no distingue si el sesgo lo introdujo una persona o un algoritmo. Si el resultado es discriminatorio, lo es igual.
Qué puede hacer tu empresa desde ya
No hace falta esperar a 2027 para hacerlo bien, y más vale prepararse con tiempo:
1. Saber qué decide la herramienta. ¿Filtra, ordena o descarta? ¿Con qué criterios?
2. Que ningún descarte sea 100% automático. La última palabra la tiene una persona que entiende el puesto.
3. Auditar los resultados. Revisa periódicamente quién pasa el filtro y quién no. Si hay patrones por edad, género u origen, algo falla.
4. Pedir transparencia al proveedor. Con qué datos se entrenó, cómo se controlan los sesgos y qué documentación ofrece.
5. Informar a los candidatos. Decirles que usas IA en el proceso no resta confianza, la genera.
El criterio no se automatiza
En Agile usamos la tecnología para lo que sirve: ganar velocidad, ordenar información y llegar a más perfiles. Pero la decisión sobre una persona, su encaje en un equipo y en una cultura y su potencial más allá del CV la toma siempre alguien que responde por ella.
Porque automatizar un proceso es una decisión de negocio. Responder por sus consecuencias sigue siendo de tu empresa.