Estás contratando empleados para varias posiciones. Te llegan 105 resumés para un solo puesto y no tienes tiempo de leerlos todos. Comentas a un colega tu situación y te responde: “usa ChatGPT” o “hay una herramienta de IA que revisa los resumes por ti.” Suena perfecto. Ahorras horas, reduces tu trabajo administrativo, y llegas más rápido a los candidatos que realmente encajan con la plaza, y puedes volver a tu trabajo “normal”.
Sin embargo, aquí está la pregunta que casi nadie se hace antes de subir los resumes a la IA para que los evalúe: ¿quién responde si la IA descarta candidatos de forma discriminatoria, aunque tú nunca hayas querido que discrimine?
La respuesta corta: tú. El patrono. No la empresa que vendió el software.
¿Por Qué Esto No Es Sólo un Problema de la IA?
Las leyes de empleo y discriminación en Estados Unidos —el Título VII de la Ley de Derechos Civiles, la Ley de Discrimen por Edad en el Empleo (ADEA), la Ley de Estadounidenses con Discapacidades (ADA)— no se escribieron pensando en algoritmos, pero no necesitan actualizarse para aplicar. Lo que importa para estas leyes no es cómo se tomó la decisión de descartar a un candidato, sino si el resultado tuvo un impacto discriminatorio (“disparate impact”) sobre una categoría protegida, las cuales pueden incluir sexo, raza, edad, origen nacional o discapacidad, entre otras.
Las herramientas de IA conocidas como “Automated Employment Decision Tools” (“AEDT”, por sus siglas en inglés) puede filtrar resumés buscando palabras clave, calificar entrevistas en video analizando patrones de habla y expresiones faciales, o darle puntaje a los candidatos. El problema es que estos sistemas son preparados “enseñándoles” datos históricos de contratación, y si esos datos reflejan sesgos pasados —por ejemplo, menos mujeres contratadas en roles de ingeniería— la herramienta puede replicar ese sesgo a gran escala, de forma silenciosa y sin que nadie lo note hasta que llegue una querella.
La ciudad de Nueva York fue una de las primeras jurisdicciones en regular esta situación. Su ley de AEDT (Local Law 144) exige que, antes de usar una de estas herramientas, el patrono realice una auditoría de sesgo (“bias audit”) independiente, publique los resultados, y notifique a los candidatos que se está usando IA en el proceso — y darles la opción de solicitar un proceso alterno. Esa auditoría debe calcular tasas de selección e “impact ratios” por categoría de sexo, raza/etnicidad y categorías interseccionales. Esta ley aplica aunque la IA sólo se use para una etapa temprana del proceso, como agendar entrevistas, y no para la decisión final de contratación.
Illinois tiene su propia ley (AI Video Interview Act), la cual exige notificar a los candidatos cuando se usa IA para analizar entrevistas en video. Colorado, bajo las reglas de su ley de privacidad, exige evaluaciones de riesgo y derecho a exclusión (opt-out) cuando se usa “AEDT” con efectos legales o significativos sobre una persona. California está avanzando en la misma dirección con sus regulaciones bajo la CCPA.
Al momento de esta publicación, Puerto Rico no tiene una ley específica sobre auditorías de sesgo en herramientas de IA para contratación. Sin embargo, esto no te libera de responsabilidad. Por un lado, las leyes federales sí aplican, y la Comisión de Igualdad de Oportunidades en el Empleo (EEOC) ha dejado claro que los patronos son responsables por el impacto discriminatorio de las herramientas que usan, sin importar quién las programó. Por otro lado, nuestra Ley Núm. 100 de 30 de junio de 1959 contra el discrimen en el empleo aplica en estos casos, aún cuando la misma no contiene la palabra “algoritmo”. En nuestro próximo artículo discutiremos en detalle como una violación a la Ley 100 podría traerte serias consecuencias.
¿Por Qué Debe Importarte Esto?
Porque la responsabilidad por el discrimen que genere la IA es tuya y no del vendedor del software. Si compras o te suscribes a una herramienta de IA para filtrar currículums y esa herramienta termina descartando desproporcionadamente a candidatos mayores de 40 años, mujeres, o personas con nombres que el sistema asocia (erróneamente) con menor competencia en inglés, tú serás el patrono demandado, no la empresa de software.
Piénsalo desde el punto de vista práctico de un negocio pequeño o una clínica en Puerto Rico:
- No tienes un departamento legal grande para revisar estos contratos de software.
- Probablemente no sabes qué datos usó la herramienta para “entrenarse.”
- Es fácil asumir que “si lo vende una empresa grande, debe ser legal usarlo así, sin más.”
Ese último punto es el error más común. Ninguna herramienta de IA viene con garantía de cumplimiento legal para tu jurisdicción y tu industria. La responsabilidad de verificar que el proceso de contratación no discrimine —usando IA o no— sigue siendo tuya.
Además, hay un problema práctico adicional: si un candidato rechazado solicita saber por qué no fue seleccionado, o presenta una querella, ¿puedes explicar cómo funcionó el proceso? Si tu única respuesta es “ChatGPT lo decidió,” eso no es una defensa legal. Es, de hecho, evidencia de que no hubo supervisión humana adecuada.
¿Cómo Puedo Cumplir con la Ley?
Esto no significa que debas evitar la IA en tu proceso de contratación. Significa que debes usarla con los mismos controles que aplicarías a cualquier decisión de empleo importante.
- Investiga la herramienta antes de usarla. Pregúntale al vendedor si se ha hecho una auditoría de sesgo independiente, cuándo fue la más reciente, y si están dispuestos a compartir esos resultados con tus candidatos si te lo piden.
- Nunca dejes que la IA tenga la última palabra. Usa la herramienta para organizar o priorizar, no para descartar automáticamente sin revisión humana. Un ser humano debe poder explicar y justificar cada decisión de exclusión.
- Notifica a los candidatos. Aunque Puerto Rico no lo exija todavía por ley, es una buena práctica —y una defensa legal— informar en la oferta de empleo que se usará tecnología de IA en parte del proceso de evaluación.
- Documenta el proceso. Guarda registros de qué herramienta usaste, qué criterios aplicó el sistema, y qué revisión humana se hizo antes de cada rechazo. Si nunca te preguntan, no perdiste nada. Si te preguntan, esa documentación es tu defensa.
- Ten un proceso alterno. Si un candidato no quiere que su solicitud sea evaluada por IA, establece un proceso en el que una persona revisa su currículum directamente.
- Revisa el contrato con tu vendedor. ¿Quién es responsable si la herramienta produce un resultado discriminatorio? ¿Tienes derecho a auditar cómo funciona? Estas cláusulas casi nunca se negocian, pero debes intentarlo.
En Resumen
La IA puede ahorrarte tiempo real en el proceso de contratación, y no hay nada malo en usarla. El problema no es la tecnología —es tratarla como si fuera neutral, infalible, o responsabilidad de otro. Si una herramienta de IA descarta candidatos de formas discriminatorias, la ley te ve a ti, el patrono, como el responsable. Úsala como una herramienta de apoyo, mantén supervisión humana en cada decisión, documenta tu proceso, y verifica —antes de comprar, no después de una querella— qué controles tiene la herramienta que estás utilizando.
¿Estás usando o considerando usar IA en tu proceso de contratación y no sabes si tu proceso actual te expone a riesgos legales? Conversemos. Agenda una consulta aquí.