Tag: Bias

¿Puedo Usar Inteligencia Artificial Para Revisar Resumés y Contratar Empleados?

Posted by Jaime Farrant on

Estás contratando empleados para varias posiciones. Te llegan 105 resumés para un solo puesto y no tienes tiempo de leerlos todos. Comentas a un colega tu situación y te responde: “usa ChatGPT” o “hay una herramienta de IA que revisa los resumes por ti.” Suena perfecto. Ahorras horas, reduces tu trabajo administrativo, y llegas más rápido a los candidatos que realmente encajan con la plaza, y puedes volver a tu trabajo “normal”.

Sin embargo, aquí está la pregunta que casi nadie se hace antes de subir los resumes a la IA para que los evalúe: ¿quién responde si la IA descarta candidatos de forma discriminatoria, aunque tú nunca hayas querido que discrimine?

La respuesta corta: tú. El patrono. No la empresa que vendió el software.

¿Por Qué Esto No Es Sólo un Problema de la IA?

Las leyes de empleo y discriminación en Estados Unidos —el Título VII de la Ley de Derechos Civiles, la Ley de Discrimen por Edad en el Empleo (ADEA), la Ley de Estadounidenses con Discapacidades (ADA)— no se escribieron pensando en algoritmos, pero no necesitan actualizarse para aplicar. Lo que importa para estas leyes no es cómo se tomó la decisión de descartar a un candidato, sino si el resultado tuvo un impacto discriminatorio (“disparate impact”) sobre una categoría protegida, las cuales pueden incluir sexo, raza, edad, origen nacional o discapacidad, entre otras.

Las herramientas de IA conocidas como “Automated Employment Decision Tools” (“AEDT”, por sus siglas en inglés) puede filtrar resumés buscando palabras clave, calificar entrevistas en video analizando patrones de habla y expresiones faciales, o darle puntaje a los candidatos. El problema es que estos sistemas son preparados “enseñándoles” datos históricos de contratación, y si esos datos reflejan sesgos pasados —por ejemplo, menos mujeres contratadas en roles de ingeniería— la herramienta puede replicar ese sesgo a gran escala, de forma silenciosa y sin que nadie lo note hasta que llegue una querella.

La ciudad de Nueva York fue una de las primeras jurisdicciones en regular esta situación. Su ley de AEDT (Local Law 144) exige que, antes de usar una de estas herramientas, el patrono realice una auditoría de sesgo (“bias audit”) independiente, publique los resultados, y notifique a los candidatos que se está usando IA en el proceso — y darles la opción de solicitar un proceso alterno. Esa auditoría debe calcular tasas de selección e “impact ratios” por categoría de sexo, raza/etnicidad y categorías interseccionales. Esta ley aplica aunque la IA sólo se use para una etapa temprana del proceso, como agendar entrevistas, y no para la decisión final de contratación.

Illinois tiene su propia ley (AI Video Interview Act), la cual exige notificar a los candidatos cuando se usa IA para analizar entrevistas en video. Colorado, bajo las reglas de su ley de privacidad, exige evaluaciones de riesgo y derecho a exclusión (opt-out) cuando se usa “AEDT” con efectos legales o significativos sobre una persona. California está avanzando en la misma dirección con sus regulaciones bajo la CCPA.

Al momento de esta publicación, Puerto Rico no tiene una ley específica sobre auditorías de sesgo en herramientas de IA para contratación. Sin embargo, esto no te libera de responsabilidad. Por un lado, las leyes federales sí aplican, y la Comisión de Igualdad de Oportunidades en el Empleo (EEOC) ha dejado claro que los patronos son responsables por el impacto discriminatorio de las herramientas que usan, sin importar quién las programó. Por otro lado, nuestra Ley Núm. 100 de 30 de junio de 1959 contra el discrimen en el empleo aplica en estos casos, aún cuando la misma no contiene la palabra “algoritmo”. En nuestro próximo artículo discutiremos en detalle como una violación a la Ley 100 podría traerte serias consecuencias.

¿Por Qué Debe Importarte Esto?

Porque la responsabilidad por el discrimen que genere la IA es tuya y no del vendedor del software. Si compras o te suscribes a una herramienta de IA para filtrar currículums y esa herramienta termina descartando desproporcionadamente a candidatos mayores de 40 años, mujeres, o personas con nombres que el sistema asocia (erróneamente) con menor competencia en inglés, tú serás el patrono demandado, no la empresa de software.

Piénsalo desde el punto de vista práctico de un negocio pequeño o una clínica en Puerto Rico:

  • No tienes un departamento legal grande para revisar estos contratos de software.
  • Probablemente no sabes qué datos usó la herramienta para “entrenarse.”
  • Es fácil asumir que “si lo vende una empresa grande, debe ser legal usarlo así, sin más.”

Ese último punto es el error más común. Ninguna herramienta de IA viene con garantía de cumplimiento legal para tu jurisdicción y tu industria. La responsabilidad de verificar que el proceso de contratación no discrimine —usando IA o no— sigue siendo tuya.

Además, hay un problema práctico adicional: si un candidato rechazado solicita saber por qué no fue seleccionado, o presenta una querella, ¿puedes explicar cómo funcionó el proceso? Si tu única respuesta es “ChatGPT lo decidió,” eso no es una defensa legal. Es, de hecho, evidencia de que no hubo supervisión humana adecuada.

¿Cómo Puedo Cumplir con la Ley?

Esto no significa que debas evitar la IA en tu proceso de contratación. Significa que debes usarla con los mismos controles que aplicarías a cualquier decisión de empleo importante.

  1. Investiga la herramienta antes de usarla. Pregúntale al vendedor si se ha hecho una auditoría de sesgo independiente, cuándo fue la más reciente, y si están dispuestos a compartir esos resultados con tus candidatos si te lo piden.
  2. Nunca dejes que la IA tenga la última palabra. Usa la herramienta para organizar o priorizar, no para descartar automáticamente sin revisión humana. Un ser humano debe poder explicar y justificar cada decisión de exclusión.
  3. Notifica a los candidatos. Aunque Puerto Rico no lo exija todavía por ley, es una buena práctica —y una defensa legal— informar en la oferta de empleo que se usará tecnología de IA en parte del proceso de evaluación.
  4. Documenta el proceso. Guarda registros de qué herramienta usaste, qué criterios aplicó el sistema, y qué revisión humana se hizo antes de cada rechazo. Si nunca te preguntan, no perdiste nada. Si te preguntan, esa documentación es tu defensa.
  5. Ten un proceso alterno. Si un candidato no quiere que su solicitud sea evaluada por IA, establece un proceso en el que una persona revisa su currículum directamente.
  6. Revisa el contrato con tu vendedor. ¿Quién es responsable si la herramienta produce un resultado discriminatorio? ¿Tienes derecho a auditar cómo funciona? Estas cláusulas casi nunca se negocian, pero debes intentarlo.

En Resumen

La IA puede ahorrarte tiempo real en el proceso de contratación, y no hay nada malo en usarla. El problema no es la tecnología —es tratarla como si fuera neutral, infalible, o responsabilidad de otro. Si una herramienta de IA descarta candidatos de formas discriminatorias, la ley te ve a ti, el patrono, como el responsable. Úsala como una herramienta de apoyo, mantén supervisión humana en cada decisión, documenta tu proceso, y verifica —antes de comprar, no después de una querella— qué controles tiene la herramienta que estás utilizando.

¿Estás usando o considerando usar IA en tu proceso de contratación y no sabes si tu proceso actual te expone a riesgos legales? Conversemos. Agenda una consulta aquí.

Can I Use AI to Review Résumés and Hire Employees?

Posted by Jaime Farrant on with 0 Comment

You’re hiring for several positions. You get 105 résumés for a single role and you don’t have time to read them all. You mention your situation to a colleague and they say: “use ChatGPT” or “there’s an AI tool that screens résumés for you.” It sounds perfect. You save hours, cut down on administrative tasks, get to the candidates who actually fit the role faster, and you can return to your “real” work more quickly.

However, there is an important question almost nobody asks before uploading résumés to an AI tool for screening: who’s responsible if the AI discriminatorily screens out candidates, even if you never intended it to discriminate?

The short answer: you are. The employer. Not the company that sold you the software.

Why Isn’t This Just an AI Problem?

U.S. employment and discrimination laws — Title VII of the Civil Rights Act, the Age Discrimination in Employment Act (ADEA), the Americans with Disabilities Act (ADA) — weren’t written with algorithms in mind, but they don’t need to be updated to apply. What matters under these laws isn’t how a decision to screen out a candidate was made, but whether the outcome had a disparate impact on a protected category, which can include sex, race, age, national origin, or disability, among others.

AI tools known as “Automated Employment Decision Tools” (“AEDTs”) can filter résumés by keyword, score video interviews by analyzing speech patterns and facial expressions, and rank candidates, among other tasks. The problem is that these systems are built by “training” them on historical hiring data, and if that data reflects past biases — for example, fewer women hired into engineering roles — the tool can replicate that bias at scale, quietly, with no one noticing it until a complaint arrives.

New York City was one of the first jurisdictions to regulate this. Its AEDT law (Local Law 144) requires that, before using one of these tools, an employer must conduct an independent bias audit, publish the results, and notify candidates that AI is being used in the process — and giving them the option to request an alternative process. That audit must calculate selection rates and “impact ratios” by sex, race/ethnicity, and intersectional categories. The law applies even if the AI is only used at an early stage of the process, such as scheduling interviews, and not for the final hiring decision.

Illinois has its own law (the AI Video Interview Act), which requires notifying candidates when AI is used to analyze video interviews. Colorado, under its privacy law rules, requires risk assessments and an opt-out right when an “AEDT” is used with legal or significant effects on a person. California is moving in the same direction with its regulations under CCPA.

As of this publication, Puerto Rico does not have a specific law on bias audits for AI hiring tools. That doesn’t relieve you of responsibility, though. On one hand, federal law still applies, and the Equal Employment Opportunity Commission (EEOC) has made clear that employers are responsible for the discriminatory impact of the tools they use, regardless of who programmed them. On the other hand, our own Law No. 100 of June 30, 1959, which prohibits discrimination in employment, applies here too, even though it doesn’t contain the word “algorithm.” In our next article, we’ll discuss in detail how a violation of Law 100 could bring serious consequences.

Why Should You Care?

Because liability for discrimination generated by AI is yours, not the software vendor’s. If you buy or subscribe to an AI tool to filter résumés and that tool ends up disproportionately screening out candidates over 40, women, or people with names the system (incorrectly) associates with lower English proficiency, you’ll be the employer sued — not the software company.

Think about it from the practical standpoint of a small business or a clinic in Puerto Rico:

  • You don’t have a large legal department to review these software contracts.
  • You probably don’t know what data the tool was trained on.
  • It’s easy to assume that “if a big company sells it, it must be legal to use this way, no further questions asked.”

That last point is the most common mistake. No AI tool comes with a guarantee of legal compliance for your jurisdiction and your industry. The responsibility for making sure your hiring process doesn’t discriminate — whether AI is involved or not — is still yours.

There’s also an additional practical problem: if a rejected candidate asks why they weren’t selected, or files a complaint, can you explain how the process worked? If your only answer is “ChatGPT decided who we should select,” that’s not a legal defense. In fact, it’s evidence that there was no adequate human oversight.

How Can I Comply with the Law?

This doesn’t mean you should avoid AI in your hiring process. It means you need to use it with the same controls you’d apply to any important employment decision, with some of them being:

  1. Investigate the tool before using it. Ask the vendor whether an independent bias audit has been done, when the most recent one was, and whether they’re willing to share those results with your candidates if asked.
  2. Never let the AI have the final word. Use the tool to organize or prioritize, not to automatically reject candidates without human review. A human being should be able to explain and justify every decision.
  3. Notify candidates. Even though Puerto Rico doesn’t yet require it by law, it’s good practice — and a legal defense — to disclose in the job posting that AI technology will be used as part of the evaluation process.
  4. Document the process. Keep records of which tool you used, what criteria the system applied, and what human review took place before each rejection. If no one ever asks, you’ve lost nothing. If they do ask, that documentation is your defense.
  5. Have an alternative process. If a candidate doesn’t want their application evaluated by AI, set up a process where a person reviews their résumé directly.
  6. Review your vendor contract. Who’s responsible if the tool produces a discriminatory outcome? Do you have the right to audit how it works? These clauses are rarely negotiated, but you should try.

The Bottom Line

AI can genuinely save you time in the hiring process, and there’s nothing wrong with using it. The problem isn’t the technology — it’s treating it as if it were neutral, infallible, or someone else’s responsibility. If an AI tool screens out candidates in discriminatory ways, the law holds you, the employer, responsible. Use it as a support tool, keep human oversight on every decision, document your process, and verify — before you buy, not after a complaint — what controls the tool you’re using actually has.

Are you using or considering using AI in your hiring process and aren’t sure whether your current process exposes you to legal risk? Let’s talk. Schedule a consultation here.