Equidad, sesgo y perjuicios en el mundo real

Una IA aprende a partir de ingentes cantidades de textos e imágenes creados por personas, y el registro de la humanidad incluye injusticias, estereotipos y puntos ciegos. Por eso, la IA puede absorber y repetir esos patrones, no por malicia, sino porque refleja aquello con lo que fue entrenada. Comprender esto le ayuda a usar la IA de forma más justa y a detectar cuándo se equivoca.

El sesgo se manifiesta de formas concretas. Un generador de imágenes al que se le pida «un CEO» puede mostrar principalmente a personas de un solo género o raza. Una herramienta para seleccionar currículos puede favorecer ciertos nombres. Una traducción puede dar por hecho que un médico es hombre y una enfermera, mujer. No son situaciones hipotéticas: todas han ocurrido en sistemas reales y han afectado a personas reales.

Cuando una IA sesgada está detrás de decisiones de contratación, concesión de préstamos, vigilancia policial o atención sanitaria, el daño no es abstracto. Un sistema que parece neutral, pero favorece discretamente a algunos grupos, puede negar a otras personas empleos, préstamos o un trato justo. El aura de «lo ha dicho el ordenador» hace que las decisiones injustas parezcan objetivas, lo que puede dificultar aún más que se cuestionen.

Principalmente de los datos de entrenamiento: si los datos del pasado reflejan discriminación histórica, la IA aprende a repetirla. También puede introducirse por las personas que construyeron el sistema y por aquello que decidieron comprobar. La máquina no decide ser injusta; copia fielmente los patrones de unos datos defectuosos. Basura entra, sesgo sale.

Puede que no construya sistemas de IA, pero sí utiliza sus resultados. Si pide a la IA que seleccione candidatos, redacte evaluaciones de desempeño o juzgue a personas, sus sesgos se convierten en sus decisiones. Manténgase alerta: ¿perjudicaría este resultado a alguien de forma injusta? Añada una revisión humana a todo lo que afecte a las oportunidades o la dignidad de las personas.

Puede orientar a la IA hacia resultados más justos. Pida ejemplos diversos: «Muestre una variedad de personas», «Incluya perspectivas de distintas culturas», «Evite los estereotipos». Al generar personas o roles, solicite variedad explícitamente en lugar de aceptar el resultado predeterminado, que a menudo se inclina hacia el patrón mayoritario de los datos.

Lea los resultados de la IA con un filtro de equidad. ¿Dio por sentado el género de una profesión? ¿Describió a un grupo con términos limitados y llenos de clichés? ¿Omitió por completo algunas perspectivas? Nombrar el estereotipo le permite corregirlo: «Ese enfoque se basa en un estereotipo; vuelva a hacerlo de forma justa, por favor». Usted es quien edita y se niega a publicar el sesgo.

Imagine que utiliza la IA para clasificar a candidatos a un puesto. Si las contrataciones anteriores se inclinaban en una dirección, la IA podría clasificar discretamente más alto los perfiles similares y penalizar a otros, incluso a candidatos excelentes. Confiar ciegamente en ella podría ser injusto y, en muchos lugares, ilegal. La IA puede ayudar a seleccionar candidatos, pero una persona debe asumir la responsabilidad de las decisiones que afectan al sustento de otras personas.

Los desarrolladores trabajan activamente para reducir el sesgo y las herramientas mejoran con el tiempo. Su función es mantenerse alerta de forma realista, no caer en el desánimo. Aproveche los enormes beneficios de la IA, pero mantenga una mirada crítica sobre los resultados que afectan a la equidad. Los usuarios conscientes hacen que la IA sea más segura simplemente al negarse a aceptar resultados sesgados.

Si observa que una herramienta de IA produce resultados claramente sesgados o perjudiciales, repórtelo; la mayoría de las plataformas tienen botones para enviar comentarios. Su aviso ayuda a los desarrolladores a corregir patrones que afectan a muchas personas. Considerar que la equidad es responsabilidad de todos, no solo de los ingenieros, es lo que permite mejorar estos sistemas.

La IA refleja el sesgo humano presente en sus datos de entrenamiento, y ese sesgo causa un daño real cuando está detrás de decisiones sobre personas. Manténgase alerta al usarla, pida diversidad en sus prompts, detecte los estereotipos, mantenga a las personas al mando de las decisiones de alto riesgo y notifique los problemas. Ayuda a construir una IA más justa simplemente al negarse a transmitir su sesgo.

Planea utilizar una herramienta de IA para ayudar a clasificar a los candidatos a un puesto.

La IA refleja el sesgo humano presente en unos datos de entrenamiento defectuosos, y ese sesgo causa un daño real cuando impulsa decisiones sobre personas. Manténgase alerta al usarla, pida diversidad, detecte los estereotipos, mantenga a las personas al mando de las decisiones de alto riesgo y notifique los problemas. Negarse a transmitir el sesgo le convierte en parte de la construcción de una IA más justa.