¿La Inteligencia Artificial puede perpetuar discriminaciones y sesgos por discapacidad?

¿La Inteligencia Artificial tiene en cuenta a las personas con discapacidad? ¿Está reproduciendo patrones de opresión y de exclusión? Son algunas de las cuestiones a las que quiere dar respuesta un estudio del Real Patronato sobre Discapacidad.

¿Las discriminaciones y sesgos por capacidad pueden llegar a perpetuarse con la Inteligencia Artificial? A esta pregunta intenta dar respuesta un estudio.

Porque la IA también dispone de palabras como lisiado, inválido y tullido y podría utilizarlas en cualquier texto o aplicación, sin tener en cuenta, por tanto, la connotación negativa y la discriminación que se puede perpetuar hacia las personas con discapacidad.

Todo ello lo ha querido analizar el Real Patronato sobre Discapacidad, dependiente del Ministerio de Derechos Sociales, en el estudio ‘Impacto de la Inteligencia Artificial en los derechos de las personas con discapacidad’.

Los resultados de esta investigación, realizada con entrevistas a 864 personas con discapacidad con la asistencia técnica de la Fundación ONCE, muestran que si bien el 99,8 % de las encuestadas conocen productos de inteligencia artificial, sólo el 12,3 % las usa.

Tecnologías muy caras y complejas

La falta de accesibilidad de estos productos y el sobrecoste añadido son las barreras que impiden un mayor uso por parte de las personas con discapacidad.

«Algunas cosas muy útiles como la domótica son excesivamente caras», «Deberían ser gratuitas para personas con discapacidad» o «Las pensiones son muy bajas. No podemos permitirnos esta tecnología», son algunas de las respuestas de las personas encuestadas.

Otros de los obstáculos, según los encuestados, son la complejidad de las instrucciones y los menús de estas tecnologías que incluyen numerosos tecnicismos.

Por eso, piden «manuales que se entiendan para poder utilizarlos» o «hacerlo más fácil, ya que a veces no lo uso porque no lo entiendo», como recalcan algunas respuestas.

Las personas encuestadas consideran que las tecnologías basadas en Inteligencia Artificial tienen en cuenta algunas discapacidades, pero no otras, y creen que deben ser accesibles para todos.

Y proponen: «Algunas personas sordas oyen ruidos y no entienden las palabras, sería importante poder aislar los ruidos», «Vídeos con subtítulos integrados y de buena calidad ortográfica y sintáctica» o «Llamadas telefónicas traducidas a texto».

Patrones del pasado

La investigación recuerda que las personas con discapacidad han sido objeto de marginación histórica y actual, generando exclusión sistemática y estructural de acceso al poder, a los recursos y a las oportunidades, unos patrones de marginación impresos en los datos que dan forma a los sistemas de IA.

Entre los riesgos, argumenta el estudio que la IA «aprende gracias a enormes cantidades de datos, pero si en estos datos no hay ejemplos positivos de las personas con discapacidad, tenderá a subrepresentarla, a ignorarla y, por tanto, a discriminarla».

«La administración pública debe estar vigilante para que, en este caso, no se nutra del capacitismo y vuelva a repetir los patrones de opresión y de exclusión», asegura el director del general de Derechos de las Personas con Discapacidad y del patronato, Jesús Martín Blanco.

La Inteligencia Artificial tiene el potencial de hacer la vida más fácil y mejor a todas las personas, pero ¿también a las personas con discapacidad? La respuesta es sí, destaca el informe.

Redes sociales y búsqueda de trabajo

Recuerda el informe que las tecnologías más utilizadas son las redes sociales (el 90,5 %) para acceder a información de actualidad y comunicarse con amigos, seguidas de las plataformas de empleo (88,3 %); las que menos, la domótica para gestionar dispositivos en el hogar (25,5 %) y sistemas de transcripción para trabajar o tomar apuntes (38,5 %).

En el caso de las personas con discapacidad desempleadas o en búsqueda activa de empleo, las plataformas de ofertas de empleo basadas en la Inteligencia Artificial son en muchas ocasiones inaccesibles, lo que dificulta su uso.

Además, señala que «los sistemas de IA actuales cuentan con la funcionalidad de detectar por medio de lectura de voz, reconocimiento facial y otros datos de comportamiento humano, cuando el candidato tiene, ha tenido o puede tener una deficiencia que genere una discapacidad».

«En la medida que las empresas no se vean forzadas a revelar el código con el cual se ha diseñado el sistema de IA, esta funcionalidad tecnológica pone en jaque a todo el sistema legal de antidiscriminación laboral vigente», asevera el estudio.

Los avances que se han generado en materia de empleabilidad de personas con discapacidad «pueden caer en saco roto si se afianza la tendencia actual de uso de sistemas de IA para llevar adelante los procesos de contratación de las grandes y medianas empresas», concluye.