Muy Buen articulo Información actual y de valor
https://www.yotambien.mx/actualidad/inteligencia-artificial-riesgos-crear-mundo-sesgado-pcd/
La tecnología es maravillosa, nadie lo duda. Tiene, entre sus virtudes, que bien aplicada puede derrumbar barreras, acercar mundos y personas que están lejos, facilitar muchos procesos… pero también, si no tenemos cuidado, puede reproducir las exclusiones que tenemos ya en el mundo físico.
Eso me quedó claro tras leer un informe sobre el que hablamos en Yo También hace unos días: “Dos de cada tres personas con discapacidad temen que la Inteligencia Artificial las excluya al buscar empleo”. Fue una nota que escribimos sobre un reporte muy completo de la Fundación Adecco sobre “Tecnología y discapacidad” que presenta el Observatorio de la Vulnerabilidad de ese instituto.
Más allá del empleo que, claro que intranquiliza, que se creen aún más barreras para acceder a él, a mí me ocupa mucho pensar en todo lo que tenemos que hacer para que algo tan benéfico como la Inteligencia Artificial (IA) funcione a favor de los más diversos grupos y no en su contra. Sobre todo a favor de las personas con discapacidad.
¡Hay que hacer muchas cosas!
El informe comienza por dar algunas cifras basadas en entrevistas a personas con discapacidad (pcd): si bien es cierto que la tecnología ha mejorado su calidad de vida en un 75.9 por ciento; casi la mitad de ellas, 45.1 por ciento asegura que encuentra barreras en el uso y manejo de nuevas tecnologías.
La gran mayoría de las personas con discapacidad (por un ciclo pobreza-discapacidad- pobreza ya muy documentado) no acceden a la tecnología en un 75.9 por ciento por falta de poder adquisitivo pero un nada menor 52.4 por ciento por su discapacidad, 15.5 por ciento porque no confían en lo digital y temen ser víctimas de engaños y fraudes y 8.2 por ciento por su usabilidad.
Entonces no es sólo poder adquisitivo. En una medida importante también son dos cosas: que la tecnología no está pensada en diseño universal (para que sea usada por todas las personas independientemente de su condición) y también por cuestiones educativas. Y he ahí el gran campo de trabajo por visibilizar y también por trabajar.
Recuerdo dos experiencias muy enriquecedoras en los últimos dos años: una mesa en la que participé como panelista hace más de un año en temas de Inteligencia Artificial y otra recientemente al moderar una mesa en el Festival de Ciberseguridad para Latinoamérica en el que personas con discapacidad hablaron de las barreras para tener contactos confiables y seguros en internet y, sobre todo, con páginas web y apps de bancos.
Para el primer evento me puse a reportear y encontré que era ya muy conocido que había un sesgo que excluía a las mujeres por razones de la forma en que la IA es programada (por hombres). Unesco y el Foro Económico Mundial presentaron un reporte en el 2021 llamado “Girl Trouble: rompiendo el sesgo de genero en la IA”.
¿Pasa igual con las personas con discapacidad? ¡Sin duda! No sólo a la hora de acceder al trabajo sino solo en cosas tan sencillas como navegar en internet cuando sólo el 1 por ciento de las páginas web son creadas y mantenidas de manera accesible. Recuerdo, como ejemplo, algo que me dijo en ese momento Hilda Laura Vázquez, una maravillosa activista ciega: el problema que tenía para pedir cosas por Amazon porque muchos de los artículos no estaban descritos. ¿Cómo iba a saber lo que compraba a ciencia cierta? Y así con páginas hasta de super y farmacias.
Hace una semana, en la mesa que moderé del Festival de Ciberseguridad se volvió una enorme denuncia hacia los bancos, sus páginas web y apps: aludiendo a la seguridad de muchos clientes, ponen cosas como captchas o reconocimiento de imágenes (que algunas personas no pueden ver) haciendo imposibles o más inseguras sus transacciones. ¿El teclado que se mueve para que no pongamos el pin en la misma posición? Imposible de usar para una persona ciega o con baja visión sin apoyo de otra. ¿Qué hay que activar algo con la huella de los dedos? ¿Y si la persona no tiene brazos?
Entonces, ¿cuál es la solución? Sin duda hay varias y en ellas hay que contemplar, de manera necesaria las soluciones que las mismas personas con discapacidad y sus familias darán porque ellas y ellos, que son quienes usan la tecnología que debe servirles.
Una de ellas es tener equipos de diseño de IA cada vez más diversos y que incluyan personas con discapacidades. También introducir ejemplos positivos de personas con discapacidad en los datos de entrenamiento de los sistemas, aplicar principios de diseño universal que hagan todo accesible y un monitoreo constante para que los modelos de aprendizaje nazcan y permanezcan inclusivos.
Suena fácil y ojalá lo sea. Pero también para ello las personas que desarrollan IA tienen que, como el resto de la sociedad, o quizá con mucha más responsabilidad, revisar y cambiar los prejuicios que tenemos hacia ellas. Es algo que todos debemos recordar y exigir.
