Anuncia Maján

La inteligencia artificial no está llegando, ya está aquí. Vivimos inmersos en su era y esta tecnología se cuela, cada vez con más fuerza, en cada rincón de nuestra vida cotidiana. Es revolucionaria, está llena de ventajas y abre una ventana de oportunidades casi infinita. Pero, como toda gran innovación, llega cargada de incógnitas, y también de barreras que conviene derribar cuanto antes.

El Cermi Estatal ha elaborado y publicado un completo estudio, el ‘Informe DiscapacIA’, que analiza desde múltiples ángulos la relación entre la inteligencia artificial y las personas con discapacidad, así como las dificultades de acceso que esta tecnología les plantea.

Su punto de partida es que el marco que debe regir nuestra relación con estos sistemas es la Convención de las Naciones Unidas sobre los Derechos de las Personas con Discapacidad, cuya protección se extiende también al uso de la inteligencia artificial. La consecuencia es que hay que crear sistemas que no impongan una única vía de acceso.

La identificación biométrica es un buen ejemplo del problema. Si no está suficientemente entrenada puede convertirse en una barrera. Digámoslo claramente, estos sistemas suelen aprender a partir de patrones corporales, gestuales o expresivos considerados ‘normales’, y quien no encaja en ellos corre el riesgo de no ser reconocido. Por eso, la inteligencia artificial puede tener dificultades para identificar a personas con determinadas discapacidades físicas, neurológicas o sensoriales.

El informe identifica dos dificultades especialmente relevantes:

• Errores de identificación y acceso. Algunas personas podrían no ser reconocidas por sistemas que utilizan el rostro como credencial, lo que les impediría acceder a servicios, dispositivos o espacios físicos.
• Sesgos de discriminación algorítmica. Según cómo se entrene, la inteligencia artificial puede reproducir o incluso ampliar desigualdades ya existentes cuando los datos de entrenamiento no representan adecuadamente la enorme diversidad de las personas con discapacidad.

Por otro lado se pone nombre a un fenómeno nuevo, el capacitismo algorítmico, que penaliza a quienes se apartan de los patrones corporales, cognitivos, comunicativos o conductuales considerados ‘normales’.

Todavía más preocupante es que algunos sistemas de inteligencia artificial intenten interpretar emociones a partir de las expresiones faciales, una práctica especialmente discriminatoria, ya que ciertas discapacidades afectan, en mayor o menor medida, a la expresión facial o a la comunicación no verbal, lo que puede dar lugar a interpretaciones profundamente erróneas.

La conclusión salta a la vista: cuando el reconocimiento facial se convierte en el único sistema de verificación y acceso, quienes no pueden utilizarlo con eficacia corren el riesgo de quedar excluidos de servicios esenciales para su vida. En otras palabras, el reconocimiento facial puede convertirse en una nueva barrera discriminatoria si no tiene en cuenta, desde su diseño, a las personas con discapacidad y si no ofrece garantías específicas contra la discriminación algorítmica.

Para evitarlo, el Cermi plantea lo que debería ser el principio rector de cualquier tecnología al servicio de las personas: que los sistemas de inteligencia artificial y de reconocimiento biométrico incorporen desde su concepción, para que nadie quede excluido, la accesibilidad universal, la supervisión humana, la igualdad de trato y no discriminación, y alternativas suficientes de identificación y acceso.

A lo largo de más de 300 páginas el informe aborda otros muchos aspectos, entre ellos la situación de las personas LGTBI con discapacidad, la Carta de Derechos Digitales y su proyección sobre la gobernanza de la inteligencia artificial en España, el posible sesgo de género en los datos de entrenamiento, o la aplicación al empleo de los sistemas de inteligencia artificial de alto riesgo y su encaje con la Convención sobre los Derechos de las Personas con Discapacidad.

El informe reclama, además, la participación de las personas con discapacidad y de sus organizaciones en el diseño, la evaluación y la supervisión de los sistemas de inteligencia artificial. Y, para evitar que la tecnología agrave o reproduzca las desigualdades existentes, propone auditorías independientes, transparencia algorítmica accesible, datos desagregados y mecanismos eficaces de reclamación y control.

La inteligencia artificial solo será verdaderamente revolucionaria si es capaz de reconocer, comprender y servir a todas las personas, sin excepción.