¿Puede un algoritmo decidir quién tiene derecho a una prestación por discapacidad? La respuesta de la Generalitat Valenciana es rotunda: no. Y lo dejó claro este lunes en la sede de la ONCE en València, durante la jornada DiscapacIA Comunitat Valenciana, organizada por el Comité de Entidades de Representantes de Personas con Discapacidad de la Comunitat Valenciana (CERMI CV). Un encuentro que reunió a especialistas en innovación tecnológica y entidades sociales para poner sobre la mesa uno de los debates más urgentes del momento: cómo hacer que la inteligencia artificial sirva a todos, y no solo a quienes ya están bien representados en los datos.
Un registro para saber qué hace cada algoritmo de la administración
La secretaria autonómica de Transparencia y Participación, Carmen Uriol, tomó la palabra en la mesa redonda 'IA de riesgo elevado y derechos' para presentar dos iniciativas concretas de la administración valenciana: el proyecto GVA ConfIA y el Registro de Algoritmos de la Generalitat. No se trata de propuestas teóricas. El Registro, accesible desde el portal GVAOberta, permite a cualquier ciudadano consultar qué sistemas de inteligencia artificial utiliza la administración, con qué finalidad y qué organismo es el responsable.
"El Registro de Algoritmos en GVAOberta permite conocer qué sistemas utiliza la Administración, su finalidad y el organismo responsable. Además, la información incluye una referencia expresa a los colectivos vulnerables y a las personas con discapacidad, garantizando una tecnología transparente y centrada en las personas." - Carmen Uriol, secretaria autonómica de Transparencia y Participación de la Generalitat Valenciana
Que una administración pública publique un mapa de sus algoritmos sigue siendo una excepción en España. Desde el propio movimiento de la discapacidad se lleva tiempo reclamando que exista un mapa actualizado y accesible de los sistemas de inteligencia artificial de riesgo elevado utilizados por las administraciones que puedan afectar a personas con discapacidad. La iniciativa valenciana apunta precisamente en esa dirección. Uriol subrayó además que la transformación digital no puede ir más rápida que la protección de derechos: las dos ruedas deben girar al mismo ritmo.
La tramitación del grado de discapacidad, en el punto de mira
Fue la directora general de las Personas con Discapacidad, Bárbara Congost, quien puso el foco en el impacto más tangible para los ciudadanos: el proceso de valoración y reconocimiento del grado de discapacidad. Un trámite que, para quien lo necesita, no es burocracia menor. Es la puerta de entrada a derechos, prestaciones, apoyos y medidas de protección. Y ahí, reconoció Congost, todavía queda camino por recorrer hacia procedimientos más ágiles, homogéneos y transparentes.
La inteligencia artificial está abriendo nuevas posibilidades en ámbitos como la accesibilidad, la vida independiente y el empleo, pero al mismo tiempo plantea desafíos relacionados con los sesgos de los datos, la brecha digital y la garantía de los derechos de las personas con discapacidad. En ese contexto, las herramientas de IA pueden aliviar la carga administrativa de los equipos de valoración, facilitando el acceso a información relevante y dejando más tiempo para lo que verdaderamente importa: la atención a la persona.
"Cualquier propuesta generada mediante inteligencia artificial debe estar sometida a supervisión humana, garantizando que la decisión final continúe correspondiendo a los técnicos de los Equipos Multiprofesionales de Valoración de la Discapacidad." - Bárbara Congost, directora general de las Personas con Discapacidad de la Generalitat Valenciana
Tecnología de apoyo, no de sustitución
Hay una línea que la Generalitat no quiere cruzar, y Congost fue muy explícita al trazarla: las herramientas de inteligencia artificial están concebidas como sistemas de apoyo a la labor profesional, nunca como mecanismos de decisión automática. Dicho de otro modo, la máquina puede sugerir, pero el técnico decide. Cualquier sistema de inteligencia artificial utilizado por administraciones públicas debe cumplir no solo el Reglamento Europeo de Inteligencia Artificial, sino también el estándar de derechos derivado de la Convención internacional sobre los derechos de las personas con discapacidad.
La jornada puso el foco en una cuestión fundamental: cómo avanzar hacia una inteligencia artificial que tenga en cuenta a las personas con discapacidad y que contribuya a garantizar sus derechos, sin generar nuevas barreras en el entorno digital. En un momento en que los sistemas algorítmicos empiezan a integrarse en servicios públicos esenciales, esta apuesta valenciana por la transparencia y el control humano ofrece un modelo concreto de lo que puede significar poner la tecnología al servicio de la ciudadanía, y no al revés.