Desde HazLab, nuestro laboratorio digital para innovar en la participación ciudadana, estamos dedicados a encontrar soluciones innovadoras a los retos públicos. Un área crítica donde la participación es fundamental es en el desarrollo y la gobernanza de la Inteligencia Artificial (IA).
Actualmente, la adopción de tecnologías de IA en los sectores público y privado impacta significativamente las vidas de las personas de maneras nuevas e inesperadas. Sin embargo, a menudo, quienes se ven afectados por el despliegue de estos sistemas tienen poca o ninguna voz en cómo se desarrollan.
Esta carencia genera desafíos importantes, como el "problema de la caja negra" (la opacidad de los algoritmos de IA), lo que puede llevar a sesgos automáticos y resultados perjudiciales, desde identificaciones erróneas por reconocimiento facial hasta decisiones de atención médica. En HazLab, vemos una solución clara: la Inteligencia Artificial Participativa (PAI).
PAI es un enfoque que empodera a ciudadanos, usuarios y personas afectadas para que colaboren con desarrolladores y diseñadores de IA, incorporando información valiosa que, de otro modo, sería inaccesible. Creemos que PAI ofrece beneficios sustanciales:
- Empoderamiento de la ciudadanía: Permite contrarrestar las decisiones unilaterales sobre el despliegue de IA, como se evidenció en la resistencia contra los sistemas de vigilancia en las aulas en India o el uso de FRT en la aplicación de la ley. Al involucrar a los afectados, se promueve una adopción más entusiasta y se aborda la desconfianza.
- Inclusión y equidad: Es vital para identificar y mitigar sesgos y el impacto negativo en poblaciones vulnerables, garantizando un despliegue justo y previniendo la exclusión.
- Bucles de retroalimentación críticos: Facilita la identificación de fallos funcionales y riesgos imprevistos, permitiendo mejoras continuas y fortaleciendo los marcos de gobernanza.
- Fomento de la confianza: Genera una percepción pública positiva y una mayor aceptación de los sistemas de IA al asegurar que se establecen mecanismos de supervisión y salvaguardias para los derechos fundamentales.
Sabemos que poner en práctica la Participación en la Inteligencia Artificial (PAI) implica enfrentar varios desafíos. Entre ellos están la posibilidad de que los movimientos participativos sean absorbidos por intereses poderosos, la falta de acceso a tecnología y la escasa educación sobre IA, así como el riesgo de que la participación sea solo simbólica o superficial. Además, está la llamada "paradoja de la transparencia": si se comparte demasiada información sobre los modelos de IA, podrían volverse vulnerables a usos malintencionados.
El objetivo es que la participación sea auténtica y tenga impacto, no solo un trámite. Para lograrlo, hay que identificar de forma estratégica a los actores clave —considerando su poder, legitimidad, urgencia y el posible daño que podrían enfrentar—, e involucrarlos de manera adecuada en las distintas etapas del diseño, desarrollo y despliegue de la IA. Así, asegurar que cada decisión esté bien fundamentada y represente diversas voces, lo que mejora la calidad de la IA y su impacto positivo en la sociedad.