Democratizar la IA en salud: participación comunitaria en el diseño de tecnologías Del algoritmo impuesto al algoritmo compartido

En los últimos años, la inteligencia artificial ha irrumpido con fuerza en el ámbito de la salud. Desde algoritmos para diagnóstico automático hasta sistemas de priorización de pacientes, la IA promete eficiencia, precisión y reducción de errores. Sin embargo, en muchos casos, estas tecnologías son diseñadas lejos de las realidades sociales, culturales y económicas de las poblaciones a las que pretenden servir.

¿Puede una comunidad campesina tener voz en cómo se entrena un algoritmo de IA médica? ¿Es posible que pacientes con enfermedades crónicas definan qué variables deben importar en una predicción de riesgo? ¿Podemos imaginar un desarrollo tecnológico que no solo consulte, sino integre activamente a quienes históricamente han sido excluidos?

¿Qué significa “democratizar” la IA en salud?

Democratizar la IA no se trata solamente de hacerla accesible. Va mucho más allá de distribuir dispositivos o capacitar al personal de salud. Se trata de permitir que comunidades históricamente excluidas:

• Definan los problemas que la IA debe resolver.

• Participen en la selección de datos y variables significativas.

• Colaboren en la validación y contextualización de los modelos.

• Tengan control sobre el uso, interpretación y consecuencias de los resultados.

Este enfoque es parte de una corriente conocida como “co-diseño participativo” o “tecnología centrada en la justicia”, y busca superar la lógica extractivista donde los datos se toman, los modelos se desarrollan en laboratorios lejanos, y luego se implementan sin consulta local.

¿Por qué incluir a la comunidad en el diseño de IA médica?

1. Conocimiento situado

   • Las comunidades conocen mejor que nadie sus condiciones sociales, culturales y ambientales. Su inclusión en el diseño permite ajustar la IA a realidades locales.

2. Evita errores de interpretación

   • Un algoritmo puede malinterpretar síntomas si no se contextualizan (por ejemplo, fiebre en zonas con alta malaria o síntomas emocionales en contextos de violencia).

3. Aumenta la aceptación

   • La participación genera apropiación. Las comunidades confían más en tecnologías que han ayudado a construir.

4. Reduce riesgos de daño

   • Las tecnologías impuestas pueden agravar estigmas, reforzar sesgos o promover decisiones inadecuadas si no se ajustan al contexto.

Ejemplos reales de participación comunitaria en IA en salud

1. Comunidades indígenas en Canadá y el control de sus datos de salud

El concepto OCAP® (Ownership, Control, Access and Possession) guía el manejo de datos en pueblos indígenas canadienses. Esto ha permitido que comunidades indígenas definan qué datos comparten, cómo se usan y con qué fines. Algunos proyectos de IA en salud mental se han desarrollado con total participación comunitaria, respetando valores culturales y lenguas originarias.

2. Detección comunitaria de enfermedades con IA en zonas rurales de Kenia

Un proyecto de salud en África usó IA para predecir brotes de enfermedades infecciosas a partir de reportes comunitarios. Se entrenaron modelos con lenguaje local y datos obtenidos por promotores de salud. Las comunidades ayudaron a definir los síntomas clave y validaron los resultados. La tasa de aceptación fue alta y mejoró la respuesta temprana.

3. Participación de mujeres con VIH en Brasil para desarrollar chatbots educativos

En algunas regiones del noreste de Brasil, grupos de mujeres seropositivas participaron activamente en el diseño de un asistente conversacional (chatbot) que respondiera dudas sobre VIH, sexualidad y derechos. Ellas definieron el tono, los temas prioritarios y hasta el “nombre” del asistente. El resultado fue una herramienta ampliamente usada, validada culturalmente y emocionalmente cercana.

Principios para una participación significativa

1. Desde el inicio, no al final

   • Las comunidades deben ser parte desde el planteamiento del problema, no solo en la etapa de prueba o retroalimentación.

2. Diversidad de voces

   • Incluir mujeres, jóvenes, adultos mayores, personas con discapacidad, líderes comunitarios y trabajadores de salud local.

3. Transparencia

   • Explicar claramente los alcances, riesgos y usos de la IA en términos comprensibles.

4. Capacitación como poder

   • Formar a las comunidades en conceptos básicos de datos, algoritmos y ética tecnológica les permite participar con más poder de decisión.

5. Reversibilidad

   • Las comunidades deben poder rechazar usos no deseados o corregir decisiones que las afecten negativamente.

Desafíos comunes

• Desconfianza histórica hacia instituciones de salud o académicas.

• Falta de recursos técnicos para capacitar a las comunidades.

• Tensiones entre conocimientos tradicionales y enfoques tecnocientíficos.

• Desequilibrio de poder en procesos participativos simbólicos o “decorativos”.

Frente a estos desafíos, se requiere compromiso ético, voluntad política y financiamiento justo para que la participación comunitaria sea real y transformadora.

Conclusión

La IA en salud puede convertirse en un nuevo mecanismo de exclusión o en una herramienta de empoderamiento colectivo. Todo depende de quién tiene voz en su desarrollo.

Democratizar la IA implica reconocer que no hay soluciones técnicas sin justicia social. Incluir a las comunidades en el diseño, implementación y evaluación de tecnologías médicas no es un lujo, sino una necesidad ética, práctica y política.

La salud —y la tecnología que la acompaña— debe ser construida con las personas, no para las personas.

¿Conoces algún proyecto donde la comunidad haya participado en el diseño de tecnología en salud?
Cuéntanos en iamedica.org.
Hablemos sobre cómo hacer de la IA en salud un proceso verdaderamente democrático.