La aplicación y las implicaciones éticas de la IA generativa en la salud mental

Antecedentes

Los trastornos de salud mental afectan a aproximadamente 1 de cada 8 personas a nivel mundial, pero las intervenciones tradicionales enfrentan obstáculos significativos como acceso limitado, costos elevados y estigmatización persistente. Con los avances recientes en la inteligencia artificial generativa (GenAI), han surgido sistemas capaces de comprender y generar lenguaje humano en tiempo real, lo que abre nuevas oportunidades para mejorar la atención en salud mental.

Objetivo

Este estudio tuvo como propósito examinar sistemáticamente las aplicaciones actuales de la GenAI en la salud mental, enfocándose en tres áreas clave:

1. Diagnóstico y evaluación,

2. Herramientas terapéuticas, y

3. Apoyo a profesionales clínicos.

Además, se identificaron y sintetizaron los principales temas éticos reportados en la literatura científica.

Métodos

Se realizó una búsqueda exhaustiva siguiendo las directrices PRISMA 2020 en bases de datos como PubMed, ACM Digital Library, Scopus, Embase, PsycInfo y Google Scholar. Se incluyeron artículos revisados por pares publicados entre el 1 de octubre de 2019 y el 30 de septiembre de 2024. De los 783 registros analizados, 79 estudios (10, 1%) cumplieron con los criterios de inclusión.

Resultados

El número de estudios sobre GenAI en salud mental ha crecido considerablemente desde 2023.

- Diagnóstico y evaluación (47%): se utilizaron modelos GenAI para detectar depresión y riesgo suicida a partir de datos textuales.

- Aplicaciones terapéuticas (25%): se exploraron chatbots basados en GenAI y sistemas adaptativos para apoyo emocional y conductual, con resultados prometedores pero aún con poca implementación real y escasa validación de seguridad.

- Apoyo clínico (30%): se estudió el papel de la GenAI en la toma de decisiones clínicas, resúmenes de documentación, soporte a la terapia, capacitación y psicoeducación.

En todos los dominios se identificaron preocupaciones éticas comunes. A partir de estos hallazgos, los autores proponen el marco ético integrador GenAI4MH, que incluye cuatro dimensiones clave:

1. Privacidad y seguridad de los datos,

2. Integridad y equidad de la información,

3. Seguridad del usuario, y

4. Gobernanza ética y supervisión.

Conclusiones

La GenAI muestra un gran potencial para complementar los enfoques tradicionales en salud mental, al mejorar la precisión diagnóstica, ampliar el acceso al apoyo emocional y reducir la carga administrativa de los profesionales. No obstante, su implementación debe estar respaldada por garantías éticas sólidas, especialmente en cuanto a privacidad de los datos, sesgos algorítmicos y uso responsable por parte de los usuarios.

Resumen modificado por Cibermedicina

Para acceder al texto completo consulte las características de suscripción de la fuente original: https://mental.jmir.org/