Una pantalla responde en segundos. No interrumpe y utiliza palabras amables. Es fácil imaginar que una conversación así resulte cómoda. Pero antes de confiarle una decisión importante conviene separar dos preguntas: ¿cómo me hace sentir la respuesta?, ¿qué garantías tengo de que sea correcta para mi situación?
Este artículo no evalúa una aplicación concreta. Propone una forma de acercarnos a la inteligencia artificial sin despreciar su utilidad ni atribuirle capacidades sanitarias que no se han demostrado. La innovación merece curiosidad; el cuidado también necesita límites.
La forma de una respuesta no demuestra su fiabilidad
En sus orientaciones sobre IA generativa y salud, la OMS advierte de resultados falsos, incompletos o sesgados y del riesgo de confiar excesivamente en decisiones automatizadas. También señala riesgos para la información de pacientes y la necesidad de supervisión. Esas orientaciones no prueban que cualquier chatbot comercial sea una intervención clínica eficaz.
Nuestra interpretación es práctica: el tono no debería servir como certificado. Si una respuesta incluye una explicación de salud, necesitamos contrastarla con fuentes sanitarias y, cuando afecta a una decisión personal, con un profesional que pueda valorar el contexto. Una fuente citada también debe comprobarse; no basta con que aparezca escrita como una referencia.
Tres conversaciones diferentes que no conviene mezclar
La siguiente tabla es una propuesta de alfabetización, no una clasificación clínica ni una evaluación de productos. Ayuda a delimitar el encargo antes de empezar.
| Lo que buscas | Un límite que conviene mantener |
|---|---|
| Preparar preguntas para una consulta | Revisar el texto tú y no introducir datos identificativos |
| Entender una afirmación sobre salud | Contrastar la fuente; no convertir la respuesta en un diagnóstico |
| Decidir un tratamiento o actuar ante una crisis | Acudir a profesionales y recursos de ayuda, no delegar la decisión en un chatbot |
Pedir ayuda con la forma de una pregunta no es lo mismo que pedir que alguien determine qué enfermedad tienes. La distinción puede parecer pequeña en una caja de texto, pero cambia la responsabilidad que estamos atribuyendo a la herramienta.
Un ejemplo de uso acotado, sin datos reales
Podemos plantear un encargo ficticio como este: «Redacta cinco preguntas claras que una persona podría llevar a una consulta sobre dificultades para dormir. No diagnostiques ni propongas tratamientos». Después, revisaríamos qué preguntas encajan y cuáles no. El ejemplo no requiere nombres, informes médicos, fechas de nacimiento ni conversaciones de terceros.
La propuesta es deliberadamente limitada: organizar lenguaje. No acredita que la herramienta comprenda la experiencia de esa persona ni que sus preguntas sean suficientes. También podemos hacer esa preparación en una libreta o con alguien de confianza. Utilizar IA no tiene por qué convertirse en el paso obligatorio para pedir ayuda.
La intimidad merece una pausa antes de pulsar enviar
En su publicación oficial sobre el decálogo «Cuidado con lo que le confIAs», la AEPD recomienda no compartir datos personales ni información delicada, incluidos detalles médicos, y recuerda la importancia de las políticas de seguridad en el trabajo. Esa cautela también alcanza a la información de otras personas.
Antes de escribir, proponemos preguntarse si el objetivo puede lograrse con una situación inventada. Cambiar un nombre no necesariamente elimina todos los elementos que hacen reconocible una historia; por prudencia, es preferible no trasladar una conversación íntima completa. No damos por hecho que una cuenta o un proveedor tenga una configuración de privacidad determinada.
La publicación siguiente pertenece a la AEPD. Se carga solo cuando la abres y conecta con LinkedIn; también puedes consultar su enlace externo. Su inclusión no implica colaboración de la Agencia con Emocional.
Preguntas que una organización debería poder responder
Como propuesta de revisión interna, antes de incorporar una herramienta al bienestar del equipo preguntaríamos qué tarea concreta realiza, qué datos necesita, quién puede acceder a ellos y qué ocurre cuando se equivoca. También qué evidencia respalda las capacidades anunciadas y cómo se solicita atención humana.
No basta con una demostración agradable. Un recurso puede resultar útil para redactar o localizar información y no estar preparado para evaluar riesgo, atender una crisis o sustituir una consulta. La OMS insiste en implicar a las personas y a los profesionales en el desarrollo y la supervisión; no presentamos este artículo como una auditoría de cumplimiento de ninguna herramienta.
Oportunidades y límites de la IA generativa en salud · OMShttps://www.who.int/es/news-room/18-01-2024-who-releases-ai-ethics-and-governance-guidance-for-large-multi-modal-modelsCuando lo que necesitas no es otra respuesta automática
Ante peligro inmediato en España, llama al 112. Para apoyo ante pensamientos suicidas, el 024 es un recurso humano especializado. Una conversación con una herramienta no debe retrasar la ayuda necesaria.
En Emocional queremos que la tecnología tenga un lugar claro, no que ocupe todos los lugares. A veces su mejor aportación será ayudar a formular una pregunta. La respuesta que importa puede necesitar tiempo, contexto y otra persona al lado.
Divulgación tecnológica, no atención sanitaria ni evaluación clínica de productos.