Actualizaciones de Google Workspace: resumen semanal de las actualizaciones de Google Workspace
Mayo 29, 2026
Usar chatbots de IA para consultas de salud implica riesgos que van desde errores en las respuestas hasta problemas de privacidad y seguridad de los datos.
29 May 2026
•
,
7 min. read
Para bien o para mal, los chatbots están cambiando la forma en que pensamos, aprendemos y percibimos el mundo que nos rodea. Este tipo de disrupción se manifiesta en muchas áreas de la vida, pero quizás una de las más sensibles y, a menudo, preocupantes, sea el creciente uso de herramientas de inteligencia artificial generativa (GenAI) en el ámbito de la salud. Junto con varios chatbots de IA disponibles de forma gratuita, las grandes empresas tecnológicas han incursionado en la IA de salud orientada al consumidor con el lanzamiento de servicios como Copilot Health, ChatGPT Health y Amazon’s HealthAI, cuyos modelos ayudan a los usuarios a interpretar sus historiales médicos y a hacer preguntas sobre sus síntomas, resultados de laboratorio y opciones de tratamiento.
Sin embargo, existen riesgos al esperar que una herramienta de IA asuma el rol de tu médico. Además, el riesgo no es solo recibir un consejo incorrecto, sino también que los usuarios compartan información personal altamente sensible con sistemas cuyas protecciones de privacidad, prácticas de intercambio de datos y obligaciones legales pueden diferir de las de un médico o un hospital, así como que sus datos queden expuestos a entidades inesperadas. El mal uso de los chatbots de IA en general es actualmente el principal riesgo tecnológico en salud, según una organization de seguridad del paciente de EE. UU.
De la teoría a la práctica
La razón por la que los desarrolladores de modelos están incursionando en este ámbito es clara: los chatbots se han convertido en una forma enormemente popular de buscar consejo médico. Segú Microsoft, las personas hablan sobre su salud y la de sus seres queridos más que de cualquier otro tema en sus dispositivos móviles. Los chatbots están disponibles las 24 horas, los 7 días de la semana, con una respuesta para todo, expresada en un tono seguro que ayuda a tranquilizar a los pacientes nerviosos.
En un momento en que los sistemas nacionales de salud están cada vez más presionados, es probable que muchas personas se autodiagnostiquen con ayuda de la IA antes de decidir si deben buscar atención médica. El tiempo, el esfuerzo y el posible costo de adentrarse en el complejo sistema sanitario, en lugar de hacer un triaje en casa, hacen que este enfoque resulte atractivo.
Sin embargo, ya están surgiendo preocupaciones. La primera es la de las alucinaciones o el asesoramiento incorrecto. Un estudio de la Universidad de Oxford de febrero, publicado en Nature Medicine, encontró que:
- Los usuarios a menudo no sabían qué información debían compartir con el LLM
- Los LLM proporcionaban respuestas muy diferentes, incluso si las preguntas variaban solo ligeramente
- Los modelos a menudo ofrecían tanto buenos como malos consejos, pero los usuarios tenían dificultades para distinguir entre ambos
“A pesar de todo el entusiasmo, la IA simplemente no está lista para asumir el rol de médico”, advirtió la autora principal del estudio, la doctora Rebecca Payne. “Los pacientes deben ser conscientes de que preguntarle a un modelo de lenguaje sobre sus síntomas puede ser peligroso, generar diagnósticos erróneos y no reconocer cuándo se necesita ayuda urgente”.
Exponiendo los riesgos de privacidad
También existen riesgos no relacionados directamente con la salud que deberían invitar a la reflexión. El más evidente es que compartir información médica sensible con un chatbot público puede implicar que esos datos se utilicen para entrenar al modelo y, por lo tanto, puedan terminar reapareciendo en respuestas a otros usuarios. Incluso de forma involuntaria, se sabe que los modelos han expuesto datos introducidos por sus usuarios.
Algunos proveedores pueden utilizar los datos para mejorar sus modelos, a menos que los usuarios opten por no participar, mientras que otros hacen promesas más firmes de no usar información relacionada con la salud para el entrenamiento. En cualquier caso, todos deberían saber con qué tipo de servicio están interactuando antes de subir información sensible. Tus datos de salud no son como una tarjeta de crédito robada que puede bloquearse mientras se reemplazan los detalles. Son para toda la vida y, una vez compartidos con una herramienta de IA, pueden convertirse en un registro digital permanente.
Por otro lado, la mayoría de los principales chatbots centrados en salud prometen no usar estos datos para entrenamiento. Aun así, el entrenamiento es solo una parte del panorama de privacidad, y es posible que estos servicios no hagan las mismas promesas respecto al intercambio de datos con terceros. Tu información médica personal podría terminar en manos de un agregador de datos, un tercero que actúa como intermediario entre el proveedor del modelo y tu proveedor de salud. También podría compartirse con anunciantes, ya sea directamente o a través de estos intermediarios, aunque normalmente se anonimiza antes de su uso. Aun así, conviene actuar con cautela: los datos de salud son especialmente sensibles, y la anonimización no siempre elimina todos los riesgos.
Cuando el riesgo de filtraciones se multiplica
El problema de que datos sensibles circulen por tantas organizaciones es que hay mayores probabilidades de que queden expuestos a ciberdelincuentes y estafadores. Legisladores estadounidenses afirman haber identificado pérdidas por valor de 21.000 millones de dólares vinculadas a un puñado de brechas en empresas de intermediación de datos. Los datos de salud son altamente valiosos para los delincuentes por varias razones:
- Mantienen su valor durante largos períodos, ya que generalmente no pueden reemplazarse
- Pueden incluir información de seguros para presentar reclamaciones fraudulentas o recibir servicios médicos a tu nombre
- Pueden usarse para extorsionarte
Cuantas más empresas tengan estos datos, más oportunidades existen para que los atacantes las comprometan y los roben. El desafío es que la mayoría de las herramientas de IA para salud no están reguladas por HIPAA, ya que se consideran servicios para consumidores y no de nivel empresarial. Esto implica que los proveedores pueden no estar sujetos a las estrictas normas de protección de datos que normalmente cabría esperar.
Consejos para pacientes
Entonces, ¿cómo minimizar la exposición a los riesgos de la GenAI en salud? Si te preocupa una condición médica, evita los bots de uso general y opta por aquellos diseñados específicamente para responder preguntas relacionadas con la salud. Revisa si el servicio explica cómo gestiona tus datos, si utiliza tus interacciones para entrenamiento, si comparte información con terceros y si está cubierto por HIPAA o un régimen de privacidad equivalente en tu país.
No confíes ciegamente en los resultados, a menos que haya enlaces de citación para verificarlos. Incluso así, no tomes las respuestas como una verdad absoluta: consulta siempre con un profesional de la salud y/o con fuentes oficiales (por ejemplo, NHS, MedlinePlus).
Para proteger tu privacidad, considera lo siguiente:
- Nunca compartas ni subas documentos médicos, resultados de laboratorio u otra información sensible con una herramienta de IA sin entender cómo maneja esos datos
- Evita introducir nombres, direcciones, datos de seguros, números de paciente u otros identificadores
- Asegúrate de desactivar las funciones de entrenamiento y el historial de chat
- Comparte solo la información mínima necesaria para la tarea
- Asume que todo lo que escribas podría almacenarse o exponerse y ajusta tus consultas en consecuencia
En última instancia, los chatbots de IA pueden servir para ayudarte a pensar preguntas sobre una condición específica antes de acudir al médico o para explicar un término médico que no conoces. Pero hay una gran diferencia entre usar la IA para prepararte para la atención médica y usarla como sustituto de esta. No tomes una respuesta con tono seguro como un diagnóstico, y no ignores síntomas urgentes porque una máquina haya sonado tranquilizadora.
¡Para todos nuestros lectores!
Aprovechen esta oportunidad de obtener un trial gratuito de 30 días para Google Workspace, la mejor solución para tu empresa. Disfruta de todas sus funcionalidades, como correo electrónico personalizado, almacenamiento en la nube y herramientas de colaboración.
