Mi amiga tiene cáncer. La vi pedirle consejo médico a ChatGPT, y me impactó.

      Escribí este artículo aproximadamente a las 3 a.m., sentado en el vestíbulo de una clínica mientras mi amiga habla con un oncólogo en la cabina detrás de mí. El aire está saturado con el olor de los medicamentos, por supuesto, y la atmósfera tiene un inconfundible aroma de tristeza que me obliga a salir del recinto lo antes posible. Sin embargo, la sensación abrumadora es la de rabia y furia.

      Meramente una hora antes, había recibido una llamada de mi amiga de 24 años, quejándose de un fuerte dolor de cabeza y dolor en su estómago. Actualmente está recibiendo tratamiento por cáncer de mama, y después de verla pasar por la prueba durante los últimos dos años, corrí a su casa, esperando que no fuera grave. Sin hacer demasiadas preguntas, busqué el hospital más cercano y la llevé para un chequeo.

      En el camino al hospital, le pregunté cuándo comenzó el dolor y si había experimentado otros síntomas preocupantes. Su respuesta me sorprendió, y hasta tal punto que quise arrebatarle el teléfono y hacerlo trizas. “Después de que regresé del trabajo, sentí un poco de mareo y también sentí que algo no estaba bien en mi intestino. Así que le pregunté a ChatGPT si podía tomar analgésicos, y unas horas después de tomarlos, el dolor en el intestino empeoró con una sensación de ardor. También vomité un par de veces.”

      ¿Quién debe actuar con responsabilidad?

      Unsplash

      La confesión me sacudió, y el tono casual con el que describió sus interacciones con ChatGPT fue aún más aterrador. Pero hay tantas capas en este contratiempo que he decidido prohibir la IA para mis seres queridos, especialmente cuando se trata de conversaciones relacionadas con la salud y el bienestar. Como alguien que es extremadamente sensible a los medicamentos y que está pasando por un tratamiento de cáncer, preguntar a una IA sobre la toma de medicamentos era lo último que esperarías que hiciera una persona sensata.

      No sé exactamente quién es el culpable de esta potencialmente mortal aventura. Ella simplemente tomó una foto de un analgésico, se la mostró a ChatGPT y preguntó si podía tomar dos pastillas al mismo tiempo. Su médico solo le ha recomendado una pastilla a la vez, y eso también, cuando el dolor es demasiado severo para tolerar. ChatGPT le dijo que debería tomar un analgésico, y dos de ellos, solo con la recomendación de un médico.

      Cuando le pregunté por qué recurrió al bot de IA, ella me dijo más tarde que ChatGPT “es más fácil para obtener respuestas. Ni siquiera sé qué es real en internet.” Para una persona que tuvo que abandonar sus estudios después de la secundaria y mantener a su familia con trabajos ocasionales, entendí su situación. No podía darle una lección sobre los conceptos de alfabetización digital y verificación de hechos. Había tanto mal en esa conversación, y ambas partes son culpables aquí.

      Aquí es donde comienza el problema. Ella no es hablante nativa del idioma hindi, y cuando tradujo su consulta al hindi, fue un desastre gramatical debido a solo una palabra. Quería preguntar si podía tomar dos pastillas del medicamento que aparecía en la foto. Pero su traducción rota hizo que pareciera que estaba preguntando a ChatGPT si podía tomar “ambos medicamentos”.

      Aquí es donde también tropezó ChatGPT. La imagen muestra una pastilla con solo su composición química visible: Diclofenaco y Serraptiopeptidasa. El nombre del medicamento solo era parcialmente visible. A pesar de eso, el bot de IA identificó correctamente el medicamento analgésico como “algo parecido a Cipzen-D.” Pero antes de eso, también mencionó otro medicamento, Fenak Plus, cuya composición química es Diclofenaco y Paracetamol, y que ella había discutido previamente en otra conversación.

      ChatGPT Unsplash

      Es una composición completamente diferente, aunque ambos están fácilmente disponibles como medicamentos analgésicos de venta libre que incluso puedes comprar (preocupantemente) sin una receta adecuada en dispensarios locales. Así que, en términos generales, tenemos un error humano (con la traducción) y dos errores por parte de ChatGPT porque también estaba extrayendo conocimiento de su memoria. Sin embargo, el consejo fue preciso.

      El bot de IA de OpenAI advirtió claramente que tomar ambos medicamentos no es una buena idea, añadiendo que podría llevar a una sobredosis de Diclofenaco. El bot de IA también describió los efectos secundarios, que incluían una sensación de ardor en el estómago, problemas relacionados con úlceras, sangrado y efectos adversos a largo plazo en los riñones.

      Ten en cuenta que la imagen alimentada a ChatGPT solo mostraba un analgésico. Además, recomendó que solo se debe tomar uno de esos analgésicos a la vez, y no ambos. Mi amiga, recordando que ambos medicamentos habían sido recetados por médicos en algún momento (aunque no juntos), tomó ambos para un alivio rápido del dolor y pronto sintió la ira.

      El médico también estaba furioso y, con razón, cuando mi amiga les dijo por qué tomó dos pastillas al mismo tiempo, reprendiendo la por no consultar a un profesional de la salud. Fue seguida por una inyección para aliviar su dolor y una nueva receta médica para analgésicos que no dañen su frágil cuerpo.

      Como reportero de tecnología que ha escrito sobre los riesgos de las interacciones de IA en temas sensibles, especialmente salud y bienestar, me sentí un fracaso. Sentí que nunca realmente había tenido una charla sobre los riesgos de los bots de IA con mi amiga. Y solo fue después del aterrador incidente que la advertí sobre los riesgos.

      Cuando confesó haber usado ChatGPT para obtener consejos médicos en múltiples ocasiones en el pasado, le quité el teléfono y eliminé la aplicación. Más importante aún, le pedí que nunca volviera a tocar otro chatbot de IA — como Gemini o Claude — para obtener consejos médicos, o todo internet, para ese caso. La única forma de avanzar es hablar con un médico o visitar una clínica.

      El problema de percepción

      Modo en vivo de ChatGPT. OpenAI

      No la culpo del todo por el episodio. Dada la forma en que ChatGPT se ha arraigado en los hábitos digitales diarios de las masas como un genio omnisciente, es difícil culparla. La gente lo ve como un motor de respuestas más conveniente (y veraz) en comparación con la fricción de buscar respuestas en Google, haciendo clic en enlaces azules y hojeando las respuestas en una(s) página(s) web.

      No están equivocados, para ser justos. Obtener respuestas directas de un bot de IA como ChatGPT, y eso, también, en lenguaje natural en cuestión de segundos, es mucho más conveniente que entrar en el laberinto de enlaces de búsqueda de Google. Google también es consciente del cambio en el comportamiento del usuario, lo que también explica el impulso que se le está dando al modo de IA conversacional en la búsqueda.

      Hasta hoy, las respuestas conversacionales proporcionadas por Gemini se sitúan en la parte superior de los resultados de búsqueda regulares. La idea es idéntica: dar a los usuarios respuestas resumidas extraídas de las fuentes de enlaces azules en Google antes de que realicen una búsqueda más profunda de conocimiento leyendo múltiples fuentes distribuidas en media docena de pestañas.

      A su crédito, ChatGPT (o la mayoría de los modelos de IA de vanguardia, para el caso) actúa especialmente con precaución cuando alguien busca consejos de salud y bienestar. En una abrumadora mayoría de tales respuestas, los bots de IA piden al usuario que consulte a un profesional de salud certificado o acceda a la línea de ayuda apropiada. Pero, una vez más, la forma en que estos chatbots de IA han entrado en el discurso público como una fuente rápida y confiable de conocimiento es lo que los hace igualmente aterradores.

      Hace unos días, estaba viendo un acalorado debate en un canal de noticias en horario estelar. Durante el intercambio candente, uno de los panelistas le pidió a su oponente que adelante y verifique los hechos preguntando a ChatGPT. En ese momento, vi a ChatGPT ser mencionado como el equivalente moderno de encontrar respuestas en una enciclopedia, y eso, desde un escenario que influye en millones de personas en el segundo mercado más grande del mundo para chatbots de IA.

      Perdido en la traducción

      Estados Unidos se sitúa en la cima de la adopción de IA, pero el país también tiene, sin duda, la mayor conciencia sobre los riesgos de usar chatbots de IA. En India, la alfabetización digital (y la conciencia sobre IA) es dramáticamente más baja, y por lo tanto, el potencial de riesgo es mucho mayor. El peligro se agrava aún más por el hecho de que cientos de miles de personas están usando ChatGPT y otros agentes de IA en un idioma nativo indio. Y este es uno de los impulsores clave detrás del reciente episodio con mi amiga: el problema del lenguaje de ChatGPT.

      Apple

      En un estudio de investigación publicado a principios de este año, el MIT Center for Constructive Communication menciona que la precisión de las respuestas proporcionadas por los chatbots de IA es menor si los usuarios están interactuando en un idioma no inglés. El estándar SAHARA, publicado en diciembre del año pasado, también destacó una discrepancia similar en el comportamiento de los chatbots de IA cuando los