Más de 1.000 «médicos» creados con IA difunden alrededor de 100.000 vídeos médicos engañosos, según EDMO

Más de 1.000 perfiles que se presentan como médicos, pero que son generados mediante inteligencia artificial, han producido conjuntamente alrededor de 100.000 vídeos médicos engañosos en unos 30 idiomas, según los casos recopilados por el Observatorio Europeo de Medios Digitales (EDMO). El fenómeno forma parte de un ecosistema más amplio en el que identidades médicas ficticias, pruebas seleccionadas y promesas sobre tratamientos no demostrados se transforman en contenido capaz de generar audiencia, ventas, donaciones o ingresos de las plataformas.

En resumen, la red seguida por los socios de EDMO incluye más de 1.000 «médicos» generados con IA y alrededor de 100.000 vídeos en 30 idiomas. Algunos personajes tienen identidades aparentemente realistas, llevan batas médicas y ofrecen consejos sobre enfermedades concretas, aunque las personas presentadas como médicos no existen. La desinformación relacionada con la salud representó el 7 % del total de casos detectados por la red EDMO en la UE tanto en julio como en agosto. La desinformación sobre la COVID-19 se mide por separado y representó el 2 % de los casos detectados en julio y el 4 % en agosto. El modelo económico no se limita a la venta de supuestos tratamientos. Los canales pueden obtener ingresos mediante suscripciones, donaciones, libros, suplementos y los mecanismos de monetización de las plataformas, mientras que el contenido sensacionalista puede generar ingresos incluso cuando el autor no comercializa directamente un producto. EDMO presenta como ejemplos las afirmaciones de que el magnesio trataría el TDAH y de que el mebendazol sería un tratamiento contra el cáncer. En ambos casos existen elementos reales de investigación que se extrapolan más allá de lo que demuestran las pruebas disponibles. Los materiales analizados muestran que el problema no reside únicamente en la información falsa. Los personajes artificiales, la apariencia profesional, los nombres locales y la invocación selectiva de investigaciones pueden crear la impresión de una autoridad médica real y dificultar la identificación del contenido engañoso.

Las investigaciones recopiladas por EDMO describen una producción de contenido que supera con mucho a unos pocos perfiles aislados. Una investigación recogida por el centro nórdico NORDIS identificó más de 1.000 canales con personajes médicos generados con IA en YouTube, responsables conjuntamente de unos 100.000 vídeos publicados en aproximadamente 30 idiomas.

Algunas de estas identidades están construidas para públicos nacionales. En Dinamarca, personajes con nombres como Sofie Larsen, Louise Nygaard o Emma Poulsen se presentan en vídeos como especialistas capaces de ofrecer consejos sobre la próstata, la salud sexual, la alimentación o el estilo de vida. Sofie Larsen, uno de los ejemplos documentados, no es una persona real, y su imagen y sus materiales se generan con IA.

El contenido no es uniforme. Algunas recomendaciones pueden parecer banales o incluso similares a consejos generales sobre el sueño, el alcohol o el tabaquismo. Otros canales hacen afirmaciones sin respaldo científico, incluidas promesas sobre el tratamiento de enfermedades graves, y algunos intentan dirigir a los usuarios hacia productos o suplementos.

Esta combinación hace que el fenómeno sea más difícil de evaluar que una falsedad evidente. Un perfil puede publicar primero recomendaciones aparentemente plausibles, utilizar una identidad médica creíble e introducir después una afirmación no demostrada. EDMO también señala casos en los que la reputación de hospitales conocidos se utiliza para fabricar una apariencia adicional de legitimidad.

La magnitud del fenómeno también aparece en la monitorización general de la red europea. La desinformación sobre salud representó el 7 % de los casos detectados por EDMO en la UE en agosto, la misma proporción registrada en julio. Estas cifras no miden el 7 % de toda la información sobre salud en internet ni el 7 % del contenido total de las plataformas, sino la proporción de este tema dentro del conjunto de casos de desinformación detectados por la red EDMO.

El contenido sobre la COVID-19 se sigue por separado. Representó el 2 % de los casos detectados en julio y el 4 % en agosto. EDMO identifica dentro de la categoría más amplia de salud afirmaciones falsas sobre cremas de protección solar, mamografías, vacunas o brotes de enfermedades, junto con contenido sobre supuestos remedios milagrosos.

Esta última categoría muestra con mayor claridad cómo la información real puede transformarse en una conclusión que la investigación no respalda. Un ejemplo seguido por BENEDMO se refiere a afirmaciones en TikTok según las cuales el magnesio podría controlar los síntomas del TDAH o la deficiencia de magnesio agravaría la enfermedad.

Algunas investigaciones han encontrado niveles medios más bajos de magnesio en niños con TDAH que en los grupos de comparación. Sin embargo, EDMO subraya que esta asociación no demuestra que la deficiencia de magnesio provoque el TDAH o agrave sus síntomas, y que los resultados de los estudios no son uniformes. Algunas investigaciones no encuentran diferencias o identifican niveles más altos, dependiendo de los participantes y de los métodos utilizados para la medición.

Las pruebas sobre la administración de suplementos también son limitadas. Algunos estudios pequeños han informado de mejoras en el comportamiento o la atención, pero algunos combinaron el magnesio con otros nutrientes, lo que dificulta separar el efecto específico. La conclusión presentada por EDMO es que se necesitan estudios más amplios y mejor controlados antes de que el magnesio pueda recomendarse, basándose en estas pruebas, como tratamiento para el TDAH.

Un mecanismo similar aparece en el caso del mebendazol, un medicamento antiparasitario promocionado en publicaciones virales como un supuesto tratamiento contra el cáncer que la industria médica ocultaría. Algunas publicaciones invocan una patente de la Universidad Johns Hopkins para una forma modificada de mebendazol y presentan la existencia de la patente como prueba de que su eficacia contra el cáncer ya estaría establecida.

La investigación real es más matizada. El mebendazol ha producido resultados considerados prometedores en investigaciones de laboratorio y preclínicas, y se estudia para una posible reutilización en oncología. Sin embargo, estos resultados no demuestran que el medicamento trate eficazmente el cáncer en seres humanos, y su eficacia no se ha establecido mediante ensayos clínicos suficientemente amplios.

La diferencia entre estos dos niveles de evidencia es explotada con frecuencia por la desinformación. La existencia de un estudio, una patente o un resultado obtenido en laboratorio puede ser real, mientras que la afirmación viral construida a partir de él va más allá de las conclusiones de la investigación. De este modo, una publicación no tiene que inventar todos los elementos para producir una impresión falsa.

La monetización completa el mecanismo. Algunos canales identificados en las investigaciones recopiladas por EDMO venden libros, suplementos u otros productos, solicitan donaciones o utilizan suscripciones de pago. Otros perfiles pueden beneficiarse simplemente de la visibilidad producida por el contenido viral a través de los sistemas de monetización de las plataformas.

La IA reduce simultáneamente los costes necesarios para multiplicar estas identidades. El mismo tipo de personaje puede adaptarse a distintos idiomas y mercados, y los vídeos, las voces y los guiones pueden producirse en volúmenes que serían difíciles de alcanzar con personas reales. El hecho de que parte de los materiales generados artificialmente estén etiquetados no resuelve el problema cuando el propio personaje está construido para imitar la autoridad de un profesional médico.

EDMO señala también como señales de advertencia la forma en que estos perfiles presentan las pruebas. Los pseudoexpertos tienden a ofrecer certezas sin reconocer límites o incertidumbres, utilizan un lenguaje emocional y pueden seleccionar únicamente los estudios que parecen respaldar la afirmación, ignorando los resultados contradictorios.

El fenómeno descrito por la red europea combina así tres problemas que antes podían aparecer por separado. La inteligencia artificial permite fabricar autoridad médica, las redes sociales permiten difundirla rápidamente y los sistemas comerciales ofrecen formas de convertir la atención y la vulnerabilidad de los usuarios en ingresos.

Las cifras de aproximadamente 100.000 vídeos y más de 1.000 perfiles no miden toda la desinformación médica en internet ni permiten estimar cuántas personas han seguido consejos peligrosos. Sin embargo, documentan la capacidad de producir a gran escala un tipo de contenido en el que el usuario debe determinar no solo si la información es correcta, sino también si la persona que la presenta existe realmente.