{"id":5889,"date":"2025-12-10T14:00:05","date_gmt":"2025-12-10T17:00:05","guid":{"rendered":"https:\/\/blog.scielo.org\/es\/?p=5889"},"modified":"2025-12-10T14:38:30","modified_gmt":"2025-12-10T17:38:30","slug":"integridad-cientifica-en-la-era-de-la-ia-y-los-desafios-de-la-trasnparencia-fraudes-manipulacion-y-los-nuevos-desafios-de-la-transparencia","status":"publish","type":"post","link":"https:\/\/blog.scielo.org\/es\/2025\/12\/10\/integridad-cientifica-en-la-era-de-la-ia-y-los-desafios-de-la-trasnparencia-fraudes-manipulacion-y-los-nuevos-desafios-de-la-transparencia\/","title":{"rendered":"Integridad cient\u00edfica en la era de la IA y los desafios de la trasnparencia: fraudes, manipulaci\u00f3n y los nuevos desaf\u00edos de la transparencia"},"content":{"rendered":"

Por Fabiano Couto Corr\u00eaa da Silva<\/strong><\/p>\n

Introducci\u00f3n<\/h3>\n
\"Imagen<\/a>

Imagen: Hiroyuki Sen v\u00eda Unsplash<\/a>.<\/em><\/p><\/div>\n

La integridad cient\u00edfica siempre ha sido un pilar fundamental de la confianza p\u00fablica en la ciencia. Sin embargo, vivimos un momento de crisis sin precedentes, en el que la escala, la sofisticaci\u00f3n y la velocidad de los fraudes cient\u00edficos desaf\u00edan los mecanismos tradicionales de control y verificaci\u00f3n. La expansi\u00f3n de la inteligencia artificial (IA) introduce una complejidad in\u00e9dita: al mismo tiempo que ofrece herramientas poderosas para detectar anomal\u00edas y fraudes, abarata y escala la producci\u00f3n de contenido fraudulento de forma alarmante. Para editores, revisores e investigadores, esta es una conversaci\u00f3n de gran importancia para preservar la confianza en la ciencia como instituci\u00f3n social.<\/p>\n

En el libro \u00bfQuem controla seus dados?<\/em><\/a>1<\/sup><\/a>, sostengo que la expansi\u00f3n de la IA, aliada a la concentraci\u00f3n de plataformas y flujos de datos, intensifica el colonialismo informacional y exige transparencia, procedencia y una gobernanza soberana para salvaguardar la integridad cient\u00edfica.<\/p>\n

La crisis contempor\u00e1nea: la industrializaci\u00f3n del fraude cient\u00edfico<\/h3>\n

La integridad cient\u00edfica enfrenta una crisis de escala industrial. El fen\u00f3meno de las \u201cpaper mills<\/em>\u201d,verdaderas f\u00e1bricas de art\u00edculos fraudulentos, representa una transformaci\u00f3n cualitativa en la naturaleza de la mala conducta cient\u00edfica. Ya no se trata de casos aislados de investigadores deshonestos, sino de operaciones comerciales organizadas que producen estudios falsos en masa para venderlos a investigadores presionados por la l\u00f3gica de \u201cpublicar o perecer\u201d.<\/p>\n

Las cifras son alarmantes. Estudios recientes documentan un aumento exponencial en el n\u00famero de retracciones de art\u00edculos cient\u00edficos en las \u00faltimas dos d\u00e9cadas. Estimaciones conservadoras sugieren que hasta 400.000 art\u00edculos fraudulentos se infiltraron en la literatura cient\u00edfica en las \u00faltimas dos d\u00e9cadas, mientras que solo 7.275 retracciones fueron registradas oficialmente como relacionadas con esas organizaciones, revelando la magnitud oculta del problema.<\/p>\n

Los n\u00fameros son alarmantes. Estudios recientes muestran que el n\u00famero de retracciones ha venido aumentando a lo largo de los a\u00f1os, aunque represente una proporci\u00f3n peque\u00f1a del total de publicaciones, y que muchos art\u00edculos siguen recibiendo un volumen sustancial de citas incluso despu\u00e9s de haber sido retractados (2024)2<\/sup><\/a>. Al mismo tiempo, an\u00e1lisis sobre las paper mills indican que organizaciones especializadas ya han logrado publicar muchos miles de manuscritos fabricados en revistas revisadas por pares, comercializando la autor\u00eda cient\u00edfica como un servicio (2024)3<\/sup><\/a>. En conjunto, estos estudios sugieren que la mala conducta cient\u00edfica no se limita a casos aislados, sino que adopta formas estructuradas y de gran escala, con efectos duraderos sobre la literatura cient\u00edfica.<\/p>\n

La pandemia de COVID-19, con su carrera desesperada por publicaciones, exacerb\u00f3 dram\u00e1ticamente este problema. Art\u00edculos sobre tratamientos milagrosos, datos fabricados sobre la eficacia de medicamentos y estudios con metodolog\u00edas dudosas inundaron las revistas cient\u00edficas, muchos de los cuales solo fueron retractados meses o a\u00f1os despu\u00e9s, cuando el da\u00f1o a la salud p\u00fablica ya estaba hecho.<\/p>\n

Esta \u201cindustrializaci\u00f3n del fraude\u201d revela fragilidades profundas de un sistema de revisi\u00f3n por pares sobrecargado y de un modelo de publicaci\u00f3n que, a veces, prioriza la cantidad en detrimento de la calidad. Revisores voluntarios, a menudo trabajando sin remuneraci\u00f3n y bajo presi\u00f3n de tiempo, no tienen condiciones para detectar fraudes cada vez m\u00e1s sofisticados. Las editoriales, a su vez, enfrentan el dilema entre mantener la velocidad de publicaci\u00f3n (y, en consecuencia, sus ingresos) e invertir en verificaciones rigurosas que ralentizan el proceso.<\/p>\n

La inteligencia artificial: arma de doble filo<\/h3>\n

La IA generativa representa un cambio de paradigma en esta crisis. Si antes el fraude exig\u00eda un esfuerzo considerable, como fabricar datos, manipular im\u00e1genes, escribir textos coherentes, hoy es posible generar contenido fraudulento con una facilidad pasmosa. Esto lleva a una tipolog\u00eda ampliada de la mala conducta cient\u00edfica, que va mucho m\u00e1s all\u00e1 del plagio y de la fabricaci\u00f3n tradicional de datos.<\/p>\n

Generaci\u00f3n de contenido fraudulento multimodal<\/h3>\n

La IA puede crear no solo textos acad\u00e9micamente plausibles, sino tambi\u00e9n im\u00e1genes cient\u00edficas falsas (como l\u00e1minas de microscop\u00eda, gr\u00e1ficos de experimentos, im\u00e1genes de resonancia magn\u00e9tica), videos e incluso audios de entrevistas o testimonios. Herramientas de IA generativa pueden producir conjuntos de datos enteros que parecen estad\u00edsticamente v\u00e1lidos pero que son completamente ficticios. La sofisticaci\u00f3n de estas fraudes hace extremadamente dif\u00edcil su detecci\u00f3n, incluso para revisores experimentados.<\/p>\n

Implicaciones epistemol\u00f3gicas profundas<\/h3>\n

La propia naturaleza de la evidencia cient\u00edfica se ve cuestionada en este nuevo contexto. Si una imagen puede ser generada por IA de forma indistinguible de una imagen real, \u00bfc\u00f3mo confiar en lo que vemos? Si los datos pueden fabricarse con distribuciones estad\u00edsticas perfectas, \u00bfc\u00f3mo distinguir lo real de lo falso? La cuesti\u00f3n de la \u00abautor\u00eda\u00bb tambi\u00e9n se vuelve difusa. \u00bfQui\u00e9n es autor de un texto generado con ayuda de una IA? \u00bfEl investigador que proporcion\u00f3 el prompt<\/em>? \u00bfLa empresa que desarroll\u00f3 el modelo? \u00bfLa comunidad que gener\u00f3 los datos de entrenamiento?<\/p>\n

El paradigma de la transparencia<\/h3>\n

Como se analiza en el post La paradoja de la transparencia en el uso de la IA generativa en la investigaci\u00f3n acad\u00e9mica<\/a>4<\/sup><\/a>, publicado en el propio blog SciELO en Perspectiva,, declarar el uso de IA, aunque \u00e9ticamente recomendable y cada vez m\u00e1s exigido por las revistas, puede llevar a una percepci\u00f3n de menor confiabilidad por parte de lectores. Esto crea un dilema para los investigadores: ser transparente sobre el uso de herramientas de IA puede perjudicar la recepci\u00f3n del trabajo; no declararlo puede considerarse mala conducta. Este paradoja revela la urgencia de desarrollar nuevas normas y expectativas sobre el papel de la IA en la producci\u00f3n cient\u00edfica.<\/p>\n

Herramientas de detecci\u00f3n y la carrera armamentista tecnol\u00f3gica<\/h3>\n

Afortunadamente, la misma tecnolog\u00eda que potencia el fraude tambi\u00e9n ofrece nuevas herramientas de defensa. Evolucionan constantemente los enfoques de detecci\u00f3n, con el desarrollo de:<\/p>\n