{"id":6054,"date":"2026-04-01T10:00:07","date_gmt":"2026-04-01T13:00:07","guid":{"rendered":"https:\/\/blog.scielo.org\/es\/?p=6054"},"modified":"2026-04-01T14:00:45","modified_gmt":"2026-04-01T17:00:45","slug":"citas-zombis-y-fantasmas-en-la-ia-son-diferentes-y-como-se-originan","status":"publish","type":"post","link":"https:\/\/blog.scielo.org\/es\/2026\/04\/01\/citas-zombis-y-fantasmas-en-la-ia-son-diferentes-y-como-se-originan\/","title":{"rendered":"Citas \u201czombis\u201d y \u201cfantasmas\u201d en la IA \u2013 son diferentes y c\u00f3mo se originan"},"content":{"rendered":"

Por Ernesto Sp\u00ednak<\/strong><\/p>\n

Introducci\u00f3n<\/h3>\n
\"Fotograf\u00eda<\/a>

Imagem: Stefano Pollio via Unsplash<\/a>.<\/em><\/p><\/div>\n

Con esta definici\u00f3n nos estamos refiriendo a dos clases de eventos diferentes. El primer tipo de evento surge debido a la arquitectura de los algoritmos de Lenguajes Grandes (LLM), en cambio el segundo tipo es originado en vulnerabilidades de la arquitectura de programas como Google Scholar. Pero, la contaminaci\u00f3n de las referencias, surge en \u00faltima instancia, por descuidos en los procesos editoriales de las revistas y revisores, y poco cuidado por los autores de los manuscritos. Pasemos a examinar.<\/p>\n

\n

Por que se generan citas fantasmas<\/h3>\n

Las referencias fantasmas siempre han existido incluso antes del uso de los LLM, que adem\u00e1s alucinan por una interacci\u00f3n de vulnerabilidades y tambi\u00e9n son propensos a la sicofancia<\/a>1<\/sup><\/a> como ya hemos visto en otro post.<\/p>\n

Las citas fantasmas se generan principalmente debido a una combinaci\u00f3n de negligencia humana, presiones acad\u00e9micas, fallos en la infraestructura de indexaci\u00f3n y el uso reciente de la inteligencia artificial (IA). Este fen\u00f3meno ocurre cuando los autores incluyen referencias bibliogr\u00e1ficas en sus trabajos sin haber consultado realmente las fuentes o, en los casos m\u00e1s graves, haciendo referencia a obras que no existen, como se indica en el texto Citas fantasmas en art\u00edculos cient\u00edficos: problem\u00e1tica creciente ante el <\/a>uso de la inteligencia artificial<\/a>2<\/sup><\/a>.<\/p>\n

Es com\u00fan que los investigadores copien listas de referencias de otros art\u00edculos sin verificar las fuentes originales. De hecho, se estima que solo el 20% de quienes citan un trabajo realmente lo han le\u00eddo; el resto simplemente propaga errores previos como en indicado en el art\u00edculo Read before you cite!<\/a><\/em>3<\/sup><\/a><\/p>\n

El uso de la IA produce “alucinaciones<\/em>” porque los modelos de lenguaje (LLM) como ChatGPT<\/em> no consultan una base de datos de “verdad”, sino que utilizan probabilidades para adivinar la siguiente palabra para producir una respuesta sint\u00e1cticamente correcta. Esto provoca, en algunos casos, alucinaciones donde el sistema inventa metadatos de citas (autores, t\u00edtulos, a\u00f1os) que parecen coherentes pero son ficticios. Este problema se ha documentado con frecuencia, es bien conocido y ha sido tema recurrente en posts publicado en SciELO en Perspectiva<\/em>.<\/p>\n

Una vulnerabilidad arquitect\u00f3nica de Google Acad\u00e9mico es lo que crea registros (CITATION) para referencias que no puede vincular con documentos reales. Estos fragmentos \u2014inferidos de bibliograf\u00edas en lugar de fuentes verificadas\u2014 permiten que las referencias inventadas acumulen citas y aparenten legitimidad, sostiene el autor Tay en la publicaci\u00f3n Why Ghost References Still Haunt Us in 2025<\/a><\/em>4<\/sup><\/a>.<\/p>\n

Esto ocurre por ejemplo, cuando los errores de Wikipedia<\/em> se propagan a las fuentes publicadas y viceversa. Los errores en las listas de referencias de art\u00edculos influyentes son copiados por autores posteriores que no verifican sus fuentes. Una errata tipogr\u00e1fica se convierte en un art\u00edculo que decenas de investigadores afirman haber le\u00eddo.<\/p>\n

De manera similar, una vez que aparece una referencia fantasma (humana o generada por LLM), este proceso de citog\u00e9nesis<\/em> puede ser acelerado tanto por LLM como por humanos descuidados.<\/p>\n

Lo que da miedo es que, incluso si de ahora en adelante los LLM no alucinaran con referencias fantasmas “por su cuenta” y siempre se respaldaran en fuentes web, \u00a1a\u00fan podr\u00edan encontrar referencias fantasmas existentes y tal vez citarlas!<\/p>\n

Lo que ha cambiado no es la existencia de referencias fantasma, sino su potencial escalabilidad y capacidad de descubrimiento. GenAI puede producir m\u00e1s contenido, m\u00e1s r\u00e1pido, con citas que parecen fiables, y cuando se intenta la verificaci\u00f3n mediante LLM con b\u00fasqueda web, estas herramientas pueden ser enga\u00f1adas por la contaminaci\u00f3n preexistente que los humanos crearon durante d\u00e9cadas.<\/p>\n

El mecanismo [CITATION] siempre ha sido una vulnerabilidad estructural. Permite que referencias falsas, ya sean creadas por error humano o por alucinaciones de GenAI, entren en el sistema de comunicaci\u00f3n acad\u00e9mica con una apariencia de legitimidad. Una vez que un registro [CITATION] existe y acumula citas, se vuelve cada vez m\u00e1s dif\u00edcil distinguirlo de un art\u00edculo real que simplemente no est\u00e1 disponible en l\u00ednea.<\/p>\n

La otra vulnerabilidad es que los sistemas RAG (Retrieval-Augmented Generation<\/em>) que utilizan b\u00fasquedas web generales pueden ser enga\u00f1ados. Cuando un LLM busca en la web para verificar una cita, puede encontrar p\u00e1ginas que citan la referencia fantasma, concluyendo as\u00ed que el art\u00edculo debe ser real. Esta vulnerabilidad exist\u00eda mucho antes de GenAI, lo que cambia es la velocidad a la que se generan nuevas referencias fantasma y la rapidez con la que se propagan por la web, lo que dificulta cada vez m\u00e1s la verificaci\u00f3n de citas.<\/p>\n

Las citas zombis<\/em><\/h3>\n

Para diferenciar una cita fantasma<\/em> de una cita zombi<\/em>, la clave principal reside en la existencia real<\/u> del documento citado y su estatus dentro del registro acad\u00e9mico, o sea comprobando las fuentes.<\/p>\n

Definici\u00f3n de cita Fantasma<\/em><\/u> (Referencia inexistente): Es una menci\u00f3n a una obra que simplemente no existe. Se genera por “alucinaciones” de la inteligencia artificial, errores tipogr\u00e1ficos humanos, copias descuidadas de bibliograf\u00edas o la fusi\u00f3n accidental de dos art\u00edculos reales en uno ficticio. C\u00f3mo identificarla: haciendo una b\u00fasqueda del original; no es posible localizar, acceder ni verificar el documento fuente en ninguna base de datos autorizada.<\/p>\n

Definici\u00f3n de cita Zombi<\/em><\/u> (Art\u00edculo retractado): Es una cita a un trabajo que de hecho s\u00ed existe (es real y se puede localizar), pero que ha sido retractado por la revista original debido a fraude, errores graves o falta de integridad.<\/p>\n

Pero, el art\u00edculo sobrevive “despu\u00e9s de su muerte” acad\u00e9mica porque otros autores siguen cit\u00e1ndolo, a menudo sin advertir que el trabajo ha sido invalidado. Para identificarlo debe hacerse una b\u00fasqueda del original. El documento se encontrar\u00e1 f\u00edsicamente (en PDF o HTML), pero deber\u00eda tener un aviso de “Retracted<\/em>” (Retractado) en la p\u00e1gina de la editorial.<\/p>\n

Esos art\u00edculos se pueden detectar consultando la base de datos Retraction Watch<\/a><\/em> o mediante gestores de referencias como Zotero y EndNote, que marcan autom\u00e1ticamente los art\u00edculos retractados. En cambio Google Acad\u00e9mico no<\/u> marca las retractaciones, por lo que un art\u00edculo zombi<\/em> parecer\u00e1 un art\u00edculo leg\u00edtimo en esta plataforma.<\/p>\n

En Google Acad\u00e9mico suelen aparecer con el prefijo [CITACI\u00d3N] o [CITATION], generalmente no tienen hiperv\u00ednculo al texto completo, carecen de resumen y sus metadatos suelen estar incompletos o truncados.<\/p>\n

Como ejemplo tomemos el caso de una referencia fantasma que lleva acumuladas 74 citas en Google Acad\u00e9mico a la hora de escribir este post5<\/sup><\/a>:<\/p>\n

[CITATION] Education governance and datafication. B Williamson, N Piattoeva – Education and Information Technologies, 2022<\/strong><\/p>\n

Save Cite Cited by 74 Related articles<\/strong><\/p>\n

Fuente:https:\/\/scholar.google.com\/scholar?cluster=1795648861839846375&hl=en&inst=14102473421921925766&oi=scholarr<\/a><\/p>\n

Esta referencia espec\u00edfica no corresponde a ninguna publicaci\u00f3n aceptada. Pero, sin importar la situaci\u00f3n, las citas de art\u00edculos retractados contin\u00faan siendo citados con bastante frecuencia como indica una reciente publicaci\u00f3n en Science, <\/em>Silence greets requests to flag retracted studies<\/em><\/a>5<\/sup><\/a><\/p>\n

La vulnerabilidad m\u00e1s cr\u00edtica es que Google Acad\u00e9mico crea registros de referencias que detecta en las bibliograf\u00edas de los documentos fuente pero que no puede vincularlos con un documento real en sus \u00edndices. Estos registros aparecen en los resultados de b\u00fasqueda con el prefijo [CITACI\u00d3N] con apariencia de legitimidad, aunque suelen carecer de hiperv\u00ednculo al texto completo, resumen o DOI, acumulan n\u00fameros de citas, lo que enga\u00f1a a investigadores y sistemas de IA haci\u00e9ndoles creer que la obra est\u00e1 vigente.<\/p>\n

Como consecuencia generan una contaminaci\u00f3n de la web y se propagan por los sistemas de IA-RAG. El hecho de que estas citas existan en Google Acad\u00e9mico genera un ciclo de retroalimentaci\u00f3n conocido como citog\u00e9nesis<\/em> (validaci\u00f3n circular).<\/p>\n

Conclusi\u00f3n<\/h3>\n

El enfoque de infraestructura de este an\u00e1lisis es importante, pero no debemos descuidar las fallas de control humano que permiten que las referencias fantasmas y zombis se propaguen.<\/p>\n

La verificaci\u00f3n de referencias deber\u00eda formar parte de los procesos editoriales y de revisi\u00f3n por pares. En la pr\u00e1ctica, rara vez lo es. Los revisores se centran en la metodolog\u00eda, la argumentaci\u00f3n y la contribuci\u00f3n, no en la existencia real de cada obra citada. Los correctores de estilo verifican la coherencia del formato, no la existencia real de la fuente.<\/p>\n

La verdadera historia es m\u00e1s antigua y m\u00e1s inc\u00f3moda. Las referencias fantasma siempre han existido, creadas y propagadas por la negligencia humana: errores tipogr\u00e1ficos, copias descuidadas, citas sin leer, mezclas de art\u00edculos similares.<\/p>\n

Y cuando intentamos verificar referencias usando LLM con b\u00fasquedas web, estas herramientas son enga\u00f1adas por la contaminaci\u00f3n preexistente que los humanos crearon durante d\u00e9cadas\u2026 y la contaminaci\u00f3n se autoalimenta y sigue (aunque se reconoce que esos m\u00e9todos no son infalibles, pero ayudan, como se\u00f1ala ZHANNG en el art\u00edculo A Comparative Analysis of Faithfulness Metrics and Humans in Citation Evaluation<\/a><\/em>6<\/sup><\/a>).<\/p>\n

En conclusi\u00f3n, mientras que el fantasma<\/em> es un producto de la imaginaci\u00f3n (humana o artificial) o del error de registro, el zombi<\/em> es un “cad\u00e1ver” acad\u00e9mico que se niega a morir porque la comunidad cient\u00edfica sigue propagando sus hallazgos err\u00f3neos mediante nuevas citas.<\/p>\n

Notas<\/h3>\n

1. SPINAK, E. La sicofancia en la IA: el riesgo de la complacencia [online]. SciELO en Perspective<\/em>, 2026 [viewed 22 March 2026]. Available from: https:\/\/blog.scielo.org\/es\/2026\/03\/13\/la-sicofancia-en-la-ia-el-riesgo-de-la-complacencia\/<\/a>↩<\/a><\/p>\n

2. PAZ-ENRIQUE L. Citas fantasmas en art\u00edculos cient\u00edficos: problem\u00e1tica creciente ante el uso de la inteligencia artificial. Revista M\u00e9dica Electr\u00f3nica<\/em> [online]. 2023, vol 45, no. 3 [viewed 01 April 2026]. Available from: http:\/\/scielo.sld.cu\/scielo.php?script=sci_arttext&pid=S1684-18242023000600892<\/a>↩<\/a><\/p>\n

3. SIMKIN, M.V., ROYCHOWDHURY, V.P. . Read before you cite!. ArXiv.<\/em> 2002.[viewed 01 April 2026].https:\/\/doi.org\/10.48550\/arXiv.cond-mat\/0212043<\/a>. Available from: https:\/\/arxiv.org\/abs\/cond-mat\/0212043<\/a>↩<\/a><\/p>\n

4. TAY, A. Why Ghost References Still Haunt Us in 2025\u2014And Why It’s Not Just About LLMs. Aaron Tay’s Musings about Librarianship<\/em> 2025.[viewed 01 April 2026]. Available from: https:\/\/aarontay.substack.com\/p\/why-ghost-references-still-haunt<\/a>↩<\/a><\/p>\n

5. BRAINARD, J. Silence greets requests to flag retracted studies. Science<\/em>. 2022 vol 377, no. 6601. [viewed 01 April 2026]. https:\/\/doi.org\/10.1126\/science.add6988<\/a>. Available from: https:\/\/www.science.org\/doi\/epdf\/10.1126\/science.add6988<\/a>↩<\/a><\/p>\n

6. ZHANNG, W.et al<\/em>.. A Comparative Analysis of Faithfulness Metrics and Humans in Citation Evaluation. ArXiv<\/em>. 2024. Available from: https:\/\/arxiv.org\/pdf\/2408.12398<\/a>↩<\/a><\/p>\n

Referencias<\/h3>\n

BRAINARD, J. Silence greets requests to flag retracted studies. Science<\/em>. 2022 vol 377, no. 6601. [viewed 01 April 2026]. https:\/\/doi.org\/10.1126\/science.add6988<\/a>. Available from: https:\/\/www.science.org\/doi\/epdf\/10.1126\/science.add6988<\/a><\/p>\n

PAZ-ENRIQUE L. Citas fantasmas en art\u00edculos cient\u00edficos: problem\u00e1tica creciente ante el uso de la inteligencia artificial. Revista M\u00e9dica Electr\u00f3nica<\/em> [online]. 2023, vol 45, no. 3 [viewed 01 April 2026]. Available from: http:\/\/scielo.sld.cu\/scielo.php?script=sci_arttext&pid=S1684-18242023000600892<\/a><\/p>\n

SIMKIN, M.V., ROYCHOWDHURY, V.P. Read before you cite!. ArXiv.<\/em> 2002.[viewed 01 April 2026].https:\/\/doi.org\/10.48550\/arXiv.cond-mat\/0212043<\/a>. Available from: https:\/\/arxiv.org\/abs\/cond-mat\/0212043<\/a><\/p>\n

SPINAK, E. La sicofancia en la IA: el riesgo de la complacencia [online]. SciELO en Perspective<\/em>, 2026 [viewed 22 March 2026]. Available from: https:\/\/blog.scielo.org\/es\/2026\/03\/13\/la-sicofancia-en-la-ia-el-riesgo-de-la-complacencia\/<\/a><\/p>\n

TAY, A. Why Ghost References Still Haunt Us in 2025\u2014And Why It’s Not Just About LLMs. Aaron Tay’s Musings about Librarianship<\/em> 2025.[viewed 01 April 2026]. Available from: https:\/\/aarontay.substack.com\/p\/why-ghost-references-still-haunt<\/a><\/p>\n

ZHANNG, W.et al<\/em>.. A Comparative Analysis of Faithfulness Metrics and Humans in Citation Evaluation. ArXiv<\/em>. 2024. Available from: https:\/\/arxiv.org\/pdf\/2408.12398<\/a><\/p>\n

 <\/p>\n

Sobre Ernesto Spinak<\/h3>\n

\"Fotograf\u00eda<\/a><\/p>\n

Colaborador de SciELO, Ingeniero en Sistemas y Lic. en Biblioteconom\u00eda, con Diploma de Estudios Avanzados pela Universitat Oberta de Catalunya y Maestr\u00eda en \u201cSociedad de la Informaci\u00f3n\u201d por la Universidad Oberta de Catalunya, Barcelona \u2013 Espa\u00f1a. Actualmente tiene una empresa de consultor\u00eda que atiende a 14 instituciones de gobierno y universidades en Uruguay con proyectos de informaci\u00f3n.<\/p>\n

 <\/p>\n

Links externos<\/h3>\n

Retraccion Watch<\/a><\/p>\n

Google Scholar<\/a><\/p>\n<\/div>\n","protected":false},"excerpt":{"rendered":"

Dos especies distintas. Una especie son las “citas fantasma” (alucinaciones de referencias) uno de los fen\u00f3menos m\u00e1s curiosos y frustrantes de la IA generativa. B\u00e1sicamente, la IA inventa un autor, un t\u00edtulo de libro o un enlace web que parece totalmente leg\u00edtimo, pero que no existe en el mundo real. En cambio la otra, las citas zombis, aparecen porque perpet\u00faan referencias a autores reales que fueron retractados [borrados o no] en las bases de datos originales, y debido a carencias en programas como Google Scholar siguen siendo citados. …<\/span> Read More →<\/span><\/a><\/span><\/p>\n","protected":false},"author":8,"featured_media":6056,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"om_disable_all_campaigns":false,"_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"footnotes":"","_links_to":"","_links_to_target":""},"categories":[3],"tags":[7,78,8],"class_list":["post-6054","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-analisis","tag-comunicacion-cientifica","tag-inteligencia-artificial","tag-programa-scielo"],"aioseo_notices":[],"aioseo_head":"\n\t\t\n\t\n\t\n\t\n\t\n\t\n\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t\n\t\t