{"id":5976,"date":"2026-02-06T14:00:51","date_gmt":"2026-02-06T17:00:51","guid":{"rendered":"https:\/\/blog.scielo.org\/es\/?p=5976"},"modified":"2026-02-24T17:03:02","modified_gmt":"2026-02-24T20:03:02","slug":"el-anillo-de-giges-y-la-ia-en-la-ciencia-cuando-la-invisibilidad-desafia-la-integridad","status":"publish","type":"post","link":"https:\/\/blog.scielo.org\/es\/2026\/02\/06\/el-anillo-de-giges-y-la-ia-en-la-ciencia-cuando-la-invisibilidad-desafia-la-integridad\/","title":{"rendered":"El Anillo de Giges y la IA en la ciencia: Cuando la invisibilidad desaf\u00eda la integridad"},"content":{"rendered":"

Por Ricardo Limongi Fran\u00e7a Coelho<\/strong><\/p>\n

\"Luces<\/a>

Imagen: Bhushan Sadani v\u00eda Unsplash<\/a>.<\/em><\/p><\/div>\n

En el Libro II de La Rep\u00fablica<\/em>, Plat\u00f3n presenta la alegor\u00eda del Anillo de Giges: un pastor que, al encontrar un anillo m\u00e1gico capaz de hacerlo invisible, utiliza este poder para seducir a la reina, asesinar al rey y apoderarse del trono. La historia no es solo un relato de corrupci\u00f3n moral; es una profunda provocaci\u00f3n filos\u00f3fica. Si alguien pudiera actuar con la absoluta garant\u00eda de que sus acciones nunca ser\u00edan descubiertas, \u00bfseguir\u00eda siendo justo? \u00bfO acaso la moral humana depende fundamentalmente del miedo a las consecuencias y de la mirada ajena?<\/p>\n

Esta pregunta, formulada hace m\u00e1s de dos milenios, resurge en el contexto de la producci\u00f3n cient\u00edfica contempor\u00e1nea. La inteligencia artificial generativa (IAG) ofrece a los investigadores una especie de anillo de invisibilidad: herramientas capaces de producir textos cient\u00edficos, an\u00e1lisis e incluso im\u00e1genes de forma pr\u00e1cticamente indetectable. Ante esta realidad, la comunidad cient\u00edfica se enfrenta a la misma pregunta que S\u00f3crates tuvo que responder a Glauc\u00f3n: si la detecci\u00f3n es defectuosa y las consecuencias inciertas, \u00bfqu\u00e9 sustenta la integridad cient\u00edfica?<\/p>\n

La ilusi\u00f3n de la detecci\u00f3n<\/h3>\n

La primera respuesta intuitiva al problema ser\u00eda desarrollar mecanismos de vigilancia cada vez m\u00e1s sofisticados: detectores capaces de identificar textos generados por IA (Intelig\u00eancia Artificial) y, por lo tanto, sancionar a los infractores. Sin embargo, este enfoque presenta graves limitaciones emp\u00edricas.<\/p>\n

El estudio de Liang et al.<\/em> (2023), GPT detectors are biased against non-native English writers<\/a>1<\/sup><\/a><\/em>,publicado en la revista Patterns<\/em>, demostr\u00f3 que los detectores de IA presentan un sesgo sistem\u00e1tico contra los escritores no nativos de ingl\u00e9s: el 97,8% de los ensayos del TOEFL (Test of English as a Foreign Language<\/em>) se marcaron incorrectamente como generados por IA, con una tasa promedio de falsos positivos del 61,3%. La revisi\u00f3n sistem\u00e1tica de Weber-Wulff et al.<\/em> (2023) ), Testing of detection tools for AI-generated text<\/a> 2<\/sup><\/a><\/em>, evalu\u00f3 12 herramientas de detecci\u00f3n y concluy\u00f3 que las opciones disponibles “no son precisas ni fiables”, ya que la mitad de los textos generados por IA lograron evadir la detecci\u00f3n tras la edici\u00f3n manual. OpenAI suspendi\u00f3 su clasificador en julio de 2023 debido a su baja precisi\u00f3n, y la Universidad de Vanderbilt desactiv\u00f3 la detecci\u00f3n por IA de Turnitin, alegando preocupaci\u00f3n por los falsos positivos. Estos datos revelan una asimetr\u00eda fundamental: si bien la capacidad de generar texto mediante IA avanza exponencialmente, la capacidad de detectarlo sigue siendo estructuralmente limitada. El Anillo de Giges, en la pr\u00e1ctica, funciona.<\/p>\n

El escenario brasile\u00f1o: un vac\u00edo institucional<\/h3>\n

Si las herramientas de detecci\u00f3n son insuficientes, las instituciones tendr\u00edan que establecer directrices claras para orientar a los investigadores sobre el uso aceptable de la IA. A nivel internacional, existe convergencia. El COPE (Committee on Publication Ethics<\/em>) estableci\u00f3 en 2024 que las herramientas de IA “no pueden cumplir con los requisitos de autor\u00eda, ya que no pueden asumir la responsabilidad del trabajo presentado”3<\/sup><\/a>. Nature proh\u00edbe a los LLM como autores desde enero de 20234<\/sup><\/a>\u00a0y exige documentaci\u00f3n en la secci\u00f3n de m\u00e9todos. Science clasifica las infracciones como “mala conducta cient\u00edfica, no distinta de la alteraci\u00f3n de im\u00e1genes o el plagio”.<\/p>\n

En Brasil, sin embargo, persiste una brecha preocupante. Hasta la fecha, la CAPES y el CNPq no han publicado pol\u00edticas formales sobre el uso de la IA en la producci\u00f3n cient\u00edfica. En abril de 2025, CAPES public\u00f3 un documento titulado “Inteligencia Artificial en Investigaci\u00f3n y Financiamiento”, pero lo clasific\u00f3 expl\u00edcitamente como un “Documento de Discusi\u00f3n”, no como una pol\u00edtica institucional vinculante.<\/p>\n

SciELO se destaca como una virtuosa excepci\u00f3n en el contexto nacional, al haber publicado en septiembre de 2023 la “Gu\u00eda para el uso de herramientas y recursos de Inteligencia Artificial en la comunicaci\u00f3n de la investigaci\u00f3n en la Red SciELO<\/a>“5<\/sup><\/a>, que establece principios claros: declaraci\u00f3n obligatoria de uso, verificaci\u00f3n de contenido para detectar plagio, prohibici\u00f3n de la IA como autor y prohibici\u00f3n del uso de IA en la elaboraci\u00f3n de informes de revisi\u00f3n.<\/p>\n

Para subsanar parcialmente esta deficiencia, investigadores brasile\u00f1os lanzaron en 2024 las \u201cDiretrizes para o uso \u00e9tico e respons\u00e1vel da Intelig\u00eancia Artificial Generativa<\/a>\u201d6<\/sup><\/a>, publicadas por Editora Intercom. El documento, escrito por Sampaio (UFPR), Sabbatini (UFPE) y Limongi (UFG), critica la dependencia de las pol\u00edticas de empresas internacionales y propone la centralidad de la agencia humana en los procesos de investigaci\u00f3n.<\/p>\n

La paradoja de la transparencia<\/h3>\n

Incluso donde existen directrices, su eficacia se enfrenta a obst\u00e1culos. La llamada “paradoja de la transparencia<\/a>“7<\/sup><\/a>, documentada por Sampaio (2025) en el blog SciELO en Perspectiva, revela una tensi\u00f3n: si bien declarar que el uso de la IA es \u00e9ticamente correcto, hacerlo puede minar la confianza depositada en el investigador. Los estudios indican que solo el 5,7% de los autores revela voluntariamente el uso de la IA, una tasa significativamente inferior a la observada en investigaciones an\u00f3nimas sobre pr\u00e1cticas del mundo real. El requisito de transparencia, parad\u00f3jicamente, desincentiva la transparencia misma.<\/p>\n

Esta paradoja pone de relieve que el problema no puede resolverse \u00fanicamente mediante normas externas. Cuando la detecci\u00f3n falla, las directrices son inconsistentes y se desalienta la transparencia, \u00bfqu\u00e9 queda?<\/p>\n

De la vigilancia a la educaci\u00f3n: una respuesta socr\u00e1tica<\/h3>\n

La respuesta de S\u00f3crates a la provocaci\u00f3n de Glauc\u00f3n fue argumentar que la justicia tiene un valor intr\u00ednseco: que ser justo vale la pena en s\u00ed mismo, independientemente de las recompensas o los castigos externos. Una persona verdaderamente justa seguir\u00eda actuando correctamente incluso con el Anillo de Giges, porque la integridad es fundamental para una vida plena.<\/p>\n

Trasladada al contexto cient\u00edfico, esta perspectiva sugiere que la integridad en la investigaci\u00f3n no puede depender principalmente de mecanismos de vigilancia y castigo. Debe cultivarse como un valor en s\u00ed mismo, parte constitutiva de lo que significa ser investigador.<\/p>\n

La literatura reciente apunta en esta direcci\u00f3n. Das Deep et al.<\/em> (2025), en Evaluating the Effectiveness and Ethical Implications of AI Detection Tools in Higher Education<\/a> 8<\/sup><\/a><\/em>, una s\u00edntesis cualitativa publicada en la revista Information<\/em>, documenta que la excesiva dependencia de la detecci\u00f3n crea \u00abuna cultura de vigilancia que prioriza la vigilancia policial sobre la ense\u00f1anza\u00bb. El marco de Alfabetizaci\u00f3n en IA de EDUCAUSE (2024) propone competencias organizadas en cuatro \u00e1reas: Comprensi\u00f3n T\u00e9cnica, Habilidades de Evaluaci\u00f3n, Aplicaci\u00f3n Pr\u00e1ctica y Consideraciones \u00c9ticas. El argumento central es que una respuesta sostenible implica la capacitaci\u00f3n y el redise\u00f1o de las pr\u00e1cticas de evaluaci\u00f3n, no la intensificaci\u00f3n de la vigilancia tecnol\u00f3gica.<\/p>\n

Las directrices brasile\u00f1as independientes de Sampaio, Sabbatini y Limongi (2024) se hacen eco de esta perspectiva al proponer competencias esenciales para los investigadores: comprender las herramientas de IA y sus limitaciones, mantener la autor\u00eda humana como elemento central, transparencia en las declaraciones de uso, evaluaci\u00f3n cr\u00edtica de los resultados, reconocimiento de sesgos y errores, y preservaci\u00f3n de la agencia humana en el an\u00e1lisis.<\/p>\n

Consideraciones finales<\/h3>\n

La alegor\u00eda del Anillo de Giges nos recuerda que la cuesti\u00f3n fundamental no es tecnol\u00f3gica, sino \u00e9tica. Se seguir\u00e1n desarrollando y eludiendo herramientas de detecci\u00f3n. Se seguir\u00e1n publicando directrices que ser\u00e1n inconsistentes entre instituciones. La pregunta que queda es: \u00bfqu\u00e9 tipo de investigador queremos formar?<\/p>\n

La respuesta implica tres caminos complementarios. Primero, la transparencia como un valor, no como una obligaci\u00f3n burocr\u00e1tica, lo que requiere afrontar la paradoja de la transparencia con pol\u00edticas que no penalicen la honestidad. Segundo, una s\u00f3lida formaci\u00f3n \u00e9tica que cultive la integridad como parte constitutiva de la identidad del investigador, no como una respuesta al miedo a ser descubierto. En tercer lugar, una revisi\u00f3n de las m\u00e9tricas de evaluaci\u00f3n que priorizan la cantidad sobre la calidad y el impacto, creando incentivos perversos para el uso irresponsable de la IA.<\/p>\n

Plat\u00f3n argument\u00f3 que Giges, al usar el anillo con fines corruptos, no se volvi\u00f3 m\u00e1s libre; se convirti\u00f3 en esclavo de sus apetitos, alienado de su propia humanidad. An\u00e1logamente, el investigador que usa la IA para simular la producci\u00f3n cient\u00edfica no optimiza su carrera; vac\u00eda el sentido mismo de su actividad.<\/p>\n

La invisibilidad que confiere la IA generativa es, en \u00faltima instancia, una oportunidad para cuestionar: \u00bfhacemos ciencia por miedo a ser descubiertos o porque la b\u00fasqueda del conocimiento es constitutiva de quienes somos? La respuesta a esta pregunta determinar\u00e1 no solo las pol\u00edticas institucionales, sino tambi\u00e9n el futuro de la comunicaci\u00f3n cient\u00edfica.<\/p>\n

Posts de la serie<\/h3>\n