Los peligros del uso de IA en la revisión por pares [Publicado originalmente en Hora Campinas en diciembre de 2025]

Por Carmino de Souza

Imagen: Mariola Grobelska vía Unsplash.

En mi intensa vida académica, siempre me encuentro en ambos lados del mostrador, es decir, como autor de artículos e investigaciones y como revisor de artículos enviados a numerosas revistas científicas de todo el mundo para mi opinión. Es un trabajo de gran responsabilidad, ya que siempre estamos comprometidos con la excelencia y la calidad de la información científica y con la mejora del artículo enviado.

El estándar actual en la comunidad editorial académica es que los autores pueden utilizar inteligencia artificial generativa (genAI) en la preparación de los envíos (con algunas salvedades; véase esta declaración de posición de COPE, Committee on Publication Ethics, y las editoriales). Sin embargo, existen restricciones estrictas sobre el uso de IA en la revisión por pares.

Muchas políticas de revistas especifican que los editores y revisores no deben enviar el contenido de los envíos a herramientas genAI, y algunas prohíben completamente su uso en la revisión por pares (por ejemplo, Science) o permiten casos de uso específicos de IA, como la traducción o edición de los propios comentarios de revisión.

¿Por qué este estándar diferente? Las políticas que restringen o prohíben la IA en la revisión por pares mitigan los riesgos que su uso por parte de editores o revisores podría conllevar, como:

• Violación de la confidencialidad de contenido no publicado y datos sensibles
• Pérdida de rigor y especificidad en el proceso de evaluación
• Representación fraudulenta de los resultados de genAI y de los colaboradores en la revisión por pares
• Potenciación y aceleración de la manipulación de la revisión por pares (p. ej., por parte de las “fábricas de artículos”)

Puede parecer paradójico o incluso hipócrita que revistas y editoriales estén explorando opciones para el uso interno de la IA en la revisión por pares. Una diferencia clave entre el uso interno (por parte del personal de la revista) y el externo (por parte de editores y revisores académicos) es que una revista puede implementar herramientas internas en un entorno tecnológico controlado que protege la seguridad de los datos, de modo que no se inserte contenido confidencial en los conjuntos de entrenamiento, lo que afectaría los resultados de otros usuarios.

Cuando se implementan medidas de seguridad de datos, la IA puede ayudar a mejorar la coherencia con la que las revistas aplican sus estándares y políticas. Por ejemplo, la IA puede detectar y generar informes de revisión que cuestionen problemas como referencias incompletas, no verificables o retractadas, análisis estadísticos problemáticos e incumplimiento de los requisitos de disponibilidad de datos y preinscripción.

Si bien existen varios casos de uso beneficiosos para la IA en el apoyo a la revisión por pares, las personas siguen siendo indispensables para proporcionar una evaluación rigurosa del contenido. Mientras que la IA Gen detecta y promedia el contenido preexistente, las personas innovan y evalúan. Introducimos nuevas ideas y perspectivas, aportamos creatividad, curiosidad e intelecto, y somos capaces de sintetizar, contextualizar, interpretar y criticar en base a conocimientos que abarcan múltiples dominios.

En resumen, las máquinas distan mucho de poder replicar la cognición humana y, por lo tanto, los humanos pueden participar en la revisión por pares y el discurso científico de una manera que las máquinas no pueden. En la práctica, esto significa que las personas pueden identificar problemas que no serían evidentes para un lector automático o un algoritmo, y que pueden ser cruciales para la validez e integridad científicas.

Dicho esto, la transición a un modelo híbrido de revisión por pares, con humanos e IA, podría mitigar los problemas conocidos de la revisión por pares, incluyendo la pesada carga que impone a los académicos y los plazos de revisión más largos de lo ideal. Si la IA cubre los aspectos técnicos de la evaluación, quizás podamos utilizar menos revisores para cubrir aspectos de la revisión por pares que requieren capacidades de función ejecutiva exclusivamente humanas.

Como prueba de concepto de este modelo, una presentación en el Congreso de Revisión por Pares de 2025 abordó la oferta de revisión por pares “Fast Track” de NEJM AI, en la que las decisiones se emiten en un plazo de una semana desde el envío, basándose únicamente en la evaluación del manuscrito por parte de los editores y dos revisiones generadas por IA. Si bien los plazos de entrega de una semana son atractivos, existen varias razones para incluir al menos dos expertos humanos en la revisión por pares, ya sea como editores y/o revisores.

Los autores y los artículos se benefician de evaluaciones que reflejan diferentes perspectivas (humanas); a menudo, se necesitan varias personas para cubrir el tema y la experiencia metodológica necesaria para una evaluación rigurosa. Es importante destacar que contar con dos o más personas involucradas en la revisión por pares también aumenta la probabilidad de que se identifiquen problemas científicos y de integridad importantes, y otorga mayor credibilidad general a las publicaciones y revistas. Además, ofrece cierto grado de protección a los autores, las revistas y la comunidad en general contra problemas que podrían comprometer la revisión por pares, como sesgos personales, conflictos de intereses, revisiones de baja calidad y uso indebido de la revisión por pares para beneficio personal.

La era de la IA puede haber llegado para quedarse, y los editores e investigadores continuarán explorando sus usos, pero se requiere precaución y una cuidadosa consideración en cada etapa del proceso de revisión por pares. Y, en última instancia, nunca reemplazará el conocimiento y el criterio de una persona.

Artículo original en portugués

Os perigos do uso da IA na revisão por pares

Acerca de Carmino Antonio De Souza

Carmino Antonio De Souza es profesor titular de la Unicamp. Fue Secretario de Salud del estado de São Paulo en la década de 1990 (1993-1994) y de la ciudad de Campinas entre 2013 y 2020. Secretario Ejecutivo de la Secretaría Extraordinaria de Ciencia, Investigación y Desarrollo en Salud del gobierno del estado de São Paulo en 2022 y actual Presidente del Consejo Directivo de la Fundación Butantan. Director Científico de la Asociación Brasileña de Hematología, Hemoterapia y Terapia Celular (ABHH). Investigador principal de CEPID-CancerThera, financiado por la FAPESP.

Traducido del original en portugués por Ernesto Spinak.