La IA generativa está transformando la producción académica, pero también plantea desafíos como textos superficiales, datos manipulados y sobrecarga editorial. Los editores advierten sobre los límites éticos, la responsabilidad humana y la necesidad de guiar a los autores hacia la adopción de las mejores prácticas en el uso de la IA. … Read More →
Orientación sobre mala conducta en la investigación para las políticas del Servicio de Salud Pública de EUA relacionadas con la inteligencia artificial generativa
El uso de la Inteligencia Artificial Generativa en la actividad académica, así como en diversos aspectos de la vida humana, ha aumentado significativamente en los últimos años. Dadas las numerosas posibilidades que ofrecen estas tecnologías, surgió la necesidad de establecer normas para su uso en la investigación científica. Esta publicación presenta un resumen del documento publicado recientemente por la Oficina de Integridad de la Investigación del Departamento de Salud y Servicios Humanos de los Estados Unidos. … Read More →
Del peer review a la sala de urgencias: el peligroso camino de las referencias fabricadas
Esta reflexión tiene como objetivo discutir los límites del peer review y de los mecanismos de control editorial para detectar referencias fabricadas, presentar evidencias objetivas sobre la ocurrencia de este fenómeno y examinar posibles medidas de prevención, corrección y responsabilización. … Read More →
A pesar de estar a hombros de gigantes, la ciencia va retrocediendo
El texto analiza la creciente percepción de un retroceso en la calidad de la producción científica contemporánea, situando este fenómeno en el contexto de las presiones institucionales —como la cultura del «publicar o perecer»— y del uso potencialmente inadecuado de la inteligencia artificial. Disponible solo en portugués. … Read More →
La linterna de Diógenes y el autoexamen del investigador: la integridad científica bajo presión
Recurriendo a la metáfora de la linterna de Diógenes, Ricardo Limongi y Marcio Pimenta analizan la práctica científica contemporánea. Más allá de una simple crítica, la imagen de la linterna invita a una reflexión más profunda: cómo dirigir la luz hacia uno mismo, practicando el autoexamen, la responsabilidad ética y la integridad, al tiempo que se afronta un contexto que, a menudo, resulta desfavorable para el investigador en Brasil.
… Read More →
La sicofancia en la IA: el riesgo de la complacencia
La sicofancia es un comportamiento que presenta la inteligencia artificial porque prioriza concordar con el usuario más bien que en la veracidad de los hechos. Esta tendencia surge de los procesos de entrenamiento diseñados para maximizar la satisfacción humana, lo que puede validar errores graves en sectores críticos como la salud. La conducta, que se describe como una forma de “adulación digital”, implica que la IA puede validar errores, reforzar sesgos o evitar críticas necesarias con tal de resultar agradable o útil según la percepción inmediata del usuario. Para mitigar estos riesgos, se han propuesto estrategias como el fine-tuning ético, el diseño de sistemas que fomenten el disentimiento y el uso de prompts que sean neutrales respecto de los usuarios.
… Read More →
El dilema del profesor en la era de la IA: ¿enseñamos el prompt o el proceso científico?
La pregunta no es trivial. La rápida adopción de herramientas de IA generativa en la investigación científica ha generado una demanda legítima de formación técnica. Los investigadores quieren y necesitan saber cómo utilizar estas tecnologías. El problema surge cuando la formación se reduce a enseñar atajos, sin comprender los procesos subyacentes que permiten al investigador evaluar críticamente lo que produce la herramienta. … Read More →
El Anillo de Giges y la IA en la ciencia: Cuando la invisibilidad desafía la integridad
Si la IA puede utilizarse sin ser detectada, ¿cómo se mantiene la integridad científica? Utilizando la alegoría del Anillo de Giges, este texto reflexiona sobre los límites de la detección, la proliferación de directrices y la necesidad de replantear el debate: desde la vigilancia hasta la formación ética de los investigadores. … Read More →
El auge de las publicaciones depredadoras
En las últimas dos décadas, la publicación científica ha experimentado una transformación tecnológica y económica que ha dado paso a modelos más heterodoxos y, lamentablemente, a prácticas depredadoras. La publicación depredadora se refiere a revistas y editoriales que cobran (y muy caro) a los autores por publicar, afirman prácticas de revisión por pares e indexación que no existen o son fraudulentas y dan prioridad a los ingresos rápidos en detrimento de la calidad científica. … Read More →
¿Quién es la partera y quién es la parturienta? La perspectiva socrática para repensar la autoría y la responsabilidad epistémica en el uso de la IA en la producción científica
La perspectiva mayéutica socrática ofrece un marco filosófico para repensar el uso de la IA en la producción científica. En lugar de un oráculo que proporciona respuestas, la IA puede ser un interlocutor dialógico que ayuda a los investigadores a explicitar el conocimiento latente y, así, replantear el debate sobre la autoría: el investigador sigue siendo el agente epistémico responsable, mientras que la IA actúa como una partera intelectual. … Read More →
Soberanía de datos científicos en las tensiones entre la apertura global y la autonomía local
La soberanía de datos científicos es esencial para una ciencia abierta verdaderamente equitativa. Entre el ideal de apertura global y el riesgo de extractivismo de datos, es necesario construir infraestructuras locales, gobernanza participativa y modelos de colaboración basados en reciprocidad y justicia. … Read More →
Integridad científica en la era de la IA y los desafios de la trasnparencia: fraudes, manipulación y los nuevos desafíos de la transparencia
La inteligencia artificial transforma radicalmente los desafíos de la integridad científica. Desde las “paper mills” hasta la generación automatizada de fraudes, vivimos una crisis que exige nuevas formas de transparencia, detección y gobernanza para preservar la confianza en la ciencia, articulando tecnología, reformas institucionales y cooperación internacional. … Read More →
Los peligros del uso de IA en la revisión por pares [Publicado originalmente en Hora Campinas en diciembre de 2025]
En mi vida académica, siempre estoy en ambos lados del mostrador, como autor y revisor. Es un trabajo con un alto nivel de responsabilidad, ya que estamos comprometidos con la excelencia de la información científica y la mejora del artículo. Actualmente, los autores pueden usar genAI en la preparación de artículos con ciertas reservas, pero existen estrictas restricciones para su uso en la revisión por pares. … Read More →
Tenemos que hablar sobre las citas
Las citas refuerzan la ciencia, pero los errores siguen siendo habituales. Estos fallos distorsionan las pruebas y comprometen la confianza. La rigurosidad en la verificación y la edición refuerza la integridad científica. Disponible en portugués. … Read More →
La paradoja de la transparencia en el uso de la IA generativa en la investigación académica
El uso de la IA generativa en la investigación académica genera una paradoja entre la transparencia y la credibilidad. Una investigación revela que declarar el uso de la IA, aunque ético, puede disminuir la confianza en el investigador. La falta de directrices claras y el estigma asociado a la IA dificultan la adopción de la transparencia necesaria para garantizar la integridad científica. … Read More →
Comentarios recientes