Las citas refuerzan la ciencia, pero los errores siguen siendo habituales. Estos fallos distorsionan las pruebas y comprometen la confianza. La rigurosidad en la verificación y la edición refuerza la integridad científica. Disponible en portugués. … Read More →
La paradoja de la transparencia en el uso de la IA generativa en la investigación académica
El uso de la IA generativa en la investigación académica genera una paradoja entre la transparencia y la credibilidad. Una investigación revela que declarar el uso de la IA, aunque ético, puede disminuir la confianza en el investigador. La falta de directrices claras y el estigma asociado a la IA dificultan la adopción de la transparencia necesaria para garantizar la integridad científica. … Read More →
La información “más” transparente sobre la investigación: una cultura en evolución
Hace más de dos décadas, Richard Horton, editor de The Lancet, planteó preguntas provocadoras sobre la autoría científica y su representación en los artículos publicados. Señaló que los informes de investigación a menudo pasan por alto los desacuerdos entre coautores sobre la interpretación de los resultados. Poner de manifiesto elementos de este denominado “artículo oculto” se ha vuelto esencial para la fiabilidad del relato de la investigación. Esta es una práctica en evolución que adquirirá una mayor relevancia en la educación de posgrado, especialmente en el contexto actual de la producción intelectual cada vez más influenciada por la Inteligencia Artificial Generativa. … Read More →
Mala ciencia: ¿qué sigue?
La publicación de investigaciones de dudosa calidad es un problema que preocupa cada vez más a los editores de revistas científicas. Los diversos casos ocurridos durante la pandemia de COVID-19 han puesto el problema en el punto de mira de todos. La necesidad de debatir este tema es cada vez más acuciante. … Read More →
Integridad científica y agencia humana en la investigación entrelazada con IA Generativa
La comunicación científica está pasando por una reconfiguración que, desde una perspectiva conservadora, será tan paradigmática como la creación de la primera revista científica, el Philosophical Transactions, en 1665. Desde una perspectiva disruptiva, esta transformación podría reconfigurar toda la cultura científica, redefiniendo la autonomía de investigadores e instituciones en la producción y validación del conocimiento. Preservar la integridad y el rigor científico en proyectos y publicaciones requiere estrategias que van más allá de políticas de transparencia para investigadores que utilizan Inteligencia Artificial Generativa. … Read More →
La Ciencia Abierta es aún un tema incipiente en las revistas de Administración
A pesar de ser valioso, el movimiento de Ciencia Abierta es todavía extremadamente nuevo en las revistas de Administración indexadas en SciELO. Prácticas efectivas y exitosas, como el uso de distintivos para estudios con mayor transparencia, por ejemplo, son utilizadas por una sola revista. … Read More →
Fábrica de artículos
Las fábricas de artículos (paper mills) comenzaron a producir y vender grandes cantidades de artículos de baja calidad, con datos falsos o plagiados. Y, más recientemente, están tratando de atraer a los editores de revistas ofreciendo sumas generosas a cambio de una rápida aceptación de los artículos y ofreciendo editores y revisores cuestionables para números especiales. … Read More →
La influencia de los sesgos implícitos en la adopción de los principios de DEIA
La adhesión a los principios de diversidad, equidad, inclusión y accesibilidad (DEIA) se ha visto obstaculizada por sesgos implícitos, relacionados con la memoria implícita, que influye en las acciones y decisiones de manera inconsciente. Los avances implican compromiso institucional, cambio cultural, establecimiento de objetivos y desarrollo de estrategias operativas. … Read More →
Publicación en Large Language Model (LLM) [Publicado originalmente en el blog Upstream en enero/2024]
El NYT dio la bienvenida al Año Nuevo con una demanda contra OpenAI y Microsoft. OpenAI y su patrocinador Microsoft habían robado, según el expediente, “millones de artículos de noticias protegidos por derechos de autor del Times, investigaciones en profundidad, artículos de opinión, reseñas, guías prácticas” y más, todo para entrenar los LLMs de OpenAI. … Read More →
¿Es que la Inteligencia Artificial tiene alucinaciones?
Las aplicaciones de IA han demostrado capacidades impresionantes, incluida la generación de respuestas muy fluidas y convincentes. Sin embargo, los LLM, chatbots y demás, son conocidos por su capacidad para generar declaraciones no objetivas o sin sentido, más comúnmente conocidas como “alucinaciones”. ¿Será que están drogados?
… Read More →
¿Puede la IA hacer arbitrajes confiables de artículos científicos?
El costo del arbitraje de las publicaciones científicas, tanto en dinero como en el tiempo que se le dedica, crece a proporciones inmanejables con los métodos actuales. Se impone usar la IA como un sistema de confianza y así liberar recursos humanos para tareas de investigación. Sería importante que SciELO incorporara progresivamente módulos de IA para la evaluación en su servidor de preprints como un nuevo avance y desarrollo de las tecnologías que maneja. … Read More →
Investigación y comunicación científica, la IA y la legislación que se avecina
¿Puede usarse la IA para generar “papers” terroristas, diseminar virus mortales o aprender a hacer bombas nucleares en su domicilio? ¿Hay legislación que pueda protegernos? Parece que la regulación internacional está en camino. … Read More →
IA: Cómo detectar textos producidos por chatbox y sus plagios
Se consulta a la aplicación ChatGPT-3 sobre cuatro temas en discusión para la producción de textos académicos aceptables por los editores de las revistas científicas. A cada pregunta sigue la respuesta dada por la misma aplicación de OpenAI, y a continuación nuestra evaluación consultando fuentes recientes publicadas en Internet. Finalmente se presentan algunas reflexiones (humanas) que, como todas las cosas, están sujetas a discusión o cambios producidos por el avance de la tecnología. … Read More →
ChatGPT y otras IA transformarán toda la investigación científica: reflexiones iniciales sobre usos y consecuencias – parte 2
En esta segunda parte de este ensayo, buscamos presentar algunos riesgos que surgen especialmente cuando se utiliza IA generativa en el campo científico y en el trabajo académico. Aunque ni siquiera todos los problemas están completamente mapeados, buscamos ofrecer reflexiones iniciales para apoyar y alentar el debate. … Read More →
ChatGPT y otras IA transformarán toda la investigación científica: reflexiones iniciales sobre usos y consecuencias – parte 1
Discutimos algunas posibles consecuencias, riesgos y paradojas en el uso de IA para la investigación, como posible deterioro de la integridad de la investigación, posibles modificaciones en la dinámica de producción de conocimiento y las relaciones centro-periferia en el entorno académico. Concluimos exigiendo un diálogo profundo sobre la regulación y la creación de tecnologías adaptadas a nuestras necesidades. … Read More →
Comentarios recientes