Las fábricas de artículos (paper mills) comenzaron a producir y vender grandes cantidades de artículos de baja calidad, con datos falsos o plagiados. Y, más recientemente, están tratando de atraer a los editores de revistas ofreciendo sumas generosas a cambio de una rápida aceptación de los artículos y ofreciendo editores y revisores cuestionables para números especiales. … Read More →
La influencia de los sesgos implícitos en la adopción de los principios de DEIA
La adhesión a los principios de diversidad, equidad, inclusión y accesibilidad (DEIA) se ha visto obstaculizada por sesgos implícitos, relacionados con la memoria implícita, que influye en las acciones y decisiones de manera inconsciente. Los avances implican compromiso institucional, cambio cultural, establecimiento de objetivos y desarrollo de estrategias operativas. … Read More →
Publicación en Large Language Model (LLM) [Publicado originalmente en el blog Upstream en enero/2024]
El NYT dio la bienvenida al Año Nuevo con una demanda contra OpenAI y Microsoft. OpenAI y su patrocinador Microsoft habían robado, según el expediente, “millones de artículos de noticias protegidos por derechos de autor del Times, investigaciones en profundidad, artículos de opinión, reseñas, guías prácticas” y más, todo para entrenar los LLMs de OpenAI. … Read More →
¿Es que la Inteligencia Artificial tiene alucinaciones?
Las aplicaciones de IA han demostrado capacidades impresionantes, incluida la generación de respuestas muy fluidas y convincentes. Sin embargo, los LLM, chatbots y demás, son conocidos por su capacidad para generar declaraciones no objetivas o sin sentido, más comúnmente conocidas como “alucinaciones”. ¿Será que están drogados?
… Read More →
¿Puede la IA hacer arbitrajes confiables de artículos científicos?
El costo del arbitraje de las publicaciones científicas, tanto en dinero como en el tiempo que se le dedica, crece a proporciones inmanejables con los métodos actuales. Se impone usar la IA como un sistema de confianza y así liberar recursos humanos para tareas de investigación. Sería importante que SciELO incorporara progresivamente módulos de IA para la evaluación en su servidor de preprints como un nuevo avance y desarrollo de las tecnologías que maneja. … Read More →
Investigación y comunicación científica, la IA y la legislación que se avecina
¿Puede usarse la IA para generar “papers” terroristas, diseminar virus mortales o aprender a hacer bombas nucleares en su domicilio? ¿Hay legislación que pueda protegernos? Parece que la regulación internacional está en camino. … Read More →
IA: Cómo detectar textos producidos por chatbox y sus plagios
Se consulta a la aplicación ChatGPT-3 sobre cuatro temas en discusión para la producción de textos académicos aceptables por los editores de las revistas científicas. A cada pregunta sigue la respuesta dada por la misma aplicación de OpenAI, y a continuación nuestra evaluación consultando fuentes recientes publicadas en Internet. Finalmente se presentan algunas reflexiones (humanas) que, como todas las cosas, están sujetas a discusión o cambios producidos por el avance de la tecnología. … Read More →
ChatGPT y otras IA transformarán toda la investigación científica: reflexiones iniciales sobre usos y consecuencias – parte 2
En esta segunda parte de este ensayo, buscamos presentar algunos riesgos que surgen especialmente cuando se utiliza IA generativa en el campo científico y en el trabajo académico. Aunque ni siquiera todos los problemas están completamente mapeados, buscamos ofrecer reflexiones iniciales para apoyar y alentar el debate. … Read More →
ChatGPT y otras IA transformarán toda la investigación científica: reflexiones iniciales sobre usos y consecuencias – parte 1
Discutimos algunas posibles consecuencias, riesgos y paradojas en el uso de IA para la investigación, como posible deterioro de la integridad de la investigación, posibles modificaciones en la dinámica de producción de conocimiento y las relaciones centro-periferia en el entorno académico. Concluimos exigiendo un diálogo profundo sobre la regulación y la creación de tecnologías adaptadas a nuestras necesidades. … Read More →
Revista DADOS crea editoría especializada en replicabilidad
A partir de este año, la revista DADOS contará con un editor creado específicamente para abordar cuestiones de replicabilidad de sus artículos. Este compromiso supuso una ruptura con el ensayismo en favor de una visión más sistemática de la investigación, lo que determinó la difusión de manuscritos fuertemente sustentados en evidencia empírica. … Read More →
Inteligencia Artificial y comunicación de investigaciones
¿Son realmente los chatbots autores de artículos científicos? ¿Pueden ser jurídicamente responsables y tomar decisiones éticas? ¿Qué dicen las sociedades científicas, los editores de revistas, las universidades? ¿Pueden incluirse sus resultados en artículos científicos originales? A partir de la contribución que presentamos hoy iremos publicando sucesivos posts que intentarán responder estas interrogantes y las nuevas que vayan surgiendo. … Read More →
Barajar las cartas y volver a repartir
La investigación debe estar bien diseñada, llevarse a cabo correctamente y debe informarse de manera clara y transparente, porque la fiabilidad de los resultados depende del rigor del diseño experimental. Pero en los informes publicados parece haber una falta de compromiso entre los encargados de evaluar la calidad de la investigación. Los expertos han señalado que las estructuras de incentivos actuales en las instituciones de investigación no incentivan lo suficiente a los investigadores para invertir en solidez y transparencia y, en cambio, los incentivan a optimizar su aptitud en la lucha por publicaciones y subvenciones. En la última década, los estudios de replicación a gran escala han demostrado que la reproducibilidad está lejos de ser favorable en múltiples campos científicos, y aparece la prevalencia de prácticas de investigación cuestionables. Claramente algo no está funcionando en la empresa científica. … Read More →
Ciencia Abierta en las Humanidades
A raíz del evento Ciencia Abierta en las Humanidades, organizado por SciELO en colaboración con los representantes del Comité Asesor, Luiz Augusto Campos y Bernardo Buarque, se hace una breve descripción y balance de los principales ejes temáticos debatidos, destacando al final la importancia de diálogo entre los editores de las distintas subáreas, para establecer intercambios, aclarar dudas y resaltar fortalezas y debilidades en los desafíos de la implementación de la CA, de acuerdo con la consideración de las especificidades y diversidad de las revistas contempladas. … Read More →
Open Code Community: una plataforma abierta para compartir códigos de investigación
El intercambio de códigos de investigación es una realidad entre los miembros de la comunidad científica. Sin embargo, dicho intercambio suele estar restringido a los miembros de la propia academia. Aquí surge el proyecto Open Code Community, que busca integrar a los participantes académicos y del mercado en el intercambio de códigos de investigación. … Read More →
Cómo influye la retórica de la excelencia en la evaluación de la investigación
Las instituciones académicas publicitan sus programas de docencia e investigación asociados a posiciones destacadas en rankings universitarios o nombres que son sinónimo de éxito, prestigio y reputación. El término “excelencia” se usa a menudo para describirlos a ellos y a sus programas de investigación. Aquí se hace un análisis que muestra cómo la “retórica de la excelencia” se utiliza en el mundo académico y favorece la falta de reproducibilidad, el fraude y la distribución ineficaz de las ayudas a la investigación y propone estrategias para combatirlo. … Read More →
Comentarios recientes