Category: Análisis

Fábrica de artículos

Fotografía que muestra varios trozos de papel de colores triturado.

Las fábricas de artículos (paper mills) comenzaron a producir y vender grandes cantidades de artículos de baja calidad, con datos falsos o plagiados. Y, más recientemente, están tratando de atraer a los editores de revistas ofreciendo sumas generosas a cambio de una rápida aceptación de los artículos y ofreciendo editores y revisores cuestionables para números especiales. Read More →

La influencia de los sesgos implícitos en la adopción de los principios de DEIA

Collage formado por siluetas de bustos superpuestas sobre papel coloreado

La adhesión a los principios de diversidad, equidad, inclusión y accesibilidad (DEIA) se ha visto obstaculizada por sesgos implícitos, relacionados con la memoria implícita, que influye en las acciones y decisiones de manera inconsciente. Los avances implican compromiso institucional, cambio cultural, establecimiento de objetivos y desarrollo de estrategias operativas. Read More →

Publicación en Large Language Model (LLM) [Publicado originalmente en el blog Upstream en enero/2024]

Fotografía superpuesta de varios libros con las páginas dobladas en forma de avión sobre un fondo negro infinito.

El NYT dio la bienvenida al Año Nuevo con una demanda contra OpenAI y Microsoft. OpenAI y su patrocinador Microsoft habían robado, según el expediente, “millones de artículos de noticias protegidos por derechos de autor del Times, investigaciones en profundidad, artículos de opinión, reseñas, guías prácticas” y más, todo para entrenar los LLMs de OpenAI. Read More →

¿Es que la Inteligencia Artificial tiene alucinaciones?

Finalización de redes neuronales para "inteligencia artificial", como en DALL-E mini.

Las aplicaciones de IA han demostrado capacidades impresionantes, incluida la generación de respuestas muy fluidas y convincentes. Sin embargo, los LLM, chatbots y demás, son conocidos por su capacidad para generar declaraciones no objetivas o sin sentido, más comúnmente conocidas como “alucinaciones”. ¿Será que están drogados?
Read More →

Cómo reformular la publicación científica para hacer frente a la crisis de la revisión por pares

Imagen escaneada de un grupo de bacterias púrpuras sobre fondo negro.

El tiempo que transcurre entre el envío y la publicación de artículos en el campo de la microbiología ha ido aumentando en los últimos años. Además, los editores tienen que invitar cada vez a más revisores para identificar a quienes estén dispuestos a evaluar los manuscritos. ¿Qué implicaciones tienen estos hechos para la revisión por pares? Disponible en portugués. Read More →

¿Puede la IA hacer arbitrajes confiables de artículos científicos?

Imagen de dos pantallas superpuestas con palabras sobre fondo morado generada por Google DeepMind

El costo del arbitraje de las publicaciones científicas, tanto en dinero como en el tiempo que se le dedica, crece a proporciones inmanejables con los métodos actuales. Se impone usar la IA como un sistema de confianza y así liberar recursos humanos para tareas de investigación. Sería importante que SciELO incorporara progresivamente módulos de IA para la evaluación en su servidor de preprints como un nuevo avance y desarrollo de las tecnologías que maneja. Read More →

La comunidad científica publica (mucho) más y eso es un problema

Fotografía que muestra cuatro pilas de documentos que ocupan casi todo el espacio de la imagen. Al fondo se ve el techo.

Un estudio publicado en arXiv informa de un aumento exponencial del número de artículos científicos arbitrados publicados en los últimos años, desproporcionadamente superior al aumento del número de investigadores. La producción científica por investigador como autor, árbitro y editor ha aumentado de forma espectacular, un fenómeno denominado “presión sobre la publicación científica”, clasificado como un problema que hay que identificar y resolver. Disponible en portugués. Read More →

Investigación y comunicación científica, la IA y la legislación que se avecina

Pirámide de riesgos en la IA: en la base de la pirámide está el riesgo mínimo, por encima está el riesgo limitado, le sigue el riesgo alto y en la cúspide de la pirámide está el riesgo inaceptable.

¿Puede usarse la IA para generar “papers” terroristas, diseminar virus mortales o aprender a hacer bombas nucleares en su domicilio? ¿Hay legislación que pueda protegernos? Parece que la regulación internacional está en camino. Read More →

IA: Cómo detectar textos producidos por chatbox y sus plagios

Diagrama de plagio. El diagrama consiste en un dibujo de tres hojas de papel con texto, una al lado de la otra, seguidas debajo por una flecha roja que señala una hoja de papel con texto en la que algunas secciones están resaltadas en rojo.

Se consulta a la aplicación ChatGPT-3 sobre cuatro temas en discusión para la producción de textos académicos aceptables por los editores de las revistas científicas. A cada pregunta sigue la respuesta dada por la misma aplicación de OpenAI, y a continuación nuestra evaluación consultando fuentes recientes publicadas en Internet. Finalmente se presentan algunas reflexiones (humanas) que, como todas las cosas, están sujetas a discusión o cambios producidos por el avance de la tecnología. Read More →

ChatGPT y otras IA transformarán toda la investigación científica: reflexiones iniciales sobre usos y consecuencias – parte 2

Imagen de una formación coralina de color naranja y rosa, generada por Google DeepMind

En esta segunda parte de este ensayo, buscamos presentar algunos riesgos que surgen especialmente cuando se utiliza IA generativa en el campo científico y en el trabajo académico. Aunque ni siquiera todos los problemas están completamente mapeados, buscamos ofrecer reflexiones iniciales para apoyar y alentar el debate. Read More →

ChatGPT y otras IA transformarán toda la investigación científica: reflexiones iniciales sobre usos y consecuencias – parte 1

Imagen de la silueta de una cabeza humana formada por hilos de colores generada por Google DeepMind

Discutimos algunas posibles consecuencias, riesgos y paradojas en el uso de IA para la investigación, como posible deterioro de la integridad de la investigación, posibles modificaciones en la dinámica de producción de conocimiento y las relaciones centro-periferia en el entorno académico. Concluimos exigiendo un diálogo profundo sobre la regulación y la creación de tecnologías adaptadas a nuestras necesidades. Read More →

Inteligencia Artificial y comunicación de investigaciones

Acuarela de Alan Turing generada por Midjourney AI

¿Son realmente los chatbots autores de artículos científicos? ¿Pueden ser jurídicamente responsables y tomar decisiones éticas? ¿Qué dicen las sociedades científicas, los editores de revistas, las universidades? ¿Pueden incluirse sus resultados en artículos científicos originales? A partir de la contribución que presentamos hoy iremos publicando sucesivos posts que intentarán responder estas interrogantes y las nuevas que vayan surgiendo. Read More →

GPT, traducción automática y qué tan buenos son: una evaluación integral

Esquema que muestra la pirámide de la traducción directa y la traducción por transferencia.

Los modelos de inteligencia artificial generativos GPT han demostrado capacidades notables para la generación de lenguaje natural, pero su rendimiento para la traducción automática no ha sido investigado a fondo. Se presenta una evaluación exhaustiva de modelos GPT para la traducción automática, en comparación con los sistemas comerciales y de investigación más avanzados, incluyendo NMT, probado con textos en 18 idiomas. Read More →

Artículos no citados y dispersión de citas en la literatura científica

Mapa de cocitación elaborado por los autores con el software VOSviewer.

Cuestionando la ley de Bradford, cuya interpretación en bibliometría establece que la mayoría de las citas se concentran en unas pocas revistas y artículos, un estudio reciente destaca la importancia de los artículos no citados y su influencia en la concentración de citas. Para los autores, los artículos no citados deben incluirse en el análisis para proporcionar una comprensión más completa de los patrones de citas a lo largo del tiempo, las disciplinas y las regiones geográficas. Read More →

Reproducción & Replicación en investigación científica – parte 3

Captura de pantalla de la película Maniac (1934), de dominio público. Un personaje observa botellas de vidrio sobre una encimera.

La repoducibilidad y la replicabilidad son un tema central cuando se discute la confiabilidad de la investigación científica. El intento de un segundo investigador para replicar un estudio anterior es un esfuerzo para determinar si la aplicación de los mismos métodos a la misma pregunta científica produce resultados similares. Pero en las ciencias sociales y humanas no se manejan los mismos paradigmas. Read More →