{"id":5723,"date":"2025-02-05T15:00:04","date_gmt":"2025-02-05T18:00:04","guid":{"rendered":"https:\/\/blog.scielo.org\/es\/?p=5723"},"modified":"2025-04-30T11:08:40","modified_gmt":"2025-04-30T14:08:40","slug":"investigadores-brasilenos-lanzan-directrices-iag","status":"publish","type":"post","link":"https:\/\/blog.scielo.org\/es\/2025\/02\/05\/investigadores-brasilenos-lanzan-directrices-iag\/","title":{"rendered":"Investigadores brasile\u00f1os lanzan directrices para el uso \u00e9tico y responsable de la Inteligencia Artificial Generativa (IAG)"},"content":{"rendered":"

Rafael Cardoso Sampaio, Profesor de Pol\u00edtica, Universidad Federal de Paran\u00e1 (UFPR) y becario de productividad CNPq 1D, Curitiba, PR, Brasil<\/strong><\/p>\n

Marcelo Sabbatini, Profesor, Centro de Educaci\u00f3n y Programa de Postgrado en Educaci\u00f3n Matem\u00e1tica y Tecnol\u00f3gica, Universidad Federal de Pernambuco (UFPE), Recife, PE, Brasil<\/strong><\/p>\n

Ricardo Limongi, Profesor de Marketing e Inteligencia Artificial, Universidade Federal de Goi\u00e1s (UFG), Goi\u00e2nia, GO, y Editor Jefe de la revista Brazilian Administration Review<\/em> (BAR), Maring\u00e1, PR, Brasil<\/strong><\/p>\n

\"Portada<\/a>

Imagen: Editora Intercom<\/a>.<\/em><\/p><\/div>\n

En nuestro trabajo Diretrizes para o uso \u00e9tico e respons\u00e1vel da Intelig\u00eancia Artificial Generativa: um guia pr\u00e1tico para pesquisadores<\/a><\/em>,1<\/sup> lanzado por la editorial Sociedad Brasile\u00f1a de Estudios Interdisciplinarios de Comunicaci\u00f3n (Intercom) a finales de 2024, buscamos ofrecer una referencia s\u00f3lida para investigadores brasile\u00f1os en un contexto de creciente adopci\u00f3n de herramientas de Inteligencia Artificial Generativa (IAG).<\/p>\n

Dada la marcada ausencia de materiales similares, la premisa del trabajo es establecer par\u00e1metros para la incorporaci\u00f3n de esta tecnolog\u00eda en las pr\u00e1cticas de investigaci\u00f3n, contribuyendo como punto de partida para discusiones o en el avance de la cultura de la Inteligencia Artificial en las instituciones.<\/p>\n

La estructura del trabajo se basa en dos dimensiones complementarias: una vertiente normativa y una vertiente metodol\u00f3gica-operativa. En el \u00e1mbito regulatorio, establecemos principios como la transparencia metodol\u00f3gica \u2013 con \u00e9nfasis en la documentaci\u00f3n completa de los procesos automatizados \u2013, la preservaci\u00f3n de la autor\u00eda intelectual y la protecci\u00f3n contra la apropiaci\u00f3n inapropiada de datos por parte de sistemas propietarios internacionales.<\/p>\n

Buscamos enfatizar la centralidad de la agencia humana en los procesos de investigaci\u00f3n, como la elaboraci\u00f3n del marco te\u00f3rico-metodol\u00f3gico y el an\u00e1lisis interpretativo de resultados, e incluimos: comprensi\u00f3n de las herramientas IAG, autor\u00eda humana, transparencia, integridad de la investigaci\u00f3n acad\u00e9mica, plagio, originalidad y derechos de autor, preservaci\u00f3n de la agencia humana, uso guiado \u00e9ticamente y alfabetizaci\u00f3n en inteligencia artificial para investigadores.<\/p>\n

En la dimensi\u00f3n pr\u00e1ctica y metodol\u00f3gica, presentamos protocolos espec\u00edficos para desaf\u00edos recurrentes en la pr\u00e1ctica acad\u00e9mica contempor\u00e1nea. El trabajo propone metodolog\u00edas para mitigar sesgos ling\u00fc\u00edsticos en revisiones bibliogr\u00e1ficas automatizadas y criterios para evaluar la calidad textual en producciones asistidas por IA. Proponemos pautas para el tratamiento \u00e9tico de datos sensibles, incluyendo procedimientos de anonimizaci\u00f3n y validaci\u00f3n cruzada entre an\u00e1lisis humanos y computacionales.<\/p>\n

La segunda parte, de car\u00e1cter m\u00e1s pr\u00e1ctico, aborda actividades t\u00edpicas de la investigaci\u00f3n acad\u00e9mica, como la exploraci\u00f3n inicial de ideas, b\u00fasqueda de materiales acad\u00e9micos, lectura y resumen de materiales acad\u00e9micos, redacci\u00f3n, an\u00e1lisis y presentaci\u00f3n de resultados, programaci\u00f3n, transcripci\u00f3n, traducci\u00f3n y opiniones y evaluaciones, selecci\u00f3n, agentes de IA y, finalmente, la detecci\u00f3n de texto generado por IAG.<\/p>\n

Buscamos ilustrar los dilemas con ejemplos concretos presentados en la literatura cient\u00edfica y recogidos en nuestra experiencia con tribunales examinadores y grupos de investigaci\u00f3n. Por ejemplo, observamos que las revisiones de literatura asistidas por IA a menudo ignoran las fuentes brasile\u00f1as y se dirigen a art\u00edculos en ingl\u00e9s, incluso cuando se solicitan fuentes en portugu\u00e9s.<\/p>\n

Adem\u00e1s, pueden limitarse a art\u00edculos de acceso abierto, lo que no siempre refleja el estado del arte en un campo. Otro ejemplo relevante es el uso descuidado de chatbots<\/em> para escribir secciones metodol\u00f3gicas, lo que puede llevar a la producci\u00f3n de textos gen\u00e9ricos que no capturan la complejidad de los datos obtenidos.<\/p>\n

Nuestro trabajo tambi\u00e9n critica la falsa objetividad que propagan las herramientas de detecci\u00f3n de IA. Utilizando ejemplos pr\u00e1cticos, demostramos c\u00f3mo un software<\/em> como GPTZero<\/a> puede fallar al clasificar textos de investigadores que no son hablantes nativos de ingl\u00e9s o que adoptan estilos m\u00e1s concisos.<\/p>\n

En lugar de confiar ilimitadamente en estas herramientas, sugerimos identificar se\u00f1ales discretas de autor\u00eda artificial, como la falta de ejemplos emp\u00edricos o citas demasiado amplias. Al hacerlo, tambi\u00e9n recomendamos centrarnos en la creaci\u00f3n de una cultura de integridad acad\u00e9mica en la que la IAG surja como una herramienta.<\/p>\n

Adem\u00e1s de establecer pautas, nuestro libro1<\/sup> invita a la reflexi\u00f3n sobre el papel del IAG en la investigaci\u00f3n cient\u00edfica. Discutimos c\u00f3mo equilibrar las ganancias de eficiencia con la preservaci\u00f3n de la creatividad y el desarrollo de habilidades anal\u00edticas. Proponemos que la tecnolog\u00eda se integre en pasos m\u00e1s mec\u00e1nicos, como la revisi\u00f3n gramatical y la organizaci\u00f3n de referencias, preservando actividades cognitivas esencialmente humanas.<\/p>\n

Finalmente, destacamos, en primer lugar, la urgencia de establecer directrices institucionales brasile\u00f1as, ya que la falta de reglamentaci\u00f3n por parte del CNPq (Consejo Nacional para el Desarrollo Cient\u00edfico y Tecnol\u00f3gico) y de la CAPES (Fundaci\u00f3n para la Mejora del Personal de la Ense\u00f1anza Superior) expone a los investigadores a las pol\u00edticas inestables de empresas e instituciones internacionales.<\/p>\n

En segundo lugar, debido a la propia l\u00f3gica del mercado que alimenta a las empresas responsables de esos modelos, enfatizamos la importancia de crear modelos espec\u00edficos para la ciencia brasile\u00f1a, que corran en \u201cnubes soberanas\u201d y eviten que nuestros resultados m\u00e1s relevantes sean f\u00e1cilmente compartidos con esas corporaciones.<\/p>\n

Por lo tanto, la gu\u00eda no pretende constituirse como la \u00faltima palabra sobre un tema altamente complejo y en constante cambio, sino m\u00e1s bien hacer una invitaci\u00f3n a que universidades, revistas y agencias de financiamiento creen conjuntamente un marco regulatorio que proteja la integridad de la investigaci\u00f3n nacional. y al mismo tiempo abrazar conscientemente el potencial transformador de la IA generativa.<\/p>\n

El libro electr\u00f3nico (solo Portugu\u00e9s) se puede descargar gratuitamente en<\/h3>\n

https:\/\/www.portcom.intercom.org.br\/ebooks\/detalheEbook.php?id=57203<\/a><\/p>\n

Declaraci\u00f3n de uso de la inteligencia artificial generativa<\/h3>\n

Este texto fue preparado y corregido con la ayuda de DeepSeek<\/a><\/em> (v. 3), Claude<\/a><\/em> (Sonnet<\/em> versi\u00f3n 3.5) y MariTalk<\/a> (Sabi\u00e1 versi\u00f3n 3) en enero de 2025. Despu\u00e9s de utilizar estas herramientas, los autores revisaron y editaron el contenido de acuerdo con el m\u00e9todo cient\u00edfico y asume plena responsabilidad por el contenido de la publicaci\u00f3n.<\/p>\n

Nota<\/h3>\n

1. SAMPAIO, R.C., SABBATINI, M. and LIMONGI, R. Diretrizes para o uso \u00e9tico e respons\u00e1vel da Intelig\u00eancia Artificial Generativa: um guia pr\u00e1tico para pesquisadores. S\u00e3o Paulo: Editora Intercom, 2024. Available from: https:\/\/www.portcom.intercom.org.br\/ebooks\/detalheEbook.php?id=57203<\/a><\/p>\n

Referencia<\/h3>\n

SAMPAIO, R.C., SABBATINI, M. and LIMONGI, R. Diretrizes para o uso \u00e9tico e respons\u00e1vel da Intelig\u00eancia Artificial Generativa: um guia pr\u00e1tico para pesquisadores. S\u00e3o Paulo: Editora Intercom, 2024. Available from: https:\/\/www.portcom.intercom.org.br\/ebooks\/detalheEbook.php?id=57203<\/a><\/p>\n

Enlaces externos<\/h3>\n

Claude<\/a><\/p>\n

DeepSeek<\/a><\/p>\n

GPTZero<\/a><\/p>\n

MariTalk<\/a><\/p>\n

 <\/p>\n

Traducido del original en portugu\u00e9s<\/a> por Ernesto Spinak.<\/p>\n","protected":false},"excerpt":{"rendered":"

Investigadores brasile\u00f1os lanzan gu\u00eda in\u00e9dita sobre el uso \u00e9tico y responsable de la IAG en la investigaci\u00f3n que integran principios normativos y ejemplos para promover la transparencia, la autor\u00eda humana y la protecci\u00f3n de datos no publicados o sensibles, adem\u00e1s del cuidado de la integridad acad\u00e9mica y los sesgos en los diferentes usos en la investigaci\u00f3n acad\u00e9mica. …<\/span> Read More →<\/span><\/a><\/span><\/p>\n","protected":false},"author":124,"featured_media":5727,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"om_disable_all_campaigns":false,"_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"footnotes":"","_links_to":"","_links_to_target":""},"categories":[2],"tags":[7,47,78],"class_list":["post-5723","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-noticias","tag-comunicacion-cientifica","tag-difusion-de-la-informacion","tag-inteligencia-artificial"],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/blog.scielo.org\/es\/wp-json\/wp\/v2\/posts\/5723","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/blog.scielo.org\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blog.scielo.org\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blog.scielo.org\/es\/wp-json\/wp\/v2\/users\/124"}],"replies":[{"embeddable":true,"href":"https:\/\/blog.scielo.org\/es\/wp-json\/wp\/v2\/comments?post=5723"}],"version-history":[{"count":4,"href":"https:\/\/blog.scielo.org\/es\/wp-json\/wp\/v2\/posts\/5723\/revisions"}],"predecessor-version":[{"id":5749,"href":"https:\/\/blog.scielo.org\/es\/wp-json\/wp\/v2\/posts\/5723\/revisions\/5749"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/blog.scielo.org\/es\/wp-json\/wp\/v2\/media\/5727"}],"wp:attachment":[{"href":"https:\/\/blog.scielo.org\/es\/wp-json\/wp\/v2\/media?parent=5723"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blog.scielo.org\/es\/wp-json\/wp\/v2\/categories?post=5723"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blog.scielo.org\/es\/wp-json\/wp\/v2\/tags?post=5723"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}