{"id":5742,"date":"2025-04-30T11:00:44","date_gmt":"2025-04-30T14:00:44","guid":{"rendered":"https:\/\/blog.scielo.org\/es\/?p=5742"},"modified":"2025-04-30T10:46:57","modified_gmt":"2025-04-30T13:46:57","slug":"chatbots-de-ia-y-simulacion-de-dialogo-que-dice-la-teoria-bajtiniana","status":"publish","type":"post","link":"https:\/\/blog.scielo.org\/es\/2025\/04\/30\/chatbots-de-ia-y-simulacion-de-dialogo-que-dice-la-teoria-bajtiniana\/","title":{"rendered":"Chatbots<\/em> de IA y simulaci\u00f3n de di\u00e1logo: \u00bfQu\u00e9 dice la teor\u00eda bajtiniana?"},"content":{"rendered":"

Por Ives da Silva Duque-Pereira y S\u00e9rgio Arruda de Moura<\/strong><\/p>\n

Mi \u201camigo\u201d, el Robot<\/h3>\n
\"Imagen<\/a>

Imagen: kuu akura via Unsplash<\/a>.<\/em><\/p><\/div>\n

Vivimos en una \u00e9poca en la que hablar con una m\u00e1quina se ha convertido en algo rutinario en la vida de muchas personas, trayendo consigo una serie de implicaciones agravadas por la tendencia a antropomorfizar las herramientas. Ya sea pidiendo ayuda para resolver un problema, el consejo de un amigo, escribiendo un texto o respondiendo preguntas acad\u00e9micas, los chatbots<\/em> de Inteligencia Artificial Generativa (GAI) ya est\u00e1n entre nosotros, y a menudo nos responden con una fluidez impresionante. Pero \u00bfhablar con un chatbot<\/em> es lo mismo que tener un di\u00e1logo? Como docente e investigador de Educaci\u00f3n B\u00e1sica, me pregunto: \u00bfqu\u00e9 est\u00e1 sucediendo realmente en las interacciones entre los estudiantes y los chatbots<\/em> de Inteligencia Artificial Generativa?<\/p>\n

Esta pregunta nos llev\u00f3 a mirar estos sistemas de inteligencia artificial (IA) a trav\u00e9s de la lente del lenguaje. M\u00e1s precisamente, de la filosof\u00eda del lenguaje de Mija\u00edl Bajt\u00edn, pensador ruso que dedic\u00f3 buena parte de su obra a comprender c\u00f3mo se construye el significado en la relaci\u00f3n entre las voces de un discurso.<\/p>\n

\u00bfMuchas voces y ninguna agencia?<\/h3>\n

Para Bajt\u00edn, todo discurso es, por naturaleza, un di\u00e1logo. Incluso cuando escribimos un texto solos, estamos respondiendo a algo: a otras ideas, a otros autores, a una situaci\u00f3n. Es como si cada discurso se colocara en un gran r\u00edo de declaraciones, fluyendo y entrelaz\u00e1ndose con lo que ya se ha dicho y lo que est\u00e1 por venir.<\/p>\n

\u00bfPero qu\u00e9 pasa cuando este discurso proviene de un chatbot<\/em>? Aparentemente ah\u00ed hay una respuesta, una interacci\u00f3n. El lenguaje fluye, los estilos var\u00edan, el vocabulario se adapta. Pero cuando miras m\u00e1s de cerca, algo se rompe. No hay conciencia, ninguna intencionalidad humana aparente ni historia de vida que respalde esa respuesta. Lo que vemos es una performance: una simulaci\u00f3n de di\u00e1logo producida por un algoritmo.<\/p>\n

Y eso es precisamente lo que nos hizo pensar en lo que llamamos monologismo algor\u00edtmico. Un t\u00e9rmino que nos ayuda a describir lo que sucede cuando una IA simula muchas voces, pero todas pasan por el mismo filtro de algoritmo, entrenado para evitar conflictos, equilibrar los lados y ofrecer un discurso \u201cseguro\u201d que responde como se espera. Aunque parecen estar dialogando, estos sistemas de IA operan bajo una l\u00f3gica centralizadora, que simula una multiplicidad de voces, pero las uniformiza en respuestas estandarizadas, conciliadoras y carentes de conflicto real.<\/p>\n

Mientras que Bajt\u00edn ve\u00eda el di\u00e1logo como un encuentro entre conciencias sociales concretas, cada una con su lugar en el mundo, los chatbots<\/em> simplemente escenifican esta alteridad. Al final, tenemos una conversaci\u00f3n que parece una, pero que en esencia est\u00e1 organizada por un centro unificador que silencia las diferencias reales.<\/p>\n

Los chatbots<\/em> como ChatGPT pueden variar bastante sus estilos \u2014 (usan jerga, t\u00e9rminos t\u00e9cnicos, emojis, citas) \u2014 y esto puede incluso recordar el concepto bajtiniano de heteroglosia, esta mezcla de lenguajes sociales que componen el discurso. Sin embargo, es necesario ir m\u00e1s all\u00e1 de la superficie y preguntar si estas voces est\u00e1n ah\u00ed por elecci\u00f3n consciente o son simplemente reproducciones pegadas, sin agencia, sin conflicto, sin tensi\u00f3n.<\/p>\n

En la pr\u00e1ctica, lo que a menudo tenemos es una especie de polifon\u00eda controlada. El chatbot<\/em> presenta diferentes puntos de vista, pero todos conciliados en una misma respuesta. Ninguna voz interrumpe, provoca, desestabiliza. Todo termina en armon\u00eda. Pero el verdadero di\u00e1logo, como recordaba Bajt\u00edn, surge precisamente del choque, del encuentro con el otro en su diferencia.<\/p>\n

\u00bfQu\u00e9 tiene esto que ver con la ciencia y la educaci\u00f3n?<\/h3>\n

Todo. Si el lenguaje es la base para la construcci\u00f3n del conocimiento, debemos preguntarnos qu\u00e9 tipo de discurso estamos fomentando cuando utilizamos estas herramientas en la educaci\u00f3n, la investigaci\u00f3n y la producci\u00f3n de conocimiento. Un chatbot<\/em> que ofrece respuestas \u201cneutrales\u201d puede parecer eficiente, pero tambi\u00e9n puede acostumbrarnos a una l\u00f3gica de respuestas \u00fanicas, de verdades planas, de consensos nunca debatidos.<\/p>\n

Aqu\u00ed es donde la alfabetizaci\u00f3n cr\u00edtica en IA se vuelve urgente. No basta con saber utilizar la IA para \u201cahorrar tiempo\u201d, \u201caumentar la productividad\u201d, \u201casistir\u201d o \u201cautomatizar\u201d tareas. Necesitamos saber leer con ojo cr\u00edtico las respuestas que nos da y preguntarnos \u00bfde d\u00f3nde vienen esas ideas? \u00bfA qui\u00e9n se cita? \u00bfQu\u00e9 se est\u00e1 dejando fuera? \u00bfQu\u00e9 valores est\u00e1n impl\u00edcitos en esta manera de responder?<\/p>\n

El modelo que proponemos eval\u00faa cualitativamente las respuestas dadas por un chatbot<\/em> (GPT-4.5) utilizando los conceptos de Bajt\u00edn. Como ejemplo, analizamos las respuestas a preguntas sobre temas escolares, desde \u201cc\u00f3mo lidiar con la indisciplina\u201d hasta \u201cqu\u00e9 fueron las revoluciones industriales\u201d. Analizamos la estructura, los estilos del lenguaje, los valores impl\u00edcitos y el tipo de interacci\u00f3n que se promueve.<\/p>\n

Observamos que incluso cuando el chatbot<\/em> simula diferentes puntos de vista, sus respuestas tienden a ser conciliadoras, consensuadas y libres de conflicto. Esto genera lo que llamamos di\u00e1logo simulado, ya que no hay una confrontaci\u00f3n real de ideas, s\u00f3lo una superficie aparentemente dial\u00f3gica, con simulaci\u00f3n polif\u00f3nica.<\/p>\n

Uno de los efectos m\u00e1s preocupantes es la homogeneizaci\u00f3n del discurso. Cuando un chatbot<\/em> siempre responde intentando complacer, evitar la controversia y presentar todos los lados \u201cpor igual\u201d, nos impide ver el conflicto, la desigualdad y las narrativas disputadas que conforman el mundo real. En lugar de provocar el pensamiento, lo formula en una respuesta educada. Y esto puede ser peligroso, especialmente en la escuela y la universidad, espacios que deber\u00edan fomentar el pensamiento cr\u00edtico.<\/p>\n

Los chatbots<\/em> tienden a reforzar las voces dominantes y excluir el conocimiento perif\u00e9rico, la cr\u00edtica radical y las opiniones alternativas. Con ello crean la sensaci\u00f3n de que s\u00f3lo existe una manera de pensar, un consenso \u201cnatural\u201d, cuando, en realidad, la ciencia y la educaci\u00f3n avanzan precisamente a trav\u00e9s del conflicto de ideas, a trav\u00e9s de la diversidad de perspectivas.<\/p>\n

IA, discurso y ciencia: \u00bfqui\u00e9n habla detr\u00e1s de la m\u00e1quina?<\/h3>\n

M\u00e1s que dominar las herramientas, necesitamos reconocer los l\u00edmites de lo que pueden (o no) decirnos. Necesitamos metodolog\u00edas que analicen profundamente estos discursos, que entiendan que detr\u00e1s de cada respuesta aparentemente neutral, hay decisiones, ideolog\u00edas, patrones y omisiones.<\/p>\n

Creemos que necesitamos cada vez m\u00e1s metodolog\u00edas anal\u00edticas cr\u00edticas para investigar los impactos de la IA en el lenguaje, la educaci\u00f3n y la ciencia. El modelo de an\u00e1lisis que proponemos est\u00e1 lejos de ser definitivo, pero es una contribuci\u00f3n que esperamos sea recibida como un intento de ofrecer un camino metodol\u00f3gico que no romantice la tecnolog\u00eda, pero tampoco la demonice. Busca entender el discurso de la IA como un fen\u00f3meno social, ideol\u00f3gico y situado \u2014y, por tanto, analizable con las herramientas de las ciencias humanas\u2014.<\/p>\n

La IA puede, sin duda, ser un aliado, siempre que la tratemos con la misma seriedad y criticidad que le damos a cualquier otra fuente de discurso. Despu\u00e9s de todo, el hecho de que una respuesta provenga de una m\u00e1quina no significa que est\u00e9 fuera de la pol\u00edtica, la ideolog\u00eda o el contexto social.<\/p>\n

Al articular la teor\u00eda de Bajt\u00edn con el an\u00e1lisis de sistemas como ChatGPT, argumentamos que no hay discurso sin ideolog\u00eda. Incluso si un chatbot<\/em> parece neutral, sus respuestas est\u00e1n determinadas por selecciones humanas previas: de datos, par\u00e1metros y filtros. Surge entonces la necesidad de preguntarnos \u00bfqui\u00e9n habla a trav\u00e9s de la IA? \u00bfQu\u00e9 voces amplifica? \u00bfQu\u00e9 silencia?<\/p>\n

Para el campo de la comunicaci\u00f3n cient\u00edfica, este an\u00e1lisis abre caminos para pensar cr\u00edticamente sobre el uso de herramientas algor\u00edtmicas en los procesos editoriales, pr\u00e1cticas de escritura, evaluaci\u00f3n de manuscritos y producci\u00f3n de conocimiento. La IA puede ser un aliado, pero s\u00f3lo si se entiende dentro del tejido ideol\u00f3gico, discursivo y pol\u00edtico que la constituye.<\/p>\n

Para leer el preprint, vaya a<\/h3>\n

DUQUE-PEREIRA, I.S. and MOURA, S.A. Monologismo Algor\u00edtmico e Dialogismo Simulado: uma an\u00e1lise bakhtiniana do discurso mediado por chatbots de IA. SciELO Preprints<\/em> [online]. 2025 [viewed 30 April 2025]. https:\/\/doi.org\/10.1590\/SciELOPreprints.11590<\/a>. Available from: https:\/\/preprints.scielo.org\/index.php\/scielo\/preprint\/view\/11590<\/a><\/p>\n

 <\/p>\n

Sobre Ives da Silva Duque Pereira\"Fotograf\u00eda<\/a><\/h3>\n

Ives da Silva Duque Pereira es estudiante de doctorado en el Programa de Postgrado en Cognici\u00f3n y Lenguaje de la Universidad Estadual Darcy Ribeiro del Norte Fluminense (UENF). Profesor vinculado a la Secretar\u00eda de Educaci\u00f3n del Estado de R\u00edo de Janeiro (SEEDUC-RJ) y a la Fundaci\u00f3n de Apoyo a la Escuela T\u00e9cnica (FAETEC)<\/p>\n

 <\/p>\n

Sobre S\u00e9rgio Arruda de Moura\"Fotograf\u00eda<\/a><\/h3>\n

S\u00e9rgio Arruda de Moura es profesor del Programa de Posgrado en Cognici\u00f3n y Lenguaje de la Universidad Estadual Darcy Ribeiro del Norte Fluminense (UENF).<\/p>\n

 <\/p>\n

Traducido del original en portugu\u00e9s<\/a> por Ernesto Spinak.<\/p>\n","protected":false},"excerpt":{"rendered":"

Se propone un modelo para el an\u00e1lisis discursivo de las interacciones con chatbots<\/em> de IA a la luz de los conceptos bajtinianos en el que se observa una polifon\u00eda controlada, donde todas las voces se reconcilian en un \u201cdi\u00e1logo simulado\u201d que puede empobrecer el pensamiento cr\u00edtico. Defendemos la urgencia de la alfabetizaci\u00f3n en IA considerando sus implicaciones ideol\u00f3gicas, pol\u00edticas y educativas. …<\/span> Read More →<\/span><\/a><\/span><\/p>\n","protected":false},"author":126,"featured_media":5744,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"om_disable_all_campaigns":false,"_monsterinsights_skip_tracking":false,"_monsterinsights_sitenote_active":false,"_monsterinsights_sitenote_note":"","_monsterinsights_sitenote_category":0,"footnotes":"","_links_to":"","_links_to_target":""},"categories":[3],"tags":[71,78,56],"class_list":["post-5742","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-analisis","tag-divulgacion-cientifica","tag-inteligencia-artificial","tag-preprint"],"aioseo_notices":[],"_links":{"self":[{"href":"https:\/\/blog.scielo.org\/es\/wp-json\/wp\/v2\/posts\/5742","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/blog.scielo.org\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blog.scielo.org\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blog.scielo.org\/es\/wp-json\/wp\/v2\/users\/126"}],"replies":[{"embeddable":true,"href":"https:\/\/blog.scielo.org\/es\/wp-json\/wp\/v2\/comments?post=5742"}],"version-history":[{"count":3,"href":"https:\/\/blog.scielo.org\/es\/wp-json\/wp\/v2\/posts\/5742\/revisions"}],"predecessor-version":[{"id":5748,"href":"https:\/\/blog.scielo.org\/es\/wp-json\/wp\/v2\/posts\/5742\/revisions\/5748"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/blog.scielo.org\/es\/wp-json\/wp\/v2\/media\/5744"}],"wp:attachment":[{"href":"https:\/\/blog.scielo.org\/es\/wp-json\/wp\/v2\/media?parent=5742"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blog.scielo.org\/es\/wp-json\/wp\/v2\/categories?post=5742"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blog.scielo.org\/es\/wp-json\/wp\/v2\/tags?post=5742"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}