(Gloto)politizar la inteligencia artificial generativa: ¿qué lengua reproducen los modelos de lenguaje?

Victoria Scotto

El protagonismo social, político, económico y académico que ha cobrado la inteligencia artificial generativa (IAGen) en los últimos años es tan innegable como disruptivo. El desarrollo que impulsó este carácter disruptivo es el procesamiento de lenguaje natural: diversas técnicas que permiten, hoy, que un programa computacional interprete y genere texto en diversas lenguas humanas sin intervención constante de seres humanos. Hay un hecho, sin embargo, que no suele tener tanto protagonismo en la conversación sobre IAGen: el material gracias al cual se entrenaron los grandes modelos de lenguaje (large language models), los que permiten el funcionamiento de los populares chatbots como ChatGPT, Gemini, Copilot y Claude en sus distintas versiones, es la ingente cantidad de textos publicados en internet desde su masificación a principios del siglo: textos disponibles de forma abierta, en su amplia mayoría en inglés1, producidos por un número incalculable de periodistas, escritores, investigadores, docentes y estudiantes, que fue recolectado y, en muchos casos en contra de la expresa voluntad de sus autores, copiado, adaptado y utilizado con fines comerciales (Gervais et al. 2024, Roose 2024). Esta base textual es la condición material necesaria para el desarrollo del procesamiento de lenguaje natural en general y de la IAGen en particular, y es, por lo tanto, el material que permitió este estallido de la inteligencia artificial, un nuevo estadio de la perpetua centralidad de los textos en la vida humana, desde el comienzo de la Historia, a la modernidad con la imprenta, hasta el tecnoceno, los textos digitales y la inteligencia artificial (Scotto 2022).

Sin embargo, la expresión actual de esta centralidad del texto debe ser mediada con una salvedad técnica. El material textual, para que sea útil a los efectos del entrenamiento de modelos, debe sufrir una serie de procesos que lo conviertan, básicamente, en una base de datos: a estos procesos se los denomina «normalización de texto». Un texto «normalizado» (Jurafsky 2023) supone su tokenización, la normalización de palabras y la segmentación de sus oraciones. La tokenización consiste en segmentar un texto en palabras o partes de palabras (que pueden coincidir o no con morfemas) y que se diferencian entre sí no solo por significado sino también por el rol que cumplen en una oración: por ejemplo, no tienen el mismo token las palabras «atardecer» y «Atardecer», porque la primera puede recibir diversos roles en una oración o ubicarse en diferentes posiciones, pero la segunda únicamente aparecerá al comienzo o como un nombre propio; a la vez, la palabra «río» recibe un solo token a pesar de tener dos significados diferentes, la primera persona del presente del verbo reír y el cuerpo de agua que siempre corre hacia un mar; también reciben tokens los signos de puntuación y los espacios en blanco. Es importante luego asociar algunos tokens como semánticamente equivalentes (como el ejemplo de «atardecer» y «Atardecer», pero también «pudiera» y «pudiese», por ejemplo): a esto se lo denomina normalización de palabras. Entonces, la tokenización implica tomar esos segmentos, que pueden estar vinculados a un solo significado o no, y se los representa con un número, convirtiendo a un texto en sucesiones numéricas pasibles de ser interpretadas por una computadora. Finalmente, la segmentación en oraciones utiliza signos de puntuación para reunir tokens comprendidos dentro de los límites de una oración y busca compatibilidad entre la suma de los tokens de la oración y otros tokens equivalentes semánticamente, en un proceso que, de ser humano quien lo realiza, entenderíamos como «leer».

Ese proceso, sin embargo, no alcanza a explicar cómo genera texto un modelo de lenguaje. ¿Cómo es capaz de mostrar respuestas aparentemente coherentes a preguntas que ingresamos en el recuadro destinado a las intervenciones de cada usuario? El procedimiento básico es el de predicción de la siguiente palabra más probable: como un teclado predictivo, el modelo analiza qué palabra es estadísticamente más adecuada en función del texto (sucesión de tokens) que fueron ingresados como datos de entrada. Por esto, para generar texto, un modelo de lenguaje analizará el texto ingresado («Escribí el comienzo de un cuento de hadas») y predecirá, en función de las miles de millones de oportunidades en que un token se ha encontrado asociado a otros, que debe responder de una forma determinada («Un comienzo de un cuento de hadas puede ser el siguiente: había una vez…»). Esto implica que por más que parezca que hay una consciencia que razona, aunque se asemejen a las respuestas de alguien que nos lee, detrás de una IAGen únicamente hay un entrenamiento con todos los textos que alguna vez las personas que escribimos en internet hemos publicado y que fueron descompuestos en asociaciones estadísticas. Y, como afirma Farhang Erfani en su trabajo sobre las funciones políticas de la IA (2026), la base material y técnica que sostiene el funcionamiento de esta tecnología expresa ideología escondiéndola en plena vista.

El principal dispositivo que permite el ocultamiento de la ideología es, sin lugar a dudas, la dimensión técnica de la IAGen. Al tratarse de un desarrollo tecnológico digital, un producto de la aplicación matemática y estadística al procesamiento de texto humano, los modelos de lenguaje pueden ser percibidos como un dispositivo neutro, una mera herramienta de análisis u observación de la realidad objetiva. La «tesis de la neutralidad», como la llaman Lauwaert y Chomanski (2025: 2), ha tomado diferentes formas en los últimos siglos; una de sus expresiones más recientes y cercanas disciplinariamente a este trabajo fue la intervención de Noam Chomsky en su conferencia de 2012 sobre el rol de la educación, en la que afirmó que

la tecnología es básicamente neutral: es algo así como un martillo. Quiero decir, al martillo no le importa si lo usás para construirle una casa a alguien o si un torturador lo usa para romperle la cabeza a alguien. El martillo puede hacer las dos cosas. Lo mismo sucede con la tecnología moderna, internet, y demás (Chomsky 2012: s/p)2.

La intención de Chomsky al explicar esto es argumentar en favor de utilizar la tecnología con un propósito claro, pero la analogía es clara y potente; podemos entonces preguntarnos si es válida también para la IA, si la IA es, efectivamente, un martillo capaz de construir una casa para las lenguas, una nueva torre de Babel que nos proteja, con la humana técnica de la estadística, de la mutua incomprensión.

Kate Crawford, por su parte, en su Atlas of AI. Power, Politics, and the Planetary Costs of Artificial Intelligence (2021) argumenta larga y enfáticamente que la inteligencia artificial no es una herramienta neutra: «la IA consiste en prácticas técnicas y sociales, instituciones e infraestructuras, política y cultura. El razonamiento computacional y la fuerza física de trabajo están íntimamente vinculadas: los sistemas de IA reflejan y producen relaciones sociales y concepciones del mundo» (Crawford 2021: 17)3. Sin embargo, el discurso en torno a la IAGen y a los procedimientos técnicos frecuentemente son vagos o metafóricos: si un modelo de lenguaje no es un modelo estadístico predictivo sino una inteligencia artificial (y en tanto artificial, es valorativamente neutra) entonces será usada con confianza (porque es inteligente) y pretendiendo su objetividad (pues es artificial y por lo tanto no-natural, no-humana). Crawford afirma, en este sentido, que «las estructuras de poder en la intersección entre tecnología, capital y gobernanza se benefician en un alto grado por este análisis estrecho y abstracto. Para entender cómo la IA es fundamentalmente política es necesario ir más allá de las redes neuronales y el reconocimiento estadístico de patrones para, en su lugar, preguntar qué está siendo optimizado y para quién, y quién así lo decide» (Crawford 2021: 18)4. El foco puesto, hacia el final de la cita, en los quiénes permite resaltar, precisamente, el problema político que supone la concepción de la IA como una herramienta neutral: si es desarrollada y permanentemente modificada por individuos al servicio de intereses privados o corporativos, es difícil pretender su neutralidad, o al menos su abstracción de ideologías. Porque un martillo hará aquello que la persona que lo usa desea que haga, y en caso de accidentes será su usuario la persona responsable por las consecuencias, como sucede con los cuchillos o los automóviles, mientras que quienes utilizamos IAGen no solo no conocemos ni podemos conocer los mecanismos que operan detrás de los modelos, sino que además frecuentemente producen resultados indeseados, impredecibles y sobre los que tienen mucho más control las empresas que los regulan y desarrollan que sus usuarios.

Si con Crawford, entonces, sostenemos la idea de que la IA no se trata de una herramienta neutra, es posible señalar también el carácter ideológico de la representación de las lenguas en las que generan texto automáticamente los diferentes modelos de lenguaje que se utilizan en la actualidad. Si la lengua es representación estadística generada a partir de los textos que entrenaron esos modelos, entonces esa lengua solo será representativa de la lengua utilizada en esa serie de textos contenidos en determinadas bases de datos, pero no serán representativos de las lenguas de cualquier otra comunidad; de la misma forma, diferentes expresiones propias de dialectos no representados en los corpus de entrenamiento no tendrán lugar en los textos generados por modelos de lenguaje. Toda reproducción producto de la estadística, entonces, tenderá a reproducir a su vez desigualdades de representación de la diversidad lingüística, en la medida en la que la distribución cuantitativa favorezca las lenguas estandarizadas. En muchos casos, esta falta de representatividad incluso atenta contra los propósitos comunicativos, ideológicos, políticos de los textos que alimentaron esos modelos; tesis doctorales desarrolladas en favor de la diversidad lingüística fueron utilizadas para entrenar modelos que únicamente las interpretan en términos de las coocurrencias de sus tokens, y por lo tanto serán utilizadas para reproducir la lengua en la que están escritas, con poca o nula atención a sus posicionamientos teóricos o políticos.

En este sentido, es posible observar que la percepción del potencial y las promesas que parecen mostrar los modelos de lenguaje no ofrecen resultados uniformes a la totalidad de los hablantes de las lenguas: existen ya varios estudios que muestran las particulares limitaciones que presentan los modelos disponibles en el mercado, específicamente en lo relativo a contemplar y reproducir la diversidad lingüística en el discurso que producen, pero también en el que interpretan. Ofreceremos aquí dos ejemplos: Vilar y Salerno, en su trabajo de 2025, exponen los resultados de un experimento realizado en ChatGPT-4 y Gemini en el que se propusieron analizar el rendimiento de estos chatbots en el reconocimiento y reproducción de la variedad rioplatense del español. Los resultados muestran que en sus interacciones los chatbots no parecen tener un entrenamiento sistémico en el reconocimiento de distintas variedades actuales del español, y las autoras concluyen que «los chatbots pueden perpetrar la discriminación lingüística a partir de la reproducción de inequidades estructurales de nuestra sociedad» (Vilar y Salerno 2025: 284). Por otra parte, el trabajo de Guo, Shang, Vazirgiannis y Clavel (2024) presenta un análisis cuantitativo de diversidad léxica y semántica de los productos de un modelo de lenguaje; los autores demostraron que, cuando un modelo de lenguaje se entrena tanto con conjuntos de datos reales (es decir, generados por humanos), como con textos generados por modelos, la creatividad y la innovación semántica y sintáctica disminuyen significativamente. Ambos trabajos colaboran con mostrar en términos objetivos la tendencia de estos modelos a reproducir apenas una lengua, un monolingüismo particular que todavía es preciso caracterizar, pero que se presenta a través de una neutralidad estadística que, como explica Crawford, enmascara viejas disputas de poder detrás de nuevas interfaces técnicas.

Del mismo modo, los resultados del trabajo de Guo, Shang, Vazirgiannis y Clavel (2024) sugieren otra limitación de los modelos de lenguaje en lo relacionado con la innovación: si los textos que predice automáticamente un modelo de lenguaje se generan a partir de las asociaciones entre términos que ya han sido utilizadas con anterioridad, el lugar para la creación de nuevas asociaciones se restringe. Esto implica que cada vez que creamos texto basándonos en un modelo de lenguaje estaremos creando texto nuevo en base únicamente a lo que ya se ha publicado específicamente en internet. Como hablantes de la lengua, entonces, corremos el riesgo de dejar que nuevos textos, nuevas ideas y nuevas asociaciones sean nada más que una recombinación de asociaciones pasadas; la influencia que tienen las herramientas de IAGen en nuestra escritura debería ser entendida, entonces, como una influencia de carácter regresivo. En este punto, del mismo modo que Crawford desafía la caracterización de «inteligente» y de «artificial», nos atreveremos aquí a postular que los modelos de lenguaje tampoco responden a una operatoria «generativa»: si apenas predicen tokens en relación con textos procesados anteriormente, una caracterización más precisa implica que es predictiva o, más específicamente, reproductiva. Como un «loro estocástico» (Bender et al. 2021), un modelo de lenguaje regurgita texto que es producto directo del discurso producido y publicado siempre en un tiempo pasado.

Este proceso de reproducción de una forma particular de cada lengua es uno de los puntos más importantes si conducimos un análisis glotopolítico de las lenguas: un poco más atrás en este texto apareció el término lenguas estandarizadas, evocando un problema glotopolítico de larga data. Una lengua estandarizada es «la variedad resultante del proceso de codificación, la cual goza del prestigio social que le confieren su tradición literaria, la posesión de un código escrito, y su uso y adquisición en los ámbitos educativos, así como su difusión en los medios masivos de comunicación» (Lauria y López García 2009: 54). En este sentido, la mera circulación de los textos generados por diferentes herramientas de IAGen no parece suficiente para asumir que estas generarán una forma de estandarización: se requeriría un proceso de codificación, un prestigio social específico sostenido en la organización y reproducción de sus reglas, así como su enseñanza en contextos educativos.

Sin embargo, podemos afirmar que estos modelos sí replican la ideología de la lengua estándar (Rivero y Yin 2025). Uno de los elementos centrales en el proceso de estandarización es el prestigio social que portan las diferentes herramientas de codificación (gramáticas, diccionarios, manuales), prestigio que en este momento es fácilmente atribuible a los modelos de lenguaje (Erfani 2025). Evidentemente, dos de los motivos de la percepción del alto valor de los modelos de lenguaje son su eficiencia y su neutralidad; la neutralidad proviene de la percepción de su artificialidad y la dimensión técnica de su diseño, como ya hemos observado con Kate Crawford. La percepción de eficiencia, aunque sostenida parcialmente en el desempeño real que muestran, también se convierte, en muchas ocasiones, en una «imagen mística que excede en mucho las capacidades tecnológicas» de las herramientas de IAGen (Liu 2025). El prestigio colabora con la alta circulación de las lenguas que están representadas en los modelos de lenguaje, y la notoria integración de herramientas de IA en diversos sistemas educativos (como lo muestran las revisiones sistemáticas de Peláez-Sánchez et al. 2024, De la Torre y Baldeon-Calisto 2024, Denegri-Velarde et al. 2024, Acevedo Carrillo et al. 2025 y González Argote et al. 2025) sugiere una creciente permeabilidad del discurso escolar y universitario a la forma de escritura que reproduce esta tecnología: cabe preguntarse, entonces, si percibimos o percibiremos que los modelos tecnológicos, con su escritura de sintaxis llana y plagados de enumeraciones son los que «escriben bien» o «traducen bien», como sugiere Lidia Becker en su trabajo sobre lenguaje claro (2023).

La posibilidad de construcción de un nuevo estándar de corrección o de aceptabilidad de los textos alimentado por el prestigio que portan los modelos de lenguaje puede constituir una nueva forma de ejercicio de poder. El proceso de normalización del texto, que se alimenta de una tradición literaria y científica extraordinariamente diversa, despoja a las producciones de sujetos sociales de su poder discursivo y los convierte en bases de datos de frecuencia de asociaciones de palabras: es, por ello, una forma de descomposición del significado pragmático de los textos al servicio de la reproducción de una lengua tan percibida como neutra como técnicamente manipulable. En un contexto en el que las empresas que desarrollaron y perfeccionan los modelos de lenguaje tienen el control para obturar determinadas respuestas y reorientar discursos con propósitos políticos específicos (Bussaja 2025) y la replicación de sesgos amenaza los usos menos maliciosos de la IAGen, nos preguntamos si no hay un riesgo intrínseco en el uso de estas herramientas para la escritura en la medida en la que no esté mediado por una impugnación hacia las ideologías lingüísticas que reproducen. Pasquinelli y Joler explican claramente los motivos de estos riesgos:

Todos los modelos están equivocados, pero algunos son útiles — el dicho canonizado del estadista británico George Box ha encapsulado por mucho tiempo las limitaciones lógicas del aprendizaje estadístico y automático (Box 1979). Esta máxima, sin embargo, frecuentemente es utilizada para legitimar los sesgos de la IA corporativa y estatal. (…) Dentro de este argumento, se repite retóricamente que «el mapa no es el territorio». Suena razonable. Pero lo que debería ser discutido es que la IA es un mapa del territorio fuertemente comprimido y distorsionado, y este mapa, como muchos productos de la automatización, no está abierto a negociación con las comunidades. La IA es un mapa del territorio sin acceso ni consenso por parte de la comunidad (Pasquinelli y Joler 2021: 1270-1271)5.

El ideario de esta IAGen monoglósica como una herramienta neutra que reproduce lenguas de forma objetiva, y que representa el parámetro de la eficiencia para la generación de textos que emulen lo que está «bien dicho» (López García 2023), requiere, para ser fracturado, un enfoque glotopolítico que señale los riesgos de la pretensión de que es posible reducir a asociaciones estadísticas la riqueza lingüística. La defensa de las variedades y el derecho de cada hablante a percibirlas como correctas deberán ser perseguidos más allá de la discusión individualizada con ChatGPT, y puede cobrar la forma de creación de nuevos modelos, entrenados de forma diversa para reconocer y aceptar variedades; modelos que estén supervisados por miembros de la propia comunidad para vigilar la reproducción de ideologías y sesgos especialmente peligrosos. Este tipo de enfoques, que consideren la importancia de la regulación horizontal y abierta, quizás permita el acceso de los propios usuarios a la materialidad de la IAGen: estrategias nuevas, a menor escala pero más fácilmente controlables, que permitan un uso más homologable al de los martillos, para la imaginación y construcción de futuros deseables.

Fuentes citadas

Acevedo Carrillo, Mauricio, Norma Milena Cabezas Torres, Pablo Antonio La Serna La Rosa y Shiriam Alejandra Araujo Rossel (2025). Desafíos y oportunidades de la inteligencia artificial en la educación superior latinoamericana: una revisión sistemática de la literatura. INVECOM 25. https://doi.org/10.5281/ZENODO.15508755

Becker, Lidia (2023). El lenguaje claro o ciudadano en América Latina: ¿un movimiento glotosocial, una nueva regulación democratizadora de la discursividad pública o una herramienta hegemónica? En Elvira Arnoux y Roberto Bein (eds.), Semiótica y política en el discurso público. Buenos Aires: Biblos, 81-103.

Bender, Emily M., Timnit Gebru, Angelina McMillan-Major y Shmargaret Shmitchell (2021). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big? Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency, 3 de marzo, 610-623. https://doi.org/10.1145/3442188.3445922

Bussaja, Janga (2025). Analyzing Grok 4’s Engagement with Racism: A Case Study in AI Fragility and Deception. Preprint, SSRN. https://ssrn.com/abstract=5348379

Chomsky, Noam (2012). The purpose of education. Learning without Frontiers Conference. https://www.youtube.com/watch?v=DdNAUJWJN08

Common Crawl Foundation (2026). About. https://commoncrawl.org/about

Crawford, Kate (2021). Atlas of AI: Power, Politics, and the Planetary Costs of Artificial Intelligence. New Haven: Yale University Press.

De la Torre, Alejandra y Maria Baldeon-Calisto (2024). Generative Artificial Intelligence in Latin American Higher Education: A Systematic Literature Review. 2024 12th International Symposium on Digital Forensics and Security (ISDFS), 1-7. https://doi.org/10.1109/ISDFS60797.2024.10527283

Denegri-Velarde, María Isabel, Beymar Pedro Solis-Trujillo, María del Carmen Emilia Ancaya-Martínez, Carlos Augusto Zerga-Morante, Antony Paul Espiritu-Martinez y Rafael Romero-Carazas (2024). ChatGPT and Artificial Intelligence: a Bibliometric Analysis in Latin America. International Journal of Religion 5(5), 931-939. https://doi.org/10.61707/amhw4161

Erfani, Farhang (2026). Not «just a language model»: AI’s ideological functions. AI & Society 41, 869-881. https://doi.org/10.1007/s00146-025-02623-0

Gervais, Daniel J., Noam Shemtov, Haralambos Marmanis y Catherine Zaller Rowland (2024). The Heart of the Matter: Copyright, AI Training, and LLMs. Preprint, SSRN. https://doi.org/10.2139/ssrn.4963711

González Argote, Javier, Verenice Sánchez Castillo y Tulio Andrés Clavijo Gallego (2025). Redacción de artículos de revisión para fortalecimiento de habilidades investigativas en universitarios: una mirada desde las nuevas dimensiones de IA. Telos: Revista de Estudios Interdisciplinarios en Ciencias Sociales 27(1), 279-292. https://doi.org/10.36390/telos271.07

Guo, Yanzhu, Guokan Shang, Michalis Vazirgiannis y Chloé Clavel (2024). The Curious Decline of Linguistic Diversity: Training Language Models on Synthetic Text. Findings of the Association for Computational Linguistics: NAACL 2024, 3589-3604. https://doi.org/10.18653/v1/2024.findings-naacl.228

Jurafsky, Daniel y James H. Martin (2023). Speech and Language Processing. An Introduction to Natural Language Processing, Computational Linguistics, and Speech Recognition with Language Models. Redwood City: Stanford University Press.

Lauria, Daniela y María López García (2009). Instrumentos lingüísticos académicos y norma estándar del español: la nueva política lingüística panhispánica. Lexis XXXIII(1), 9-89.

Lauwaert, Lode y Bartek Chomanski (2025). We, Robots: Questioning the Neutrality of Technology, Ethical AI and Technological Determinism. Cham: Springer Nature Switzerland. https://doi.org/10.1007/978-3-031-77174-3

Liu, Jiahui (2026). When Usefulness Fuels Fear: The Paradox of Generative AI Dependence and the Mitigating Role of AI Literacy. International Journal of Human-Computer Interaction, 42(7), 5265-5286. https://doi.org/10.1080/10447318.2025.2544006

López García, María (2023). ¿Está bien dicho?: hablar y escribir más allá de la ortografía y el diccionario. Buenos Aires: Tilde Editora.

Pasquinelli, Matteo y Vladan Joler (2021). The Nooscope Manifested: AI as Instrument of Knowledge Extractivism. AI & Society 36(4), 1263-1280. https://doi.org/10.1007/s00146-020-01097-6

Peláez-Sánchez, Iris Cristina, Davis Velarde-Camaqui y Leonardo David Glasserman-Morales (2024). The Impact of Large Language Models on Higher Education: Exploring the Connection between AI and Education 4.0. Frontiers in Education 9, 1392091. https://doi.org/10.3389/feduc.2024.1392091

Rivero, Edward y Peng Yin (2025). Navigating the Contradictions of AI: Critiquing AI’s Standardized English and Developing Creative Bilingual Possibilities. Frontiers in Education 10, 1616458. https://doi.org/10.3389/feduc.2025.1616458

Roose, Kevin (2024). The Data That Powers A.I. Is Disappearing Fast. New York Times. https://www.nytimes.com/2024/07/19/technology/ai-data-restrictions.html

Salerno, Paula y Milagros Vilar (2025). Interacción humanx-chatbot: estudio exploratorio sobre variedades lingüísticas, acomodación y desigualdad. Matraga 32(65), 266-289.

Scotto, Victoria (2022). Entre posfilologías y ciberculturas: un recorrido por dos aportes para pensar la lectura de nuevas textualidades en el siglo XXI. Estudios de teoría literaria 11(25), 142-155. https://www.memoria.fahce.unlp.edu.ar/art_revistas/pr.17862/pr.17862.pdf

---