sinhojas.net

En febrero de este año, el escritor estadounidense de ciencia ficción Ted Chiang publicó una columna en The New Yorker en la que formulaba la siguiente disyuntiva: «OpenAI’s chatbot offers paraphrases, whereas Google offers quotes. Which do we prefer?».1

Se refería a ChatGPT, un chatbot —⁠programa diseñado para simular una conversación humana en línea⁠— asistido mediante inteligencia artificial. En realidad, dejando de lado la jerga publicitaria, se trata de un modelo de lenguaje que, como anuncia su página web, pretende «to answer followup questions, admit its mistakes, challenge incorrect premises, and reject inappropriate requests».2 Aunque no comporta un concepto novedoso —⁠ya que los traductores automáticos o el corrector gramatical de los teléfonos inteligentes son también modelos de lenguaje⁠—, desde su lanzamiento en noviembre de 2022, su popularidad ha ido en aumento, sostenida por la premisa de su inteligencia y sus potenciales aplicaciones en distintos tipos de herramientas y servicios. En particular, se lo ha visto como una alternativa a los motores de búsqueda tradicionales (Chiang habla de Google, por ejemplo) y como asistente de redacción (al delegársele el trabajo de resumir, argumentar o crear desde cero textos con diversos fines).

Sin embargo, ChatGPT no está exento de polémica, y eso tampoco excluye el ámbito de la escritura académica. Ahora en Twitter, leía la advertencia de Mushtaq Bilial: «Don’t use ChatGPT for academic research. It creates fake citations to papers that don’t even exist».3 Un chatbot de propósito general no tiene por qué dominar las convenciones específicas que exige la APA o tener consciencia de qué implica un plagio. De cara al usuario común, la aparición en pantalla de algo que simula remitir a un artículo de investigación en una prestigiosa revista arbitrada reafirma el discurso de inteligencia de este modelo de lenguaje, al ofrecerle una interacción dialógica verosímil e información supuestamente autorizada. La propia web de OpenAI declara dicha limitación: «ChatGPT sometimes writes plausible-sounding but incorrect or nonsensical answers».4

Como mencionaba, ChatGPT no es un concepto del todo nuevo, y, dada su naturaleza modélica, sus errores tampoco pueden serlo. Sin proponérmelo en ese instante, la advertencia de Bilial trajo a mi mente uno de mis cuentos favoritos de Jorge Luis Borges, «Tlön, Uqbar, Orbis Tertius» (1940). En él, a través de la búsqueda del tomo perdido de una enciclopedia, se descubre una conspiración epistemológica cada vez mayor, aparentemente orquestada por la sociedad secreta Orbis Tertius. Como en otros relatos del autor, se simulan notas al pie y remisiones bibliográficas como en un artículo de investigación. Podría reformularse: «Don’t believe Borges for academic research. It creates fake citations to books that don’t even exist»; pero habría que admitir enseguida: Borges lo hace deliberadamente.

«Tlön…» apareció por primera vez en la revista Sur en 1940.5 El relato está conformado en tres grandes bloques delimitados los dos primeros por cifras romanas y el último por un blanco tipográfico. Es la narración per se más una «Posdata de 1947», supuestamente venida del futuro, que informa que lo que acaba de ser leído hasta ese punto hace parte, en realidad, de un artículo ya publicado por el propio Borges.

Reproduzco el artículo anterior tal como apareció en el número 68 de Sur —⁠tapas verde jade, mayo de 1940⁠—, sin otra excisión [sic] que algunas metáforas y que una especie de resumen burlón que ahora resulta frívolo.

«Tlön…», Sur, núm. 68, mayo de 1940, p. 42

Lo anterior coloca al relato en la línea del ensayo, aspecto que no se le ha escapado a la crítica especializada. La implicación más evidente de esto es la necesidad de suministrar, en la narración, [la simulación de] un aparato crítico que dé cuenta de la indagación previa, de los libros y de la opinión experta de los especialistas.

La importancia que ciertos géneros textuales conceden a esta práctica viene de antiguo, especialmente en el campo del orador. En el libro primero de su Retórica, al tratar el asunto de las clases de pruebas, Aristóteles menciona: «Es el talante personal quien constituye el más firme [medio de] persuasión». Con ello hace referencia tanto al modo particular del orador para volverse alguien de crédito como al hecho de «tener prejuzgado cómo es el que habla» (§1356a-5, 10).6 Introduce, pues, lo que en la tradición latina recibiría el nombre de auctoritas; es decir, la credibilidad de lo que se presenta sustentada en la figura de quien enuncia o respalda algo. Nótese que la autoridad está estrechamente vinculada con la verosimilitud: «Porque a las personas honradas creemos más y con mayor rapidez, en general en todas las cosas, pero, desde luego, completamente en aquellas en que no cabe la exactitud, sino que se prestan a duda» (§1356b-10).

Sin embargo, a menos que comience por el final, el lector implícito lleva a cabo la lectura de «Tlön…» todavía con un horizonte de expectativas —⁠para usar el término de Robert Jauss⁠— que corresponde al del cuento. Así, pues, «proyecta sus experiencias basadas en la lectura de cuentos sobre la recepción de ensayos»7 cada vez que se encuentra con una nota al pie o una remisión bibliográfica, entidades paratextual que pueden resultar ajenas al curso de lo que se supone enteramente ficcional (pues son formas de la auctoritas).

Un vistazo a la primera de estas revela, no obstante, que no aparece en el vacío, sino acompañada de otras alusiones que ayudan a darle un carácter más legítimo. Aconsejaba Cicerón: «La narración será verosímil si en ella aparecen las características habituales de la vida real» (§21).8 Así, el encuentro con uno de los tomos de  «The Anglo-American Cyclopaedia (New York, 1917)» aparece junto a la mención del lugar («una quinta de la calle Gaona»), el tiempo («hará unos cinco años»), el modo (se habla de un «descubrimiento»), la ocasión («Bioy Casares había cenado conmigo esa noche») y la posibilidad («en la alta noche ese descubrimiento es inevitable»).9 Lo anterior, así como la asimilación de Borges-persona con un Borges-personaje (narrador que testimonia en primera persona), hace de The Anglo-American Cyclopaedia una mención verosímil. Para sus propios fines, y habiendo establecido un marco adecuado, lo importante no es si dicha enciclopedia existe o no, sino si puede mostrarse como un referente probable y concreto de cara al lector. Esta alternativa también estaba prevista por la retórica clásica: «La narración es la exposición de hechos como han ocurrido o como se supone que han ocurrido», «pasando por alto siempre que podamos las circunstancias desfavorables».10

Como ejemplo de lo anterior, sirva la mención de los libros de Silas Haslam, History of the Land Called Uqbar y A General History of Labyrinths, libros ficticios de un autor ficticio cuya existencia, sin embargo, aparece respaldada por «los catálogos de Bernard Quaritch», afamado bibliotecario inglés del s. XIX.11 Los libros, a su vez, también son mencionados en un volumen de The Anglo-American Cyclopaedia (falsa, pero verosímil), que no es sino una reimpresión de la Encyclopædia Britannica de 1902 que Bioy Casares había adquirido. Como se ve, el cuento articula referentes reales a los que se les atribuyen eventos probables según su naturaleza. De este modo, la pesquisa central del relato (la existencia de Uqbar, A First Encyclopaedia of Tlön y la sociedad Orbis Tertius) construye un paradigma de realidad sustentado no sólo en la fabulación de las circunstancias propicias arriba mencionadas —⁠asunto esperable de un cuento, que puede aludir a lugares o eventos no ficticios⁠—, sino también a la fabulación de los modos del ensayo, apelando tanto a la autoridad que revisten las figuras citadas como al procedimiento mismo de la remisión bibliográfica.

Quizá no se espere del lector implícito el verificar todas las fuentes —⁠aunque haya citas reales, como la remisión a The Analysis of the Mind de Bertrand Russell⁠—, y un pasaje del incipit parece parodiar esta posibilidad. El descubrimiento de Uqbar ocurre tras una charla entre Borges y Bioy Casares:

El hecho se produjo hará unos cinco años. Bioy Casares había cenado conmigo esa noche y nos demoró una vasta polémica sobre la ejecución de una novela en primera persona, cuyo narrador omitiera o desfigurara los hechos e incurriera en diversas contradicciones, que permitieran a unos pocos lectores —⁠a muy pocos lectores⁠— la adivinación de una realidad atroz o banal. Desde el fondo remoto del corredor, el espejo nos acechaba.

Borges, op. cit., p. 30

La «Postdata de 1947» pareciera asignar esta actitud sagaz al propio Borges, quien decide no hacer caso a la asimilación del mundo real con Tlön («el contacto y el hábito de Tlön han desintegrado este mundo») y prosigue, en cambio, con su tarea de terminar «una indecisa traducción quevediana (que no pienso dar a la imprenta) del Urn Burial de Browne».

Como se ha visto hasta aquí, a diferencia de ChatGPT, en «Tlön…» las remisiones falsas, los libros inexistentes y las circunstancias probables no existen de forma accidental, sólo como una manera de impostar un tono académico bajo petición del usuario (u horizonte de expectativas en el caso del lector), sino que hacen parte de una estrategia retórica que enriquece el paradigma del relato. Tanto si se trata de un lector ajeno a la narrativa borgeana, que bien puede no sospechar de la fabulación ensayística, como de uno conocedor de esta estrategia, es posible concluir que, al combinar las expectativas del cuento (fabulación, verosimilitud) con las del ensayo (demostración, autoridad) en una única narración, Borges selecciona deliberadamente las notas y remisiones del segundo como entidades paratextuales que refuerzan la isotopía del primero. Ante la pregunta de Chiang, cabe responder: ¿Cómo saber si una cita no es tan caprichosa como puede llegar a serlo la paráfrasis?

  1. En español: «El chatbot de OpenAI nos ofrece paráfrasis, mientras que Google muestra citas. ¿Qué es lo que preferimos?».

  2. En español: «Responder a preguntas de forma continua, admitir sus propios errores, cuestionar premisas incorrectas y rechazar peticiones inapropiadas».

  3. En español: «No uses ChatGPT en la investigación académica. Crea remisiones falsas a artículos que ni siquiera existen».

  4. En español: «En ocasiones, ChatGPT escribe respuestas que pueden sonar adecuadas, pero que son incorrectas o carentes de sentido».

  5. La digitalización completa del número está disponible en este enlace.

  6. Cito por la traducción de Quintín Racionero (Gredos, Madrid, 1999).

  7. Como mencionaba, este asunto no se le ha escapado a la crítica. Véase Trinidad Ariza, «En los márgenes de la ficción: funciones de las notas a pie de página en los relatos de Borges», Dicenda, núm. 38, 2020, p. 65.

  8. Cito por la traducción de Salvador Núñez (Gredos, Madrid, 1997).

  9. Sigo aquí las cinco circunstancias de los hechos que Cicerón define (op. cit., p. 134, §26).

  10. Ciceron, op. cit., pp. 119 y 125 (§27, §29).

  11. Y lo que es mejor: alguien en GoodReads hizo la ficha de Haslam.