Do LLM chatbots refer?

Organizzato da: Sebastiano Moruzzi
Con: Jessica Pepp (Uppsala University)

TEAMS

I chatbot LLM producono output le cui forme — per esempio una sequenza di lettere come “Saul Kripke” — sono normalmente usate per riferirsi a persone reali, del passato o del presente. Quando un chatbot genera “Saul Kripke” in un certo contesto, lo fa anche perché esiste una convenzione tra gli esseri umani: quella di usare proprio quella sequenza di lettere per riferirsi a Saul Kripke. Da questo punto di vista, sembra abbastanza sicuro dire che i chatbot producono output che hanno un “riferimento convenzionale” a entità del mondo come Kripke. Però è meno chiaro che facciano davvero ciò di cui queste convenzioni sono convenzioni: cioè che stiano effettivamente riferendosi a qualcosa. Per affrontare questa domanda, parto da un’altra più di base: che cosa significa riferirsi? Prenderò in considerazione due modelli: uno basato sull’“uso referenziale” di una descrizione, e l’altro sulla nozione di “riferimento del parlante”. L’idea è che questi due modelli portino a conclusioni diverse su ciò che possiamo dire, o non dire, a proposito del riferimento nei chatbot LLM.

---

LLM chatbots produce outputs whose forms—e.g., an arrangement of letters such as “Saul Kripke”—are conventionally used to refer to certain past or present worldly beings. In addition, an LLM chatbot’s production of “Saul Kripke” in a given stream of output is partly caused by a particular convention, practice, or regularity among human writers of using that form of letters to refer to Saul Kripke. Given this, it seems safe to say that LLM chatbots produce outputs that have “conventional reference” to worldly beings like Kripke. It is less clear that LLM chatbots do the thing that these conventions, practices, or regularities are conventions, practices, or regularitiesof: namely, it is less clear that they refer. This talk approaches the question of whether LLM chatbots refer by first asking what referring is. I discuss two models, one based on Keith Donnellan’s “referential use” of a description and the other based on Saul Kripke’s notion of “speaker’s reference,” and suggest that they yield different prospects for LLM reference.