Who Gets to Produce the Record? Indigenous Sovereignty in the Age of AI by Wayne Martin Mellinger, Ph.D.

 ¿Quién tiene el derecho de producir el registro? Soberanía indígena en la era de la inteligencia artificial

Wayne Martin Mellinger, Ph.D.

[The Spanish text is followed by an English Translation]

El reflexivo ensayo de Jorge Alberto Hidalgo Toledo, “Pueblos originarios y soberanía comunicacional en la era de la IA”, plantea una pregunta cada vez más urgente: ¿quién conserva la soberanía sobre el significado de un pueblo cuando sus palabras, imágenes, historias, lenguas y prácticas culturales pueden transformarse en datos e incorporarse a sistemas de inteligencia artificial? Su respuesta va, de manera importante, más allá de las conocidas demandas por una mejor representación. Los pueblos indígenas, sostiene, no deben poseer únicamente el derecho a aparecer dentro de las representaciones producidas por otros, sino también la capacidad de producir y gobernar sus propias representaciones.

Quisiera llevar el argumento de Hidalgo un paso más allá. El problema no es solamente quién tiene el derecho de representar a los pueblos indígenas. También es quién controla la maquinaria cotidiana mediante la cual esos pueblos llegan a ser reconocibles en primer lugar: las categorías, documentos, bases de datos, mapas, transcripciones, archivos, algoritmos, procedimientos institucionales y prácticas conversacionales mediante los cuales un pueblo llega a ser públicamente y administrativamente conocible.

Aquí es donde la etnometodología y el análisis de la conversación —EMCA, por sus siglas en inglés— pueden aportar algo a la discusión sobre la soberanía comunicacional. Una de las intuiciones fundamentales de la etnometodología es que la realidad social no está simplemente ahí, esperando ser descrita. Se produce continuamente mediante métodos prácticos de ver, describir, categorizar, registrar y actuar. Las categorías no se limitan a nombrar realidades. En determinadas circunstancias, contribuyen a constituirlas.

Este punto tiene una enorme importancia para la historia de los pueblos indígenas.

He estado pensando recientemente en esto mientras escribo sobre los pueblos Chumash de la región de Santa Bárbara, donde vivo. Una de las dificultades de intentar contar esta historia con veracidad es que el propio archivo documental forma parte de la historia del colonialismo. Los registros de las misiones, los documentos de propiedad, los informes gubernamentales, los mapas, los relatos antropológicos, las noticias periodísticas, las colecciones de museos, las fotografías y las clasificaciones arqueológicas no son simplemente ventanas transparentes hacia un pasado indígena. Fueron producidos dentro de mundos institucionales específicos, con fines prácticos particulares, por personas que poseían capacidades muy desiguales para decidir qué contaba como persona, aldea, reclamación de propiedad, artefacto, fuente histórica legítima o incluso identidad social inteligible.

Esto no significa que debamos rechazar esos registros. Todo lo contrario: pueden ser indispensables. Pero debemos leerlos sociológicamente.

Mi propio trabajo reciente sobre lo que denomino la carrera del registro parte precisamente de este problema. Los registros tienen carreras. Una descripción producida en un contexto puede viajar hacia otro. Una observación se convierte en una formulación escrita; la formulación se convierte en una clasificación; la clasificación entra en una base de datos; la base de datos se convierte en evidencia; la evidencia orienta una decisión organizacional. Con cada desplazamiento, las circunstancias en las que se produjo la descripción original pueden ir desapareciendo de la vista. Lo que comenzó como un juicio humano situado adquiere la apariencia de un hecho objetivo.

A una parte de este proceso la llamo estabilización documental. Las descripciones contingentes se vuelven cada vez más difíciles de reconocer como contingentes porque el registro viaja sin llevar consigo toda la historia de su producción. La sedimentación documental permite entonces que clasificaciones anteriores se conviertan en los materiales dados por sentados a partir de los cuales se producen nuevas clasificaciones.

Los archivos coloniales ofrecen ejemplos extraordinarios de este proceso. Un funcionario colonial da nombre a un lugar. Un cartógrafo coloca ese nombre en un mapa. Una agencia gubernamental adopta el mapa. Un historiador cita el registro gubernamental. Un museo adopta la denominación histórica. Finalmente, el nombre colonial parece ser, sencillamente, el nombre del lugar. La carrera documental mediante la cual se produjo esa realidad desaparece.

Lo mismo puede ocurrir con las personas.

Harvey Sacks enseñó a los analistas de la conversación a tomar en serio las categorías de pertenencia porque las categorías llevan consigo enormes reservas de conocimiento socialmente organizado. Categorizar a alguien nunca consiste simplemente en colocarle un sustantivo neutral. Las categorías hacen posibles determinadas inferencias. Establecen expectativas. Hacen que ciertas acciones resulten inteligibles y que otras aparezcan como anómalas. Charles Goodwin demostró posteriormente, mediante su concepto de visión profesional, cómo las instituciones enseñan a sus integrantes a ver el mundo a través de determinados esquemas de codificación, prácticas de resaltado y representaciones materiales.

El colonialismo poseía sus propias formas de visión profesional.

Por ello, las categorías mediante las cuales los pueblos indígenas se hicieron administrativamente visibles no fueron características incidentales de la dominación colonial. Formaron parte de sus tecnologías. “Indio”, “indio de misión”, “converso”, “trabajador”, “pupilo”, “tribu”, “tribu extinta”, “artefacto”, “sitio arqueológico”: cada categoría organizaba un campo de acciones posibles. Cada una hacía visibles ciertas realidades mientras desplazaba otras hacia los márgenes.

La lucha por la soberanía indígena incluye, por consiguiente, una lucha en torno a lo que en otros trabajos he denominado la carga de la legibilidad: ¿quién debe hacerse inteligible dentro de las categorías de quién para poder ser reconocido?

El concepto de soberanía comunicacional de Hidalgo nos ofrece una importante manera de invertir esa pregunta. La soberanía indígena no puede significar simplemente obtener una representación más favorable dentro de sistemas documentales cuyas categorías fundamentales siguen siendo controladas desde otros lugares. Tampoco puede significar la reconciliación simplemente insertar a los pueblos indígenas de manera más prominente dentro de una narrativa histórica cuya gramática continúa siendo fundamentalmente colonial. Los pueblos indígenas deben participar en la determinación de las categorías, nombres, historias, lugares, relaciones y formas de evidencia mediante las cuales sus mundos llegan a ser públicamente inteligibles.

Esta es una de las razones por las que me siento cada vez más insatisfecho con las formas puramente ceremoniales de reconocimiento territorial. El reconocimiento importa. Decir la verdad importa. Pero la reconciliación exige relaciones transformadas. En Santa Bárbara, los pueblos Chumash no pueden ser simplemente figuras históricas invocadas al comienzo de reuniones públicas mientras las instituciones continúan tomando decisiones sobre la tierra, los sitios culturales, la gestión ambiental, la memoria pública y el desarrollo sin su participación. Deben ser socios vivos en la determinación de lo que sucede con los lugares a los que sus historias continúan profundamente entrelazadas.

La inteligencia artificial hace que estos antiguos problemas adquieran formas radicalmente nuevas.

Cuando interactuamos con un sistema de inteligencia artificial, nos encontramos con algo capaz de producir descripciones extraordinariamente fluidas sin habitar los mundos sociales a los que esas descripciones se refieren. Desde una perspectiva de EMCA, esto plantea preguntas fascinantes sobre la rendición de cuentas. La conversación humana depende de elaboradas prácticas de reparación. Nos malinterpretamos, cuestionamos formulaciones, corregimos descripciones, preguntamos qué quiso decir alguien, revisamos categorías, impugnamos versiones de los acontecimientos y responsabilizamos a los hablantes por lo que han dicho. El significado no se transmite simplemente entre hablantes; se logra colaborativamente y permanece continuamente abierto a la reparación.

La interacción entre seres humanos y sistemas de IA complica enormemente este panorama.

Un sistema de IA puede participar convincentemente en la organización superficial de la conversación mientras mantiene una relación radicalmente distinta con la responsabilidad. Puede disculparse. Puede reformular. Puede aceptar una corrección. Incluso puede explicar por qué una formulación anterior era problemática. Pero la sociología de esa responsabilidad sigue sin resolverse. ¿Quién, exactamente, responde por las categorías que produce una IA: el modelo, sus desarrolladores, la organización que lo utiliza, los diseñadores del corpus de entrenamiento o las instituciones cuyos archivos proporcionaron las clasificaciones subyacentes?

Esto adquiere consecuencias especialmente profundas cuando la IA se encuentra con el conocimiento indígena.

Supongamos que un sistema de IA responde una pregunta sobre los Chumash. Su respuesta puede sintetizar registros de las misiones, documentos gubernamentales del siglo XIX, clasificaciones arqueológicas, escritos antropológicos, catálogos de museos, sitios web, noticias periodísticas y materiales tribales contemporáneos. El párrafo resultante puede parecer extraordinariamente coherente. Sin embargo, esa coherencia puede ocultar posiciones epistémicas radicalmente distintas e historias de autoridad profundamente desiguales.

Por consiguiente, el modelo puede hacer algo mucho más trascendente que reproducir un error. Puede llevar a cabo una sedimentación documental a velocidad computacional.

Una clasificación colonial del siglo XIX puede entrar en un texto antropológico del siglo XX, migrar hacia un catálogo de museo, digitalizarse en una base de datos, incorporarse a un corpus de entrenamiento de IA y, finalmente, regresar a nosotros como una frase declarativa redactada con absoluta fluidez. Al final de esa carrera documental, prácticamente todas las huellas de las circunstancias originales de su producción pueden haber desaparecido.

La frase simplemente parece decirnos lo que es verdad.

Por eso me parece especialmente importante la expresión de Hidalgo, “extracción cognitiva automatizada”. Pero la extracción es solamente la mitad del problema. Los sistemas de IA no se limitan a extraer materiales culturales. Devuelven esos materiales al mundo convertidos en nuevas formulaciones dotadas de autoridad. Se están convirtiendo en motores de recirculación documental.

El peligro, por tanto, no consiste solamente en que el conocimiento indígena sea apropiado sin consentimiento y monetizado sin compensación. Ese peligro es real. Pero existe otro: el conocimiento colonial puede ser continuamente reciclado y legitimado a través de sistemas computacionales hasta que resulte casi imposible reconocer su genealogía.

El problema político de la inteligencia artificial es, por consiguiente, inseparable de un problema documental.

¿Quién proporcionó las categorías?

¿Quién produjo los registros?

¿Las descripciones de quién se convirtieron en datos?

¿Qué descripciones nunca fueron registradas?

¿Qué archivos fueron digitalizados?

¿Qué lenguas se hicieron susceptibles de búsqueda?

¿El conocimiento de quién fue considerado autorizado?

¿Quién tiene el derecho de corregir a la máquina?

Y quizá lo más importante: cuando una comunidad indígena cuestiona lo que la máquina dice acerca de ella, ¿qué versión se volverá consecuente en la siguiente iteración documental?

Estas son preguntas relacionadas con lo que Hidalgo denomina acertadamente soberanía cognitiva. Pero también son preguntas de soberanía interaccional y soberanía documental.

Esto sugiere que la soberanía indígena sobre los datos debe significar algo más que el control sobre si los materiales culturales ingresan en bases de datos. También debería implicar una autoridad significativa sobre las carreras documentales de esos materiales: cómo se clasifican, contextualizan, circulan, recombinan, interpretan, atribuyen, corrigen y, finalmente, se transforman en conocimiento generado por máquinas.

Hay aquí una profunda ironía. La inteligencia artificial suele imaginarse como una tecnología del futuro, mientras que la soberanía indígena es relegada con demasiada frecuencia a disputas sobre el pasado. En realidad, ambas cuestiones están convergiendo.

Los pueblos que fueron sometidos a algunos de los primeros sistemas de clasificación administrativa a gran escala de la modernidad se enfrentan ahora quizá a la maquinaria clasificatoria más poderosa que los seres humanos hayan construido jamás.

Hidalgo termina con la hermosa e inquietante imagen de una niña que pregunta a una inteligencia artificial quiénes fueron sus antepasados. ¿Escuchará una respuesta construida desde el conocimiento vivo de su comunidad, pregunta Hidalgo, o recibirá una reconstrucción estadísticamente verosímil ensamblada a partir de fragmentos extraídos de ella?

Yo añadiría una tercera pregunta.

¿Podrá descubrir cómo llegó la máquina a saber aquello que afirma saber?

Esa puede ser una de las preguntas democráticas centrales de la era de la inteligencia artificial. La soberanía comunicacional exige no solamente el derecho a hablar, y la soberanía cognitiva no solamente el derecho a proteger el conocimiento. Exigen la capacidad de las comunidades para participar en el gobierno de los procesos mediante los cuales el conocimiento acerca de ellas se produce, se estabiliza, circula, se cuestiona, se repara y adquiere consecuencias.

Para los pueblos indígenas, esta no es una lucha completamente nueva. Las tecnologías han cambiado de manera radical. La pregunta fundamental no.

¿Quién tiene el derecho de producir el registro a partir del cual, posteriormente, será conocida la realidad?

______________________________

Who Gets to Produce the Record? Indigenous Sovereignty in the Age of AI

Jorge Alberto Hidalgo Toledo’s thoughtful essay, “Indigenous Peoples and Communicative Sovereignty in the Age of AI,” asks a question that is becoming increasingly urgent: who retains sovereignty over the meaning of a people when their words, images, histories, languages, and cultural practices can be transformed into data and incorporated into artificial intelligence systems? His answer moves importantly beyond familiar demands for better representation. Indigenous peoples, he argues, must possess not merely the right to appear within the representations produced by others, but the capacity to produce and govern their own representations.

I want to push Hidalgo’s argument one step further. The problem is not only who gets to represent Indigenous peoples. It is also who controls the mundane machinery through which Indigenous peoples become recognizable in the first place: the categories, documents, databases, maps, transcripts, archives, algorithms, institutional procedures, and conversational practices through which a people becomes publicly and administratively knowable.

This is where ethnomethodology and conversation analysis—EMCA—can add something to the discussion of communicative sovereignty. One of the enduring insights of ethnomethodology is that social reality does not simply sit there waiting to be described. It is continuously produced through practical methods of seeing, describing, categorizing, recording, and acting. Categories do not merely name realities. Under particular circumstances, they help constitute them.

This point matters enormously in the history of Indigenous peoples.

I have been thinking about this recently while writing about the Chumash peoples of the Santa Barbara region, where I live. One of the difficulties in trying to tell this history truthfully is that the documentary archive is itself part of the history of colonialism. Mission registers, property records, government reports, maps, anthropological accounts, newspaper stories, museum collections, photographs, and archaeological classifications do not simply provide transparent windows onto an Indigenous past. They were produced within particular institutional worlds, for particular practical purposes, by people possessing very unequal capacities to decide what counted as a person, a village, a property claim, an artifact, a legitimate historical source, or even an intelligible social identity.

This does not mean that such records should be rejected. Quite the contrary: they can be indispensable. But they must be read sociologically.

My own recent work on what I call the career of the record begins from precisely this problem. Records have careers. A description produced in one setting can travel into another. An observation becomes a written formulation; the formulation becomes a classification; the classification enters a database; the database becomes evidence; the evidence informs an organizational decision. With each movement, the circumstances under which the original description was produced can recede from view. What began as a situated human judgment acquires the appearance of an objective fact.

I call part of this process documentary stabilization. Contingent descriptions become increasingly difficult to see as contingent because the record travels without carrying its entire history of production with it. Documentary sedimentation then permits earlier classifications to become the taken-for-granted materials from which later classifications are made.

Colonial archives provide extraordinary examples of this process. A colonial official names a place. A cartographer puts that name on a map. A government agency adopts the map. A historian cites the government record. A museum adopts the historical designation. Eventually the colonial name appears simply to be the name of the place. The documentary career through which that reality was produced disappears.

The same thing can happen to people.

Harvey Sacks taught conversation analysts to take membership categories seriously because categories carry enormous stocks of socially organized knowledge. To categorize someone is never simply to attach a neutral noun to them. Categories make particular inferences available. They establish expectations. They make some actions intelligible and others anomalous. Charles Goodwin later demonstrated, through his concept of professional vision, how institutions teach their members to see the world through particular coding schemes, highlighting practices, and material representations.

Colonialism possessed professional visions of its own.

The categories through which Indigenous peoples were rendered administratively visible were therefore not incidental features of colonial domination. They were among its technologies. “Indian,” “mission Indian,” “convert,” “laborer,” “ward,” “tribe,” “extinct tribe,” “artifact,” “archaeological site”: each category organized a field of possible actions. Each made certain realities visible while pushing others to the margins.

The struggle over Indigenous sovereignty consequently includes a struggle over what I have elsewhere called the burden of legibility: who must become intelligible within whose categories in order to be recognized?

Hidalgo’s concept of communicative sovereignty gives us an important way of reversing that question. Indigenous sovereignty cannot mean merely gaining more favorable representation within documentary systems whose fundamental categories remain controlled elsewhere. Nor can reconciliation mean inserting Indigenous people more prominently into a historical narrative whose grammar remains fundamentally colonial. Indigenous peoples must participate in determining the categories, names, histories, places, relationships, and forms of evidence through which their worlds become publicly intelligible.

This is one reason I have become increasingly dissatisfied with purely ceremonial forms of land acknowledgment. Acknowledgment matters. Truth-telling matters. But reconciliation requires changed relationships. In Santa Barbara, Chumash peoples cannot simply be historical figures invoked at the beginning of public meetings while institutions continue making decisions about land, cultural sites, environmental stewardship, public memory, and development without them. They must be living partners in determining what happens to the places with which their histories remain entwined.

Artificial intelligence makes these old problems radically new.

When we interact with an AI system, we encounter something that can produce extraordinarily fluent descriptions without inhabiting the social worlds those descriptions concern. From an EMCA perspective, this raises fascinating questions about accountability. Human conversation depends upon elaborate practices of repair. We misunderstand one another, challenge formulations, correct descriptions, ask what someone meant, revise categories, contest versions of events, and hold speakers accountable for what they have said. Meaning is not simply transmitted between speakers; it is collaboratively accomplished and continuously repairable.

Human-AI interaction complicates this enormously.

An AI system can participate convincingly in the surface organization of conversation while possessing a radically different relationship to accountability. It can apologize. It can reformulate. It can accept correction. It can even explain why a previous formulation was problematic. But the sociology of that accountability remains unsettled. Who, exactly, is accountable for the categories an AI produces—the model, its developers, the organization deploying it, the designers of the training corpus, the institutions whose archives supplied the underlying classifications?

This becomes especially consequential when AI encounters Indigenous knowledge.

Suppose an AI system answers a question about the Chumash. Its response may synthesize mission records, nineteenth-century government documents, archaeological classifications, anthropological writings, museum catalogs, websites, newspaper accounts, and contemporary tribal materials. The resulting paragraph may appear remarkably coherent. Yet that coherence can conceal radically different epistemic positions and radically unequal histories of authority.

The model may therefore do something more consequential than reproduce an error. It may perform documentary sedimentation at computational speed.

A nineteenth-century colonial classification can enter a twentieth-century anthropological text, migrate into a museum catalog, become digitized in a database, enter an AI training corpus, and finally return to us as a smoothly written declarative sentence. At the end of that documentary career, virtually every trace of the original circumstances of production may have disappeared.

The sentence simply appears to tell us what is true.

This is why Hidalgo’s phrase “automated cognitive extraction” strikes me as particularly important. But extraction is only half the problem. AI systems do not merely extract cultural materials. They return those materials to the world as newly authoritative formulations. They are becoming engines of documentary recirculation.

The danger, therefore, is not merely that Indigenous knowledge will be taken without consent and monetized without compensation. That danger is real. But there is another danger: colonial knowledge may be continuously laundered through computational systems until its genealogy becomes almost impossible to see.

The political problem of AI is therefore inseparable from a documentary problem.

Who supplied the categories?

Who produced the records?

Whose descriptions became data?

Whose descriptions were never recorded?

Which archives became digitized?

Which languages were searchable?

Whose knowledge was treated as authoritative?

Who gets to correct the machine?

And perhaps most importantly: when an Indigenous community disputes what the machine says about it, whose account will become consequential in the next documentary iteration?

These are questions of what Hidalgo appropriately calls cognitive sovereignty. But they are also questions of interactional sovereignty and documentary sovereignty.

That suggests that Indigenous data sovereignty must mean more than control over whether cultural materials enter databases. It should also involve meaningful authority over the documentary careers of those materials: how they are classified, contextualized, circulated, recombined, interpreted, attributed, corrected, and eventually transformed into machine-generated knowledge.

There is a profound irony here. Artificial intelligence is frequently imagined as a technology of the future, while Indigenous sovereignty is too often relegated to disputes about the past. In reality, the two questions are converging.

The peoples who were subjected to some of modernity’s earliest large-scale systems of administrative classification now confront perhaps the most powerful classificatory machinery human beings have ever constructed.

Hidalgo ends with the beautiful and unsettling image of a girl asking an artificial intelligence who her ancestors were. Will the machine answer from the living knowledge of her community, he asks, or produce a statistically plausible reconstruction assembled from fragments extracted from it?

I would add a third question.

Will she be able to discover how the machine came to know what it claims to know?

That may be one of the central democratic questions of the AI age. Communicative sovereignty requires not simply the right to speak, and cognitive sovereignty not simply the right to protect knowledge. They require the ability of communities to participate in governing the processes through which knowledge about them is produced, stabilized, circulated, challenged, repaired, and made consequential.

For Indigenous peoples, that is not an entirely new struggle. The technologies have changed dramatically. The underlying question has not.

Who gets to produce the record from which reality will subsequently be known?