Una propuesta ética desde América Latina para la era de la inteligencia artificial
Toda ética constituye una forma de hacer posible la convivencia. Su función no consiste únicamente en establecer principios, sino en orientar las relaciones, las responsabilidades y las condiciones que permiten sostener una vida compartida con justicia, dignidad y paz.
Sin embargo, no toda formulación que se presenta como ética constituye verdaderamente una.
En los últimos años, la expansión de la inteligencia artificial ha multiplicado declaraciones de principios, estándares de gobernanza, protocolos de seguridad y códigos de buenas prácticas que invocan la ética como garantía de legitimidad. Muchos de ellos representan avances relevantes en materia de transparencia, mitigación de riesgos, trazabilidad y rendición de cuentas. Sin embargo, esa proliferación vuelve inevitable una pregunta anterior: ¿qué condiciones debe reunir una formulación para merecer, verdaderamente, el nombre de ética?
La ética no se sustancia en una mera formulación. Existe en la medida en que permanece abierta a la deliberación, a la crítica y a la reconstrucción por parte de la comunidad cuya convivencia pretende orientar. Esa comunidad no se agota en los ámbitos especializados. Comprende también la participación interdisciplinaria, las instituciones democráticas, las comunidades directamente involucradas y la ciudadanía en general, cuya experiencia cotidiana constituye una fuente indispensable para la construcción compartida del sentido ético. Cuando esa apertura desaparece, la ética corre el riesgo de convertirse en una declaración —incluso formalmente correcta—, pero desvinculada de las relaciones, las responsabilidades y las prácticas que le otorgan legitimidad.
Ese desplazamiento, desde una ética entendida como una declaración hacia una ética concebida como una arquitectura de convivencia, constituye el punto de partida de este artículo.
Pero toda arquitectura ética presupone un determinado sentido de aquello que pretende orientar. ¿Qué ocurre cuando ese sentido comienza a transformarse?
Esa pregunta atraviesa las reflexiones que siguen y, al mismo tiempo, explica el origen del Manifiesto EIA LATAM, del cual quien escribe es coautora.
I. La arquitectura ética que heredamos
Como afirmamos, toda arquitectura ética expresa un determinado sentido de la inteligencia, de la acción y de la responsabilidad.
Al mismo tiempo, establece qué formas de relación considera legítimas y cuáles quedan por fuera del horizonte moral de una época. Ninguna ética constituye un conjunto de principios desvinculados de la historia; toda ética organiza normativamente aquello que una comunidad considera valioso proteger, promover o limitar.
Durante siglos, esa arquitectura permitió acompañar con notable eficacia el desarrollo científico, jurídico, económico e institucional. La acción podía atribuirse a sujetos reconocibles; las decisiones tenían autores; el mérito podía asignarse a individuos; los daños permitían reconstruir, al menos idealmente, una cadena causal; y la responsabilidad encontraba puntos relativamente definidos de imputación.
No se trató de una arquitectura equivocada. Fue una arquitectura profundamente consistente con el sentido desde el cual la modernidad comprendía la inteligencia, la acción y la convivencia.
La idea de individuo permitió consolidar derechos fundamentales, organizar instituciones, distribuir responsabilidades y construir sistemas jurídicos capaces de responder a una realidad donde los límites entre sujeto, acción y consecuencia aparecían relativamente delimitados.
Sin embargo, esa arquitectura nunca permaneció completamente inmóvil.
A lo largo del siglo XX comenzó a producirse un desplazamiento silencioso que modificó progresivamente el horizonte ético heredado. Las discusiones ya no se concentraron exclusivamente en las relaciones entre seres humanos.
La emergencia de la ética ambiental, la creciente consideración moral hacia los animales no humanos, las reflexiones sobre las generaciones futuras y la responsabilidad frente a los ecosistemas ampliaron el alcance tradicional de la ética. Sin abandonar la dignidad humana como referencia central, el horizonte moral comenzó a extenderse hacia formas de existencia, de vulnerabilidad y de interdependencia que hasta entonces habían ocupado un lugar marginal.
Al mismo tiempo, diversas transformaciones científicas y filosóficas comenzaron a alterar el sentido desde el cual comprendíamos la realidad. La física relativizó la idea de un observador completamente externo al fenómeno observado; la biología mostró la complejidad de los procesos emergentes; la teoría de sistemas desplazó las explicaciones lineales hacia dinámicas de interacción; la lingüística y las ciencias cognitivas evidenciaron que el pensamiento no podía comprenderse únicamente como un proceso aislado del lenguaje, de la cultura y del entorno.
Poco a poco, categorías que parecían estables comenzaron a revelar una complejidad que excedía las explicaciones tradicionales.
La inteligencia tampoco permaneció ajena a esa transformación. Durante gran parte del siglo XX predominó una concepción que la entendía como un atributo esencialmente individual, relativamente estable y susceptible de ser medido, comparado y distribuido como mérito personal. Esa representación acompañó buena parte del desarrollo científico y educativo de la época.
Sin embargo, distintas disciplinas comenzaron a mostrar que el conocimiento no emerge exclusivamente de capacidades individuales, sino también de procesos de interacción, cooperación, aprendizaje colectivo, transmisión cultural y construcción histórica.
La inteligencia artificial no inaugura esa transformación. Vuelve visible un cambio de sentido que ya estaba en marcha.
Por primera vez convivimos cotidianamente con sistemas capaces de intervenir en la producción de conocimiento, participar en procesos de decisión, reorganizar prácticas profesionales y modificar la manera en que las personas aprenden, crean y producen sentido. El desafío ya no consiste únicamente en evaluar una nueva tecnología. Consiste en reconocer que las categorías con las que seguimos describiendo la inteligencia, la acción y la responsabilidad comienzan a resultar insuficientes para comprender procesos cuya dinámica ya no responde a atribuciones estrictamente lineales.
Como consecuencia inevitable, estamos asistiendo a una transformación del sentido desde el cual comprendemos la inteligencia.
Este cambio de sentido, desde el cual una época comprende la inteligencia, impacta de manera directa en el desarrollo de nuevas condiciones para la atribución de responsabilidad, el mérito, distribución del poder y la oportunidad de convivencia.
Antes de preguntarnos cómo regular la inteligencia artificial, resulta necesario preguntarnos si las categorías éticas con las que seguimos pensando ese mundo continúan siendo suficientes para comprenderlo.
II. La ética ante la transformación de las categorías y las representaciones sociales
Las discusiones contemporáneas sobre inteligencia artificial suelen concentrarse en los riesgos tecnológicos: sesgos algorítmicos, privacidad, transparencia, seguridad o explicabilidad. Todos ellos constituyen problemas reales y requieren respuestas concretas. Sin embargo, existe una transformación previa que suele pasar inadvertida.
Antes de preguntarnos cómo regular nuevas tecnologías, resulta necesario preguntarnos si las categorías con las que seguimos pensando la inteligencia y la responsabilidad continúan siendo suficientes para describir el mundo que habitamos.
Durante décadas hablamos de inteligencia como si se tratara de una propiedad que cada individuo poseía en mayor o menor medida. Esa representación resultó funcional para organizar sistemas educativos, modelos laborales e incluso formas de reconocimiento social basadas en el mérito individual. Pero esa misma representación comienza a mostrar sus límites cuando la producción de conocimiento depende, cada vez más, de redes de interacción entre personas, instituciones, infraestructuras digitales y sistemas inteligentes.
La inteligencia nunca fue exclusivamente individual. Siempre necesitó del lenguaje, de la transmisión cultural, de la cooperación, del conflicto, del aprendizaje compartido y de la acumulación histórica del conocimiento.
Ninguna idea nace completamente aislada; toda producción intelectual se sostiene sobre múltiples relaciones que la preceden y la hacen posible. Esas producciones sedimentan históricamente en representaciones sociales que organizan la inteligibilidad compartida del mundo. Sin embargo, ninguna representación permanece definitivamente clausurada. Cada transformación en las formas de interacción abre la posibilidad de nuevos sentidos que reconfiguran aquello que una comunidad considera verdadero, legítimo o posible.
En esta dirección, Juan Antonio Valor propone una imagen particularmente sugerente al afirmar que somos materia y algoritmos recursivos. Más allá del alcance específico de esa formulación, la expresión invita a abandonar una comprensión de la inteligencia como una facultad aislada para situarla dentro de procesos materiales, históricos y relacionales que se reorganizan permanentemente. La inteligencia deja de aparecer como una propiedad estática para comprenderse como una dinámica emergente, inseparable de las múltiples interacciones que hacen posible la vida y alguna anticipación simbólica.
Nuestra historia evolutiva no puede comprenderse únicamente como el resultado de decisiones conscientes. También está atravesada por estados de afectación, contingencias, procesos adaptativos y por aquello que, desde distintas tradiciones científicas y filosóficas, reconocemos como el papel del azar o de la acción no intencional de la naturaleza. La inteligencia emerge precisamente dentro de esa trama de relaciones, donde necesidad, contingencia e interacción participan simultáneamente en la producción de nuevas posibilidades.
Desde esta perspectiva, la irrupción de la inteligencia artificial no representa una ruptura con la naturaleza. Constituye una nueva expresión de procesos materiales e históricos que continúan desplegándose bajo condiciones inéditas. Lo verdaderamente novedoso no reside únicamente en la aparición de sistemas capaces de generar información o participar en decisiones, sino en que esos sistemas vuelven visible la insuficiencia de categorías que aún describen la inteligencia como una capacidad exclusivamente individual.
La inteligencia artificial no crea esa condición relacional.
La vuelve imposible de ignorar.
Cuando la inteligencia deja de entenderse como un atributo aislado para comprenderse como una producción emergente de múltiples interacciones, también se transforma el sentido de la responsabilidad, del mérito, de la autonomía y de la convivencia. Las categorías éticas heredadas continúan siendo indispensables, pero ya no alcanzan por sí solas para describir un mundo donde la producción del conocimiento ocurre dentro de entramados cada vez más complejos de cooperación entre personas, instituciones y sistemas inteligentes.
Por eso, el desafío contemporáneo no consiste únicamente en desarrollar tecnologías más sofisticadas, sino en construir categorías capaces de orientar históricamente esa nueva forma de convivencia. Toda ética supone una proyección de sentido sobre el mundo que habitamos. Ese sentido no puede permanecer desligado de las condiciones materiales que hicieron posible nuestra existencia ni de las transformaciones históricas que continúan modelándola.
III. La responsabilidad distribuida como consecuencia
Una nueva concepción de inteligencia modifica inevitablemente el modo de comprender la responsabilidad. Ésta constituye, probablemente, una de las consecuencias éticas más profundas de la inteligencia artificial.
Durante siglos resultó razonable atribuir la responsabilidad siguiendo cadenas causales relativamente lineales. Las acciones podían vincularse con sujetos identificables; las decisiones tenían autores reconocibles; los daños permitían reconstruir responsabilidades y el derecho encontraba, con relativa estabilidad, criterios de imputación.
Ese modelo continúa siendo indispensable. Sin embargo, comienza a mostrar sus límites cuando la producción del conocimiento, la toma de decisiones y la generación de efectos dejan de concentrarse en individuos aislados para desplegarse dentro de entramados complejos donde interactúan personas, organizaciones, infraestructuras digitales, sistemas inteligentes y marcos regulatorios.
Aceptar esta transformación supone asumir una verdad incómoda. Buena parte de las categorías con las que continuamos regulando el desarrollo tecnológico fueron concebidas para un mundo cuya producción del conocimiento respondía a dinámicas muy distintas.
Mientras la complejidad de los sistemas aumenta, nuestras formas de atribuir responsabilidades, garantizar derechos y distribuir capacidades de decisión continúan apoyándose, en muchos casos, sobre presupuestos que ya no describen adecuadamente la realidad.
La responsabilidad distribuida no propone diluir la responsabilidad individual. Propone comprenderla con mayor precisión.
Cada actor interviene desde capacidades diversas, con grados distintos de conocimiento, poder de decisión y posibilidad efectiva de prevenir consecuencias. Quien diseña un modelo no posee las mismas obligaciones que quien lo implementa; quien financia una infraestructura no responde del mismo modo que quien utiliza un sistema en un contexto profesional; quien regula un ecosistema tecnológico tampoco puede desentenderse de los efectos que ese ecosistema produce sobre la vida colectiva.
Y en el marco de esta gran complejidad, una ética de la responsabilidad distribuida no podrá simplificarse ni reducirse a establecer un número de obligaciones.
Por el contrario, debe preservar la capacidad crítica de las comunidades para deliberar sobre las formas de interacción que consideran compatibles con su propio proyecto de convivencia.
Esa deliberación no pertenece exclusivamente a expertos o desarrolladores tecnológicos. Requiere la participación de saberes científicos, jurídicos, sociales, filosóficos y técnicos, pero también de las comunidades directamente involucradas y de la ciudadanía, cuya experiencia concreta permite reconocer impactos, vulnerabilidades y límites que ningún enfoque disciplinario puede agotar por sí solo. Desde ese espacio plural resulta legítimo incorporar nuevas formas de inteligencia, establecer condiciones para su desarrollo o incluso rechazarlas cuando una comunidad considere que determinadas intervenciones comprometen su autonomía, sus derechos o su modo de vida.
Esa decisión no constituye, por sí misma, una expresión de discriminación ni de rechazo irracional al cambio. Constituye en cambio, una manifestación legítima de autonomía colectiva y encuentra sustento en un principio ampliamente reconocido por el derecho internacional: la autodeterminación de los pueblos.
En una sociedad democrática, el desarrollo tecnológico no puede imponerse como un destino inexorable, sino permanecer abierto a la deliberación informada de las comunidades que deberán convivir con sus consecuencias.
Las consecuencias de este desajuste no son únicamente teóricas. Se manifiestan cotidianamente en nuevas formas de vulnerabilidad.
Las brechas digitales ya no expresan solamente diferencias de acceso a tecnologías, sino también desigualdades en la capacidad de comprenderlas, cuestionarlas, intervenir sobre ellas y participar en las decisiones que organizan la vida colectiva.
En ese contexto adquiere especial relevancia lo que aquí denominamos analfabetismo estructural en inteligencia artificial. No se trata simplemente de una carencia de conocimientos técnicos. Designa una situación en la que amplios sectores de la sociedad participan cotidianamente de sistemas que condicionan decisiones relevantes sin disponer de herramientas suficientes para comprender su funcionamiento, cuestionar sus efectos o intervenir críticamente sobre ellos. Las personas mayores, las comunidades con menor acceso educativo, las poblaciones históricamente vulneradas y los países periféricos experimentan estas desigualdades con especial intensidad.
Cuando una arquitectura tecnológica incrementa sistemáticamente esas asimetrías sin generar condiciones efectivas de participación, comprensión y resguardo de derechos, deja de tratarse únicamente de un problema tecnológico. Se convierte, como venimos sosteniendo, en un problema ético y democrático.
En ese contexto adquieren sentido cuestiones que con frecuencia analizamos de manera aislada. La justicia algorítmica deja de ser únicamente una cuestión estadística para convertirse en un problema de distribución del poder.
El denominado colonialismo digital deja de describir exclusivamente una dependencia tecnológica para revelar una dependencia más profunda: la adopción acrítica de categorías, infraestructuras y modelos de inteligencia concebidos desde realidades sociales, culturales y económicas distintas de aquellas en las que serán aplicados.
Estas brechas no constituyen efectos inevitables del desarrollo tecnológico. Expresan consecuencias de determinadas formas de concebir e intentar organizar la inteligencia, distribuir el conocimiento y ejercer el poder.
En tales condiciones entendemos que la tarea de una ética no consiste en reparar los daños una vez producidos, sino en hacer visibles las condiciones que pueden generarlos y orientar, mediante la deliberación colectiva, principios capaces de prevenir formas evitables de vulneración y de no daño. Las tecnologías no distribuyen únicamente capacidades técnicas; también distribuyen oportunidades, vulnerabilidades y posibilidades de participación en la vida común.
Por ello, la responsabilidad ética comienza mucho antes del daño. Comienza cuando una comunidad decide, de manera informada y deliberativa, qué formas de convivencia está dispuesta a construir, aceptar, limitar o rechazar mediante sus tecnologías.
IV. El Manifiesto EIA LATAM: una propuesta ética desde América Latina
En este contexto surge el Manifiesto EIA LATAM.
Este Manifiesto no pretende ser la forma de una respuesta definitiva a la problemática expuesta en los puntos anteriores. Tampoco busca ser un nuevo catálogo de principios destinado a incorporarse a la extensa lista de documentos sobre inteligencia artificial. Surge de una pregunta distinta: ¿qué arquitectura ética necesita una sociedad cuya producción de conocimiento ya no puede comprenderse únicamente desde individuos aislados, sino desde colectivos inteligentes que interactúan permanentemente?
Buena parte de los marcos contemporáneos parten de la tecnología para preguntarse cómo gestionar sus riesgos. El Manifiesto EIA LATAM invierte deliberadamente esa perspectiva. Parte de la convivencia para preguntarse qué condiciones permiten que diferentes inteligencias —humanas y artificiales— participen de una misma comunidad sin erosionar la dignidad, la autonomía, la autodeterminación de los pueblos ni la capacidad colectiva de deliberación.
Estas reflexiones encuentran su desarrollo sistemático en el Manifiesto EIA LATAM, elaborado por Verónica Recchia, Rosario Contreras y Estephany Surco, con la revisión académica de Eveling Gloria Castro Gutiérrez y Eduardo Fabián Cossi.
Publicado en Zenodo (DOI: 10.5281/zenodo.21212137), el documento desarrolla una arquitectura ética integrada por ocho principios orientadores concebidos como un sistema de relaciones antes que como un conjunto de recomendaciones independientes.
Por esa razón, sus ocho principios no deben leerse de manera aislada. Constituyen una arquitectura. La soberanía cognitiva protege la capacidad de comprender, deliberar y decidir. La responsabilidad distribuida reorganiza la atribución de obligaciones dentro de sistemas complejos. La transparencia, la explicabilidad y la auditabilidad hacen posible el ejercicio efectivo de esa responsabilidad. La justicia algorítmica y el principio de no daño recuerdan que ninguna innovación puede legitimarse reproduciendo desigualdades estructurales. La autonomía relacional reconoce que ninguna inteligencia se desarrolla completamente aislada de las relaciones que la constituyen. La equidad tecnológica latinoamericana incorpora una dimensión frecuentemente ausente en los debates globales: la necesidad de que nuestra región participe también en la producción del conocimiento, de las infraestructuras y de las categorías desde las cuales se piensa la inteligencia. Finalmente, la convivencia pacífica deja de ser una aspiración abstracta para convertirse en el horizonte que articula todos los principios anteriores.
El valor del Manifiesto no reside únicamente en cada uno de estos conceptos. Reside, sobre todo, en la relación que establecen entre sí. No propone agregar límites externos al desarrollo tecnológico. Propone reconstruir la arquitectura ética desde la cual ese desarrollo adquiere sentido.
V. Pensar la inteligencia también es decidir cómo queremos convivir
Cada revolución tecnológica modifica herramientas. Muy pocas modifican las categorías con las que pensamos el mundo. La inteligencia artificial pertenece a este segundo grupo. No transforma únicamente la velocidad con la que producimos información ni la eficiencia con la que resolvemos determinados problemas. Interviene sobre las formas mediante las cuales comprendemos la inteligencia, distribuimos la responsabilidad, producimos conocimiento y organizamos la convivencia.
Por esa razón, el debate ético no puede quedar reducido a mecanismos de control posteriores al desarrollo tecnológico. La pregunta ya no consiste solamente en cómo construir sistemas más seguros. Consiste en decidir qué tipo de comunidad queremos construir cuando la inteligencia deja de ser comprendida como un atributo exclusivamente individual y comienza a desplegarse dentro de entramados de interacción cada vez más complejos.
América Latina enfrenta aquí una oportunidad histórica.
Durante demasiado tiempo nuestra región ocupó un lugar periférico dentro de la producción tecnológica global. Consumimos plataformas, modelos e infraestructuras desarrolladas en otros contextos, mientras nuestras experiencias sociales, culturales y políticas permanecían escasamente representadas en los procesos mediante los cuales esas tecnologías eran concebidas.
La verdadera soberanía tecnológica no depende únicamente de producir más software o entrenar modelos propios. Depende también de participar en la construcción de las categorías con las que el mundo comprenderá la inteligencia durante las próximas décadas.
Pensar desde América Latina no significa elaborar una ética regional para problemas regionales; significa incorporar a la deliberación global experiencias, vulnerabilidades y horizontes históricos que han permanecido insuficientemente representados en la construcción de las arquitecturas éticas contemporáneas.
Por eso, el desafío ya no consiste solamente en desarrollar inteligencia artificial. Consiste en desarrollar una ética capaz de orientar la convivencia entre inteligencias.
Ése es el horizonte desde el cual fue concebido el Manifiesto EIA LATAM. No pretende clausurar una conversación. Pretende sostenerla. Porque si toda ética encuentra su legitimidad en la deliberación crítica de una comunidad, entonces pensar la inteligencia artificial no consiste únicamente en desarrollar nuevas tecnologías. Consiste, también, en preservar la capacidad colectiva de seguir preguntándonos cómo queremos convivir en el mundo que estamos construyendo.
Este breve ensayo-artículo presenta una síntesis de las principales ideas desarrolladas en el Manifiesto EIA LATAM, publicado en Zenodo (DOI: 10.5281/zenodo.21212137). El documento completo desarrolla los fundamentos conceptuales y los ocho principios que estructuran esta propuesta ética para la convivencia entre inteligencias.
