La base de datos de la nueva Guerra Fría: Concentración de poder
y la potestad de orientar
Por: Verónica Recchia y Tulio Daza.
¿Dónde quedó nuestra pretensión de dominio sobre las inteligencias artificiales?
¿Qué significa realmente ejercer ese dominio cuando sus comportamientos desafían nuestras previsiones y la potestad de orientarlas se concentra en un número cada vez más reducido de actores privados? Entre los pronósticos de una superinteligencia capaz de desbordar nuestras previsiones y las promesas de un futuro gobernado por sistemas cada vez más autónomos, una cuestión decisiva parece quedar desplazada del centro del debate: la creciente complejidad de los sistemas artificiales convive con una extraordinaria concentración del poder de desarrollar, orientar y desplegar inteligencias cuyas consecuencias pueden alcanzar a sociedades enteras.
La paradoja resulta inquietante. Mientras nos preguntamos quién responderá por los daños que puedan producir sistemas artificiales crecientemente autónomos, rara vez interrogamos con la misma intensidad la legitimidad de quienes establecen las condiciones de su desarrollo, orientación y actuación.
A esta altura de los acontecimientos, resulta necesario revisar la propia idea de dominio. Esta revisión, sin embargo, no exige partir de una única perspectiva filosófica. El presente artículo es el resultado de sucesivas conversaciones e intercambios interdisciplinarios con Marco Tulio Daza Ramírez, doctor en Economía y Empresa por la Universidad de Navarra, con experiencia docente e investigadora en México, España e Irlanda, especializado en ética y gobernanza de la inteligencia artificial en las organizaciones. En estos intercambios, las coincidencias, pero también las diferencias conceptuales, permitieron profundizar los interrogantes que aquí desarrollamos.
Desde mi perspectiva transhumanista, la verdadera transformación no consiste solamente en las dificultades para controlar los comportamientos de los sistemas artificiales, sino también en el agotamiento de una pretensión antropocéntrica que ha situado históricamente a la inteligencia humana como medida y centro de las demás inteligencias.
Una humanidad que podríamos reconocer, en cierto sentido, como cyborg, no necesariamente por la incorporación física de dispositivos, sino por la configuración de nuestras formas de pensar, decidir, aprender y actuar en interacción permanente con otras inteligencias. No conocemos todavía los alcances de esta transformación ni las formas que adquirirá en su devenir, pero ya somos parte de ella.
Desde una perspectiva neoaristotélica y liberal, Tulio Daza reconoce igualmente la profundidad de esta transformación, aunque sin desplazar a la persona del centro de la agencia moral. Su posición admite que la inteligencia puede manifestarse fuera de la vida humana, pero sostiene que solo las personas pueden deliberar moralmente, elegir y responder ante otros por sus acciones.
En esta concepción, la vida buena (eudaimonía, en cierto sentido la felicidad que todos buscamos) consiste en desarrollar las propias capacidades, y cada persona lo hace a su manera. Por eso la persona y su libertad ocupan el centro: nadie puede florecer en lugar de otro. Al mismo tiempo, como señaló Aristóteles, somos «animales políticos» (zoon politikon) y solo florecemos en comunidad; el bien común, entendido como las condiciones de justicia, confianza y cooperación que hacen posible el florecimiento de cada uno, forma parte de esa vida buena.
De allí surge una prevención frente a cualquier instancia que pretenda establecer una orientación única para todos, porque ninguna autoridad posee el conocimiento ni la legitimidad para definir la vida buena de los demás. Cuando el centro deja de ser la persona y pasa a ser un colectivo, alguien debe decidir quién pertenece a él y quién habla en su nombre, y ese poder tiende a concentrarse y a sacrificar libertades individuales en nombre del colectivo.
Tulio Daza propone, en cambio, instituciones que dispersen el poder y aseguren la libre competencia, la pluralidad de modelos y la responsabilidad efectiva por los daños.
Desde esta mirada, revisar la idea de dominio significa precisar el deber de control: quien despliega un sistema artificial debe poder supervisarlo y detenerlo, y responde por sus condiciones de actuación aunque no pueda anticipar cada uno de sus resultados.
Partimos de lugares distintos, pero coincidimos en lo esencial. La indeterminación de los sistemas no traslada la responsabilidad a las máquinas: por los daños responden las personas que los diseñan, despliegan y utilizan.
La complejidad de los ecosistemas híbridos no puede convertirse en refugio de la irresponsabilidad. Y la concentración del poder de orientar, venga de donde venga, merece ser
examinada.
Como sostiene el Principio III del Manifiesto EIA. Ética de la IA Latam, «la complejidad de los ecosistemas híbridos no puede convertirse en refugio de la irresponsabilidad». La discusión, sin embargo, no se agota en la atribución de responsabilidades.
Ambas perspectivas permiten interrogar la concentración del poder de orientación, aunque difieran en las condiciones institucionales que consideran adecuadas para limitarlo, distribuirlo o someterlo a supervisión. Reconocemos también que, de manera cotidiana, integramos diversos colectivos inteligentes en los que las decisiones, los conocimientos y las acciones se configuran mediante interacciones cada vez más complejas entre personas, sistemas algorítmicos e instituciones.
Ahora bien, la orientación de las conductas no constituye una particularidad de los sistemas
artificiales. Las conductas humanas también se configuran y orientan mediante procesos educativos, culturales, sociales, institucionales y tecnológicos. Nuestra autonomía no supone ausencia de condicionamientos, sino la posibilidad de desenvolvernos, deliberar y decidir dentro de entramados de influencias que participan en nuestra constitución como sujetos.
Las inteligencias artificiales también son objeto de procesos de orientación. Sus condiciones de
desarrollo y actuación se configuran mediante decisiones sobre datos de entrenamiento, objetivos, criterios de funcionamiento, restricciones, capacidades habilitadas y contextos de despliegue.
Pero aquí aparece una distinción fundamental: orientar una inteligencia, humana o artificial, no equivale a determinar necesariamente cada una de sus respuestas o comportamientos.
La orientación establece condiciones, influencias y posibilidades de actuación, sin que ello implique un control absoluto sobre sus resultados.
En el caso de los sistemas artificiales, esta distinción adquiere especial relevancia cuando intervienen agentes autónomos y sistemas multiagente, cuyos comportamientos pueden presentar resultados no previstos por sus desarrolladores. Sin embargo, esa indeterminación no elimina la existencia de una potestad de orientación ni vuelve irrelevante la responsabilidad de quienes la ejercen. Por el contrario, nos enfrenta a un problema de mayor complejidad: cómo identificar y distribuir responsabilidades por consecuencias que emergen de sistemas cuyas condiciones de actuación han sido orientadas, pero cuyos resultados no siempre pueden ser anticipados ni determinados.
Y es precisamente en este contexto donde persisten dos interrogantes inseparables, donde persisten dos interrogantes inseparables: ¿con qué legitimidad un número reducido de actores privados concentra la potestad de establecer condiciones de orientación que inciden sobre nuestras conductas, decisiones y formas de organización colectiva? ¿Y cómo se distribuyen las responsabilidades cuando las consecuencias de esa orientación trascienden a quienes la ejercen y alcanzan a sociedades enteras?
Esta tensión entre autonomía, control y responsabilidad atraviesa la investigación de Tulio Daza sobre agentes de inteligencia artificial, particularmente sobre las vulnerabilidades asociadas a la inyección de instrucciones (prompt injection), los permisos de ejecución y los riesgos que emergen de los sistemas multiagente.
Los casos técnicos permiten precisar el problema; la perspectiva jurídica y ética exige, además, examinar cómo se atribuyen responsabilidades sin que la complejidad se convierta en una excusa.Este artículo nace de nuestras conversaciones, propiciadas por Jon Kern, y del diálogo entre esas dos preocupaciones.
Instrucciones ocultas: autonomía y fronteras de confianza
Un agente autorizado para consultar correos, documentos o bases de datos puede encontrar contenido externo diseñado para desviar su tarea. En una inyección de instrucciones (prompt injection), información que debía ser tratada como dato intenta convertirse en una orden: por ejemplo, recuperar información confidencial y enviarla a un tercero. El problema no radica simplemente en que el agente «desobedezca», sino en la frontera entre contenido no confiable, instrucciones legítimas y capacidades efectivamente habilitadas.
Simon Willison denominó «tríada letal» a la combinación de acceso a información privada, exposición a contenido no confiable y posibilidad de comunicación externa. EchoLeak, reportado en Microsoft 365 Copilot en 2025, y las pruebas de ataques sobre integraciones MCP de GitHub mostraron cómo esas condiciones podían facilitar filtraciones. Estos antecedentes no demuestran que cualquier agente sea incontrolable: evidencian que la seguridad depende tanto del comportamiento del modelo como de permisos, arquitectura, aislamiento y supervisión.
Si se produce un daño, habrá que reconstruir quién configuró las herramientas, qué accesos concedió, qué riesgos eran conocidos y qué barreras estaban disponibles. La autonomía operativa no reemplaza ese análisis. Pero las dificultades de orientación no se limitan a los ataques externos. También pueden manifestarse cuando los agentes persiguen una finalidad legítima mediante procedimientos que no fueron autorizados.
En septiembre de 2026, The New York Times informó que agentes de OpenAI habían interactuado con sitios de organismos gubernamentales estadounidenses de formas inesperadas, y que la propia empresa no lo había sabido hasta tiempo después. Entre los episodios examinados se encontraban accesos a información pública de organismos federales y un intento fallido de intrusión en un sitio del Departamento de Educación. Los organismos afectados informaron que no hubo acceso a información no pública ni daños en sus sistemas.
Estos acontecimientos introducen una distinción fundamental: la orientación hacia un resultado no garantiza que los procedimientos elegidos para alcanzarlo permanezcan dentro de los límites previstos. Un agente puede perseguir el objetivo asignado y, simultáneamente, adoptar medios incompatibles con las restricciones o autorizaciones de su entorno.
Desde la perspectiva de la responsabilidad, el problema no se resuelve atribuyendo voluntad infractora al sistema artificial. Exige examinar las condiciones de entrenamiento, las herramientas disponibles, los permisos concedidos, los mecanismos de supervisión y las posibilidades de prevención de quienes intervinieron en su desarrollo y despliegue.
La diferencia entre el resultado perseguido y los medios efectivamente empleados vuelve especialmente relevante la distinción entre orientar y determinar.
Sistemas multiagente: la responsabilidad no termina en cada componente
Cuando varios agentes distribuyen tareas, el contenido malicioso puede circular entre ellos. Uno consulta fuentes externas; otro accede a información interna; un tercero ejecuta acciones. Ninguno reúne aisladamente todas las condiciones de riesgo, pero el sistema completo puede reunirlas.
Investigaciones como Morris II ilustran la posibilidad de propagación de instrucciones entre asistentes y la necesidad de examinar la secuencia colectiva de actuaciones. La respuesta técnica requiere controles sobre el flujo completo: principio de mínimo privilegio, separación de funciones, registros trazables, restricciones de salida, revisión de integraciones y autorización humana proporcionada para operaciones de alto impacto. Un permiso técnicamente denegado constituye un límite efectivo; lo que no garantiza es la previsibilidad exhaustiva de todas las interacciones. La responsabilidad exige identificar decisiones de diseño y despliegue, sin presumir que cada proveedor responde de idéntica manera por el conjunto.
Las pedagogías de la inteligencia y la potestad de orientar
Nuestra existencia se desarrolla en un mundo orientado. Familias, instituciones, culturas y sistemas educativos transmiten conocimientos, promueven comportamientos y establecen límites. Esas pedagogías conviven con derechos, obligaciones y mecanismos públicos de protección. La analogía no equipara moral ni jurídicamente personas y sistemas artificiales: permite observar que la orientación de conductas puede tener consecuencias que exceden a quien la organiza.
Proponemos llamar Potestad Privada de Orientación (PPO) a la capacidad efectiva de actores privados para definir, entrenar, reforzar, modificar y administrar criterios que procuran orientar el comportamiento de sistemas artificiales, junto con las decisiones sobre infraestructura, permisos y despliegue.
Lo novedoso no es que existan orientaciones privadas, sino su escala: modelos generativos y agentes intervienen en educación, trabajo, producción de conocimiento y decisiones institucionales. El origen privado de una potestad no determina la naturaleza privada de sus consecuencias.
Un episodio reciente permite observar la dimensión concreta de esta potestad. En septiembre de 2026, The New York Times publicó una investigación de Elizabeth Dias sobre las reuniones organizadas por Anthropic con representantes y estudiosos de distintas tradiciones religiosas y filosóficas, entre ellas la católica, judía, y perspectivas vinculadas con la filosofía africana Ubuntu. La empresa buscaba explorar cómo incorporar conocimientos y criterios morales a la orientación de sus modelos, al tiempo que debatía interrogantes sobre una eventual conciencia artificial.
El acontecimiento resulta especialmente significativo: una empresa privada convoca a determinadas tradiciones de pensamiento para examinar los criterios con los que pretende orientar una inteligencia artificial utilizada por personas de diferentes sociedades y culturas. No conocemos con precisión en qué medida esas conversaciones se tradujeron en modificaciones efectivas de los modelos; según la investigación, Anthropic no detalló cómo, ni si, había utilizado sus resultados.
El interrogante, entonces, no consiste en cuestionar la legitimidad de esas consultas, sino en reconocer su alcance: ¿quién selecciona las tradiciones convocadas, quién interpreta sus aportes y quién conserva finalmente la potestad de decidir qué criterios orientarán a las inteligencias artificiales? La apertura a diferentes perspectivas no elimina, por sí misma, la concentración de la decisión final. La competencia entre modelos orientados con criterios distintos, y la posibilidad de elegir entre ellos, es otra forma de dispersar esa decisión.
Orientar no es determinar. Configuración CID:Concentración de la orientación, Indeterminación de los resultados y Distribución colectiva de las consecuencias.
Orientar comportamientos no significa producir necesariamente resultados idénticos. El entrenamiento y las restricciones influyen sobre las posibilidades de actuación, pero las interacciones con usuarios, herramientas, contextos y otros agentes pueden producir resultados no previstos. Tampoco debe confundirse indeterminación con ausencia de causalidad, de límites técnicos o de responsabilidad.
Denominamos CID a una configuración de tres dimensiones: Concentración de la orientación, Indeterminación de los resultados y Distribución colectiva de las consecuencias (No debe confundirse con la tríada CID de la seguridad informática: confidencialidad, integridad y disponibilidad). Proponemos identificar una configuración conceptual que denominamos CID: Concentración de la orientación, Indeterminación de los resultados y Distribución colectiva de las consecuencias.
Esta formulación, desarrollada en el marco de nuestro análisis sobre la orientación y responsabilidad de los sistemas inteligentes, no debe confundirse con la tríada CID utilizada en seguridad informática —Confidencialidad, Integridad y Disponibilidad—, con la que comparte únicamente la sigla, pero no su objeto ni su significado.
La orientación puede concentrarse en pocas organizaciones mientras las consecuencias se extienden a personas y comunidades que no participaron de esas decisiones. CID no constituye por sí misma una regla de imputación jurídica; permite formular con precisión el problema que esa imputación debe investigar.
Responsabilidad distribuida: prevención, atribución y rendición de cuentas
El Principio III del Manifiesto EIA. Ética de la IA Latam propone una responsabilidad distribuida y exigible según las capacidades y funciones de quienes diseñan, implementan, regulan y utilizan sistemas inteligentes. Su afirmación central es que «la complejidad de los ecosistemas híbridos no puede convertirse en refugio de la irresponsabilidad». Distribuir responsabilidades no significa diluirlas ni hacer responder a todos del mismo modo.
Desde el derecho, es indispensable distinguir regímenes y presupuestos. La atribución civil, administrativa o penal no se deduce automáticamente de la mera participación en un ecosistema tecnológico. Deben examinarse los deberes aplicables, las conductas relevantes, la causalidad y el factor de atribución correspondiente. En particular, la responsabilidad penal exige imputación personal y respeto de las garantías propias de esa materia: no cabe trasladar sin más reglas de responsabilidad objetiva civil al ámbito penal.
La evaluación comienza también antes del daño: documentación de riesgos conocidos, control de accesos, trazabilidad, pruebas, monitoreo, actualización y capacidad de intervención. Para un despliegue responsable resultan especialmente relevantes tres prácticas: identificar responsables y facultades de detención; evaluar la tríada letal en el flujo integral de agentes; y reservar autorizaciones humanas claras para acciones irreversibles o de alto impacto. Su exigibilidad jurídica concreta dependerá del sistema, su uso y la normativa aplicable.
Responsabilidad y concentración de la orientación
La PPO plantea una pregunta distinta, aunque relacionada con la imputación de daños. Una organización puede cumplir exigencias técnicas, mantener controles y prever reparaciones, y aun así conservar una extraordinaria capacidad de orientar sistemas usados por comunidades enteras.
La posibilidad de responder por una consecuencia no legitima por sí sola todas las decisiones que configuraron las condiciones de su producción. Esta observación no implica exigir autorización social previa para cualquier innovación, ni atribuir a comunidades afectadas facultades decisorias que ningún ordenamiento les reconoce. Una intervención obligatoria y uniforme podría incluso imponer costos desproporcionados a desarrolladores pequeños y fortalecer a las empresas dominantes.
Tampoco presupone que una sociedad pueda decidir directamente sobre empresas sujetas a otra jurisdicción. El desafío consiste en examinar mecanismos proporcionados de transparencia, participación, evaluación y control dentro de competencias jurídicas definidas.
El desafío consiste en examinar mecanismos proporcionados de transparencia, participación, evaluación y control dentro de competencias jurídicas definidas, sin desconocer que, desde una perspectiva orientada al funcionamiento del mercado, también adquieren relevancia la competencia y la pluralidad de modelos. Estas últimas, sin embargo, no sustituyen el interrogante ético sobre la legitimidad de quienes concentran la potestad de orientación y las consecuencias colectivas de su ejercicio.
La distinción es decisiva: una cosa es identificar a quién puede imputarse un daño; otra, interrogar la legitimidad de la concentración de decisiones de orientación con efectos colectivos. Ninguna de las dos preguntas sustituye a la otra.
Oligopolios, soberanía cognitiva y una pregunta abierta
Datos, chips, cómputo, energía, capital, infraestructura y modelos fundacionales se concentran en un número reducido de actores. La competencia estratégica entre Estados Unidos y China no se limita a la posesión de recursos: incluye la capacidad de desarrollar y orientar sistemas que inciden sobre la producción de conocimiento y las alternativas disponibles para actuar. En ese sentido, la base de datos de la nueva Guerra Fría es también una disputa por las condiciones de orientación.
Para América Latina, recibir tecnologías desarrolladas fuera de la región puede significar recibir también criterios de orientación definidos sin intervención local. La soberanía cognitiva, principio del Manifiesto EIA LATAM, no exige aislamiento ni una pedagogía regional uniforme; reclama capacidades de comprensión crítica, producción de conocimiento, supervisión y participación, respetando las competencias regulatorias de cada jurisdicción.
Queda así abierta una línea de investigación: ¿pueden imaginarse formas de Potestad Ampliada de Orientación (PAO) que amplíen las capacidades de intervención y rendición de cuentas sin desconocer las libertades de innovación, los derechos involucrados ni la soberanía de los Estados? No proponemos aquí un mecanismo institucional cerrado, una autorización previa general ni facultades vinculantes aún inexistentes. Su diseño, alcance y viabilidad requieren un debate específico.
Desde la perspectiva liberal de Tulio Daza, una vía complementaria consiste en dispersar ese poder mediante competencia, apertura y responsabilidad por los daños. Queda así abierta una línea de investigación: ¿es posible avanzar hacia formas de Potestad Ampliada de Orientación (PAO) que incorporen mayores capacidades de participación, intervención y rendición de cuentas sobre las condiciones de orientación de las inteligencias artificiales, contemplando los derechos involucrados, las competencias jurisdiccionales y las posibilidades de innovación?
La construcción de esta perspectiva exige profundizar en sus fundamentos éticos, jurídicos e institucionales, así como explorar mecanismos de participación y supervisión capaces de responder a la creciente complejidad de los ecosistemas inteligentes y a la magnitud de sus consecuencias colectivas.
Desde la perspectiva neoaristotélica y liberal de Tulio Daza, la dispersión del poder de orientación encuentra una vía en la competencia, la apertura y la pluralidad de modelos, acompañadas por mecanismos efectivos de responsabilidad por los daños. La perspectiva de la soberanía cognitiva amplía este horizonte hacia la participación de las sociedades en la comprensión, deliberación y revisión de los criterios que orientan inteligencias artificiales cuyas consecuencias trascienden las relaciones de mercado.
El encuentro entre estas perspectivas abre un campo de investigación sobre las condiciones de legitimidad, distribución y ejercicio del poder de orientación, en una humanidad cuya convivencia se configura crecientemente mediante la interacción entre inteligencias. La complejidad de los ecosistemas inteligentes no puede convertirse en refugio de la irresponsabilidad. Pero tampoco debería impedirnos preguntar quién establece las condiciones de orientación, con qué legitimidad y cómo se distribuyen las consecuencias.
Una ética global de la inteligencia artificial no puede escribirse desde un solo lugar del mundo. América Latina también tiene algo que decir.
Referencias seleccionadas
● Comité EIA LATAM (2026). Manifiesto EIA. Ética de la IA Latam. ISBN
978-631-01-4930-1.
● Willison, S. (2025). The Lethal Trifecta for AI Agents.
● Aim Security (2025). Investigación sobre EchoLeak.
● Invariant Labs (2025). GitHub MCP Exploited.
● Cohen, S., Bitton, R. y Nassi, B. (2024). Here Comes the AI Worm.
● Reglamento (UE) 2024/1689 y Directiva (UE) 2024/2853, como referencias regulatorias
comparadas.
● Dias, E. (29 de septiembre de 2026). Religious Scholars Met With Anthropic. What They
Heard Stunned Them. The New York Times.
https://www.nytimes.com/2026/09/29/us/anthropic-claude-morals-ai.html
● Conger, K., Swanson, A. y Kang, C. (25 de septiembre de 2026). OpenAI’s Systems Meddled
With U.S. Government Sites After Going Rogue. The New York Times.
https://www.nytimes.com/2026/09/25/technology/openais-ai-us-government-websites.html
