La base de datos de la nueva Guerra Fr\u00eda: Concentraci\u00f3n de poder
y la potestad de orientar<\/p>\n\n\n\n
Por: Ver\u00f3nica Recchia<\/a> y Tulio Daza.<\/a><\/p>\n\n\n\n \u00bfD\u00f3nde qued\u00f3 nuestra pretensi\u00f3n de dominio sobre las inteligencias artificiales? <\/p>\n\n\n\n \u00bfQu\u00e9 significa realmente ejercer ese dominio cuando sus comportamientos desaf\u00edan nuestras previsiones y la potestad de orientarlas se concentra en un n\u00famero cada vez m\u00e1s reducido de actores privados? Entre los pron\u00f3sticos de una superinteligencia capaz de desbordar nuestras previsiones y las promesas de un futuro gobernado por sistemas cada vez m\u00e1s aut\u00f3nomos, una cuesti\u00f3n decisiva parece quedar desplazada del centro del debate: la creciente complejidad de los sistemas artificiales convive con una extraordinaria concentraci\u00f3n del poder de desarrollar, orientar y desplegar inteligencias cuyas consecuencias pueden alcanzar a sociedades enteras.<\/p>\n\n\n\n La paradoja resulta inquietante. Mientras nos preguntamos qui\u00e9n responder\u00e1 por los da\u00f1os que puedan producir sistemas artificiales crecientemente aut\u00f3nomos, rara vez interrogamos con la misma intensidad la legitimidad de quienes establecen las condiciones de su desarrollo, orientaci\u00f3n y actuaci\u00f3n. <\/p>\n\n\n\n A esta altura de los acontecimientos, resulta necesario revisar la propia idea de dominio. Esta revisi\u00f3n, sin embargo, no exige partir de una \u00fanica perspectiva filos\u00f3fica. El presente art\u00edculo es el resultado de sucesivas conversaciones e intercambios interdisciplinarios con Marco Tulio Daza Ram\u00edrez, doctor en Econom\u00eda y Empresa por la Universidad de Navarra, con experiencia docente e investigadora en M\u00e9xico, Espa\u00f1a e Irlanda, especializado en \u00e9tica y gobernanza de la inteligencia artificial en las organizaciones. En estos intercambios, las coincidencias, pero tambi\u00e9n las diferencias conceptuales, permitieron profundizar los interrogantes que aqu\u00ed desarrollamos.<\/p>\n\n\n\n Desde mi perspectiva transhumanista, la verdadera transformaci\u00f3n no consiste solamente en las dificultades para controlar los comportamientos de los sistemas artificiales, sino tambi\u00e9n en el agotamiento de una pretensi\u00f3n antropoc\u00e9ntrica que ha situado hist\u00f3ricamente a la inteligencia humana como medida y centro de las dem\u00e1s inteligencias. <\/p>\n\n\n\n Una humanidad que podr\u00edamos reconocer, en cierto sentido, como cyborg, no necesariamente por la incorporaci\u00f3n f\u00edsica de dispositivos, sino por la configuraci\u00f3n de nuestras formas de pensar, decidir, aprender y actuar en interacci\u00f3n permanente con otras inteligencias. No conocemos todav\u00eda los alcances de esta transformaci\u00f3n ni las formas que adquirir\u00e1 en su devenir, pero ya somos parte de ella.<\/p>\n\n\n\n Desde una perspectiva neoaristot\u00e9lica y liberal, Tulio Daza reconoce igualmente la profundidad de esta transformaci\u00f3n, aunque sin desplazar a la persona del centro de la agencia moral. Su posici\u00f3n admite que la inteligencia puede manifestarse fuera de la vida humana, pero sostiene que solo las personas pueden deliberar moralmente, elegir y responder ante otros por sus acciones.<\/p>\n\n\n\n En esta concepci\u00f3n, la vida buena (eudaimon\u00eda, en cierto sentido la felicidad que todos buscamos) consiste en desarrollar las propias capacidades, y cada persona lo hace a su manera. Por eso la persona y su libertad ocupan el centro: nadie puede florecer en lugar de otro. Al mismo tiempo, como se\u00f1al\u00f3 Arist\u00f3teles, somos \u00abanimales pol\u00edticos\u00bb (zoon politikon) y solo florecemos en comunidad; el bien com\u00fan, entendido como las condiciones de justicia, confianza y cooperaci\u00f3n que hacen posible el florecimiento de cada uno, forma parte de esa vida buena.<\/p>\n\n\n\n De all\u00ed surge una prevenci\u00f3n frente a cualquier instancia que pretenda establecer una orientaci\u00f3n \u00fanica para todos, porque ninguna autoridad posee el conocimiento ni la legitimidad para definir la vida buena de los dem\u00e1s. Cuando el centro deja de ser la persona y pasa a ser un colectivo, alguien debe decidir qui\u00e9n pertenece a \u00e9l y qui\u00e9n habla en su nombre, y ese poder tiende a concentrarse y a sacrificar libertades individuales en nombre del colectivo.<\/p>\n\n\n\n Tulio Daza propone, en cambio, instituciones que dispersen el poder y aseguren la libre competencia, la pluralidad de modelos y la responsabilidad efectiva por los da\u00f1os.<\/p>\n\n\n\n Desde esta mirada, revisar la idea de dominio significa precisar el deber de control: quien despliega un sistema artificial debe poder supervisarlo y detenerlo, y responde por sus condiciones de actuaci\u00f3n aunque no pueda anticipar cada uno de sus resultados.<\/p>\n\n\n\n Partimos de lugares distintos, pero coincidimos en lo esencial. La indeterminaci\u00f3n de los sistemas no traslada la responsabilidad a las m\u00e1quinas: por los da\u00f1os responden las personas que los dise\u00f1an, despliegan y utilizan.<\/p>\n\n\n\n La complejidad de los ecosistemas h\u00edbridos no puede convertirse en refugio de la irresponsabilidad. Y la concentraci\u00f3n del poder de orientar, venga de donde venga, merece ser Como sostiene el Principio III del Manifiesto EIA. \u00c9tica de la IA Latam, \u00abla complejidad de los ecosistemas h\u00edbridos no puede convertirse en refugio de la irresponsabilidad\u00bb. La discusi\u00f3n, sin embargo, no se agota en la atribuci\u00f3n de responsabilidades. <\/p>\n\n\n\n Ambas perspectivas permiten interrogar la concentraci\u00f3n del poder de orientaci\u00f3n, aunque difieran en las condiciones institucionales que consideran adecuadas para limitarlo, distribuirlo o someterlo a supervisi\u00f3n. Reconocemos tambi\u00e9n que, de manera cotidiana, integramos diversos colectivos inteligentes en los que las decisiones, los conocimientos y las acciones se configuran mediante interacciones cada vez m\u00e1s complejas entre personas, sistemas algor\u00edtmicos e instituciones.<\/p>\n\n\n\n Ahora bien, la orientaci\u00f3n de las conductas no constituye una particularidad de los sistemas Las inteligencias artificiales tambi\u00e9n son objeto de procesos de orientaci\u00f3n. Sus condiciones de La orientaci\u00f3n establece condiciones, influencias y posibilidades de actuaci\u00f3n, sin que ello implique un control absoluto sobre sus resultados.<\/p>\n\n\n\n En el caso de los sistemas artificiales, esta distinci\u00f3n adquiere especial relevancia cuando intervienen agentes aut\u00f3nomos y sistemas multiagente, cuyos comportamientos pueden presentar resultados no previstos por sus desarrolladores. Sin embargo, esa indeterminaci\u00f3n no elimina la existencia de una potestad de orientaci\u00f3n ni vuelve irrelevante la responsabilidad de quienes la ejercen. Por el contrario, nos enfrenta a un problema de mayor complejidad: c\u00f3mo identificar y distribuir responsabilidades por consecuencias que emergen de sistemas cuyas condiciones de actuaci\u00f3n han sido orientadas, pero cuyos resultados no siempre pueden ser anticipados ni determinados.<\/p>\n\n\n\n Y es precisamente en este contexto donde persisten dos interrogantes inseparables, donde persisten dos interrogantes inseparables: \u00bfcon qu\u00e9 legitimidad un n\u00famero reducido de actores privados concentra la potestad de establecer condiciones de orientaci\u00f3n que inciden sobre nuestras conductas, decisiones y formas de organizaci\u00f3n colectiva? \u00bfY c\u00f3mo se distribuyen las responsabilidades cuando las consecuencias de esa orientaci\u00f3n trascienden a quienes la ejercen y alcanzan a sociedades enteras?<\/p>\n\n\n\n Esta tensi\u00f3n entre autonom\u00eda, control y responsabilidad atraviesa la investigaci\u00f3n de Tulio Daza sobre agentes de inteligencia artificial, particularmente sobre las vulnerabilidades asociadas a la inyecci\u00f3n de instrucciones (prompt injection), los permisos de ejecuci\u00f3n y los riesgos que emergen de los sistemas multiagente.<\/p>\n\n\n\n Los casos t\u00e9cnicos permiten precisar el problema; la perspectiva jur\u00eddica y \u00e9tica exige, adem\u00e1s, examinar c\u00f3mo se atribuyen responsabilidades sin que la complejidad se convierta en una excusa.Este art\u00edculo nace de nuestras conversaciones, propiciadas por Jon Kern, y del di\u00e1logo entre esas dos preocupaciones.<\/p>\n\n\n\n Un agente autorizado para consultar correos, documentos o bases de datos puede encontrar contenido externo dise\u00f1ado para desviar su tarea. En una inyecci\u00f3n de instrucciones (prompt injection), informaci\u00f3n que deb\u00eda ser tratada como dato intenta convertirse en una orden: por ejemplo, recuperar informaci\u00f3n confidencial y enviarla a un tercero. El problema no radica simplemente en que el agente \u00abdesobedezca\u00bb, sino en la frontera entre contenido no confiable, instrucciones leg\u00edtimas y capacidades efectivamente habilitadas.<\/p>\n\n\n\n Simon Willison denomin\u00f3 \u00abtr\u00edada letal\u00bb a la combinaci\u00f3n de acceso a informaci\u00f3n privada, exposici\u00f3n a contenido no confiable y posibilidad de comunicaci\u00f3n externa. EchoLeak, reportado en Microsoft 365 Copilot en 2025, y las pruebas de ataques sobre integraciones MCP de GitHub mostraron c\u00f3mo esas condiciones pod\u00edan facilitar filtraciones. Estos antecedentes no demuestran que cualquier agente sea incontrolable: evidencian que la seguridad depende tanto del comportamiento del modelo como de permisos, arquitectura, aislamiento y supervisi\u00f3n.<\/p>\n\n\n\n Si se produce un da\u00f1o, habr\u00e1 que reconstruir qui\u00e9n configur\u00f3 las herramientas, qu\u00e9 accesos concedi\u00f3, qu\u00e9 riesgos eran conocidos y qu\u00e9 barreras estaban disponibles. La autonom\u00eda operativa no reemplaza ese an\u00e1lisis. Pero las dificultades de orientaci\u00f3n no se limitan a los ataques externos. Tambi\u00e9n pueden manifestarse cuando los agentes persiguen una finalidad leg\u00edtima mediante procedimientos que no fueron autorizados.<\/p>\n\n\n\n En septiembre de 2026, The New York Times inform\u00f3 que agentes de OpenAI hab\u00edan interactuado con sitios de organismos gubernamentales estadounidenses de formas inesperadas, y que la propia empresa no lo hab\u00eda sabido hasta tiempo despu\u00e9s. Entre los episodios examinados se encontraban accesos a informaci\u00f3n p\u00fablica de organismos federales y un intento fallido de intrusi\u00f3n en un sitio del Departamento de Educaci\u00f3n. Los organismos afectados informaron que no hubo acceso a informaci\u00f3n no p\u00fablica ni da\u00f1os en sus sistemas.<\/p>\n\n\n\n Estos acontecimientos introducen una distinci\u00f3n fundamental: la orientaci\u00f3n hacia un resultado no garantiza que los procedimientos elegidos para alcanzarlo permanezcan dentro de los l\u00edmites previstos. Un agente puede perseguir el objetivo asignado y, simult\u00e1neamente, adoptar medios incompatibles con las restricciones o autorizaciones de su entorno.<\/p>\n\n\n\n Desde la perspectiva de la responsabilidad, el problema no se resuelve atribuyendo voluntad infractora al sistema artificial. Exige examinar las condiciones de entrenamiento, las herramientas disponibles, los permisos concedidos, los mecanismos de supervisi\u00f3n y las posibilidades de prevenci\u00f3n de quienes intervinieron en su desarrollo y despliegue.<\/p>\n\n\n\n La diferencia entre el resultado perseguido y los medios efectivamente empleados vuelve especialmente relevante la distinci\u00f3n entre orientar y determinar.<\/p>\n\n\n\n Cuando varios agentes distribuyen tareas, el contenido malicioso puede circular entre ellos. Uno consulta fuentes externas; otro accede a informaci\u00f3n interna; un tercero ejecuta acciones. Ninguno re\u00fane aisladamente todas las condiciones de riesgo, pero el sistema completo puede reunirlas.<\/p>\n\n\n\n Investigaciones como Morris II ilustran la posibilidad de propagaci\u00f3n de instrucciones entre asistentes y la necesidad de examinar la secuencia colectiva de actuaciones. La respuesta t\u00e9cnica requiere controles sobre el flujo completo: principio de m\u00ednimo privilegio, separaci\u00f3n de funciones, registros trazables, restricciones de salida, revisi\u00f3n de integraciones y autorizaci\u00f3n humana proporcionada para operaciones de alto impacto. Un permiso t\u00e9cnicamente denegado constituye un l\u00edmite efectivo; lo que no garantiza es la previsibilidad exhaustiva de todas las interacciones. La responsabilidad exige identificar decisiones de dise\u00f1o y despliegue, sin presumir que cada proveedor responde de id\u00e9ntica manera por el conjunto.<\/p>\n\n\n\n Nuestra existencia se desarrolla en un mundo orientado. Familias, instituciones, culturas y sistemas educativos transmiten conocimientos, promueven comportamientos y establecen l\u00edmites. Esas pedagog\u00edas conviven con derechos, obligaciones y mecanismos p\u00fablicos de protecci\u00f3n. La analog\u00eda no equipara moral ni jur\u00eddicamente personas y sistemas artificiales: permite observar que la orientaci\u00f3n de conductas puede tener consecuencias que exceden a quien la organiza.<\/p>\n\n\n\n Proponemos llamar Potestad Privada de Orientaci\u00f3n (PPO) a la capacidad efectiva de actores privados para definir, entrenar, reforzar, modificar y administrar criterios que procuran orientar el comportamiento de sistemas artificiales, junto con las decisiones sobre infraestructura, permisos y despliegue.<\/p>\n\n\n\n Lo novedoso no es que existan orientaciones privadas, sino su escala: modelos generativos y agentes intervienen en educaci\u00f3n, trabajo, producci\u00f3n de conocimiento y decisiones institucionales. El origen privado de una potestad no determina la naturaleza privada de sus consecuencias.<\/p>\n\n\n\n Un episodio reciente permite observar la dimensi\u00f3n concreta de esta potestad. En septiembre de 2026, The New York Times public\u00f3 una investigaci\u00f3n de Elizabeth Dias sobre las reuniones organizadas por Anthropic con representantes y estudiosos de distintas tradiciones religiosas y filos\u00f3ficas, entre ellas la cat\u00f3lica, jud\u00eda, y perspectivas vinculadas con la filosof\u00eda africana Ubuntu. La empresa buscaba explorar c\u00f3mo incorporar conocimientos y criterios morales a la orientaci\u00f3n de sus modelos, al tiempo que debat\u00eda interrogantes sobre una eventual conciencia artificial.<\/p>\n\n\n\n El acontecimiento resulta especialmente significativo: una empresa privada convoca a determinadas tradiciones de pensamiento para examinar los criterios con los que pretende orientar una inteligencia artificial utilizada por personas de diferentes sociedades y culturas. No conocemos con precisi\u00f3n en qu\u00e9 medida esas conversaciones se tradujeron en modificaciones efectivas de los modelos; seg\u00fan la investigaci\u00f3n, Anthropic no detall\u00f3 c\u00f3mo, ni si, hab\u00eda utilizado sus resultados.<\/p>\n\n\n\n El interrogante, entonces, no consiste en cuestionar la legitimidad de esas consultas, sino en reconocer su alcance: \u00bfqui\u00e9n selecciona las tradiciones convocadas, qui\u00e9n interpreta sus aportes y qui\u00e9n conserva finalmente la potestad de decidir qu\u00e9 criterios orientar\u00e1n a las inteligencias artificiales? La apertura a diferentes perspectivas no elimina, por s\u00ed misma, la concentraci\u00f3n de la decisi\u00f3n final. La competencia entre modelos orientados con criterios distintos, y la posibilidad de elegir entre ellos, es otra forma de dispersar esa decisi\u00f3n.<\/p>\n\n\n\n Orientar comportamientos no significa producir necesariamente resultados id\u00e9nticos. El entrenamiento y las restricciones influyen sobre las posibilidades de actuaci\u00f3n, pero las interacciones con usuarios, herramientas, contextos y otros agentes pueden producir resultados no previstos. Tampoco debe confundirse indeterminaci\u00f3n con ausencia de causalidad, de l\u00edmites t\u00e9cnicos o de responsabilidad.<\/p>\n\n\n\n Denominamos CID a una configuraci\u00f3n de tres dimensiones: Concentraci\u00f3n de la orientaci\u00f3n, Indeterminaci\u00f3n de los resultados y Distribuci\u00f3n colectiva de las consecuencias (No debe confundirse con la tr\u00edada CID de la seguridad inform\u00e1tica: confidencialidad, integridad y disponibilidad). Proponemos identificar una configuraci\u00f3n conceptual que denominamos CID: Concentraci\u00f3n de la orientaci\u00f3n, Indeterminaci\u00f3n de los resultados y Distribuci\u00f3n colectiva de las consecuencias.<\/p>\n\n\n\n Esta formulaci\u00f3n, desarrollada en el marco de nuestro an\u00e1lisis sobre la orientaci\u00f3n y responsabilidad de los sistemas inteligentes, no debe confundirse con la tr\u00edada CID utilizada en seguridad inform\u00e1tica \u2014Confidencialidad, Integridad y Disponibilidad\u2014, con la que comparte \u00fanicamente la sigla, pero no su objeto ni su significado.<\/p>\n\n\n\n La orientaci\u00f3n puede concentrarse en pocas organizaciones mientras las consecuencias se extienden a personas y comunidades que no participaron de esas decisiones. CID no constituye por s\u00ed misma una regla de imputaci\u00f3n jur\u00eddica; permite formular con precisi\u00f3n el problema que esa imputaci\u00f3n debe investigar.<\/p>\n\n\n\n El Principio III del Manifiesto EIA. \u00c9tica de la IA Latam propone una responsabilidad distribuida y exigible seg\u00fan las capacidades y funciones de quienes dise\u00f1an, implementan, regulan y utilizan sistemas inteligentes. Su afirmaci\u00f3n central es que \u00abla complejidad de los ecosistemas h\u00edbridos no puede convertirse en refugio de la irresponsabilidad\u00bb. Distribuir responsabilidades no significa diluirlas ni hacer responder a todos del mismo modo.<\/p>\n\n\n\n Desde el derecho, es indispensable distinguir reg\u00edmenes y presupuestos. La atribuci\u00f3n civil, administrativa o penal no se deduce autom\u00e1ticamente de la mera participaci\u00f3n en un ecosistema tecnol\u00f3gico. Deben examinarse los deberes aplicables, las conductas relevantes, la causalidad y el factor de atribuci\u00f3n correspondiente. En particular, la responsabilidad penal exige imputaci\u00f3n personal y respeto de las garant\u00edas propias de esa materia: no cabe trasladar sin m\u00e1s reglas de responsabilidad objetiva civil al \u00e1mbito penal.<\/p>\n\n\n\n La evaluaci\u00f3n comienza tambi\u00e9n antes del da\u00f1o: documentaci\u00f3n de riesgos conocidos, control de accesos, trazabilidad, pruebas, monitoreo, actualizaci\u00f3n y capacidad de intervenci\u00f3n. Para un despliegue responsable resultan especialmente relevantes tres pr\u00e1cticas: identificar responsables y facultades de detenci\u00f3n; evaluar la tr\u00edada letal en el flujo integral de agentes; y reservar autorizaciones humanas claras para acciones irreversibles o de alto impacto. Su exigibilidad jur\u00eddica concreta depender\u00e1 del sistema, su uso y la normativa aplicable.<\/p>\n\n\n\n La PPO plantea una pregunta distinta, aunque relacionada con la imputaci\u00f3n de da\u00f1os. Una organizaci\u00f3n puede cumplir exigencias t\u00e9cnicas, mantener controles y prever reparaciones, y aun as\u00ed conservar una extraordinaria capacidad de orientar sistemas usados por comunidades enteras.<\/p>\n\n\n\n La posibilidad de responder por una consecuencia no legitima por s\u00ed sola todas las decisiones que configuraron las condiciones de su producci\u00f3n. Esta observaci\u00f3n no implica exigir autorizaci\u00f3n social previa para cualquier innovaci\u00f3n, ni atribuir a comunidades afectadas facultades decisorias que ning\u00fan ordenamiento les reconoce. Una intervenci\u00f3n obligatoria y uniforme podr\u00eda incluso imponer costos desproporcionados a desarrolladores peque\u00f1os y fortalecer a las empresas dominantes.<\/p>\n\n\n\n Tampoco presupone que una sociedad pueda decidir directamente sobre empresas sujetas a otra jurisdicci\u00f3n. El desaf\u00edo consiste en examinar mecanismos proporcionados de transparencia, participaci\u00f3n, evaluaci\u00f3n y control dentro de competencias jur\u00eddicas definidas.<\/p>\n\n\n\n El desaf\u00edo consiste en examinar mecanismos proporcionados de transparencia, participaci\u00f3n, evaluaci\u00f3n y control dentro de competencias jur\u00eddicas definidas, sin desconocer que, desde una perspectiva orientada al funcionamiento del mercado, tambi\u00e9n adquieren relevancia la competencia y la pluralidad de modelos. Estas \u00faltimas, sin embargo, no sustituyen el interrogante \u00e9tico sobre la legitimidad de quienes concentran la potestad de orientaci\u00f3n y las consecuencias colectivas de su ejercicio.<\/p>\n\n\n\n La distinci\u00f3n es decisiva: una cosa es identificar a qui\u00e9n puede imputarse un da\u00f1o; otra, interrogar la legitimidad de la concentraci\u00f3n de decisiones de orientaci\u00f3n con efectos colectivos. Ninguna de las dos preguntas sustituye a la otra.<\/p>\n\n\n\n Datos, chips, c\u00f3mputo, energ\u00eda, capital, infraestructura y modelos fundacionales se concentran en un n\u00famero reducido de actores. La competencia estrat\u00e9gica entre Estados Unidos y China no se limita a la posesi\u00f3n de recursos: incluye la capacidad de desarrollar y orientar sistemas que inciden sobre la producci\u00f3n de conocimiento y las alternativas disponibles para actuar. En ese sentido, la base de datos de la nueva Guerra Fr\u00eda es tambi\u00e9n una disputa por las condiciones de orientaci\u00f3n.<\/p>\n\n\n\n Para Am\u00e9rica Latina, recibir tecnolog\u00edas desarrolladas fuera de la regi\u00f3n puede significar recibir tambi\u00e9n criterios de orientaci\u00f3n definidos sin intervenci\u00f3n local. La soberan\u00eda cognitiva, principio del Manifiesto EIA LATAM, no exige aislamiento ni una pedagog\u00eda regional uniforme; reclama capacidades de comprensi\u00f3n cr\u00edtica, producci\u00f3n de conocimiento, supervisi\u00f3n y participaci\u00f3n, respetando las competencias regulatorias de cada jurisdicci\u00f3n.<\/p>\n\n\n\n Queda as\u00ed abierta una l\u00ednea de investigaci\u00f3n: \u00bfpueden imaginarse formas de Potestad Ampliada de Orientaci\u00f3n (PAO) que ampl\u00eden las capacidades de intervenci\u00f3n y rendici\u00f3n de cuentas sin desconocer las libertades de innovaci\u00f3n, los derechos involucrados ni la soberan\u00eda de los Estados? No proponemos aqu\u00ed un mecanismo institucional cerrado, una autorizaci\u00f3n previa general ni facultades vinculantes a\u00fan inexistentes. Su dise\u00f1o, alcance y viabilidad requieren un debate espec\u00edfico.<\/p>\n\n\n\n Desde la perspectiva liberal de Tulio Daza, una v\u00eda complementaria consiste en dispersar ese poder mediante competencia, apertura y responsabilidad por los da\u00f1os. Queda as\u00ed abierta una l\u00ednea de investigaci\u00f3n: \u00bfes posible avanzar hacia formas de Potestad Ampliada de Orientaci\u00f3n (PAO) que incorporen mayores capacidades de participaci\u00f3n, intervenci\u00f3n y rendici\u00f3n de cuentas sobre las condiciones de orientaci\u00f3n de las inteligencias artificiales, contemplando los derechos involucrados, las competencias jurisdiccionales y las posibilidades de innovaci\u00f3n?<\/p>\n\n\n\n La construcci\u00f3n de esta perspectiva exige profundizar en sus fundamentos \u00e9ticos, jur\u00eddicos e institucionales, as\u00ed como explorar mecanismos de participaci\u00f3n y supervisi\u00f3n capaces de responder a la creciente complejidad de los ecosistemas inteligentes y a la magnitud de sus consecuencias colectivas.<\/p>\n\n\n\n Desde la perspectiva neoaristot\u00e9lica y liberal de Tulio Daza, la dispersi\u00f3n del poder de orientaci\u00f3n encuentra una v\u00eda en la competencia, la apertura y la pluralidad de modelos, acompa\u00f1adas por mecanismos efectivos de responsabilidad por los da\u00f1os. La perspectiva de la soberan\u00eda cognitiva ampl\u00eda este horizonte hacia la participaci\u00f3n de las sociedades en la comprensi\u00f3n, deliberaci\u00f3n y revisi\u00f3n de los criterios que orientan inteligencias artificiales cuyas consecuencias trascienden las relaciones de mercado.<\/p>\n\n\n\n El encuentro entre estas perspectivas abre un campo de investigaci\u00f3n sobre las condiciones de legitimidad, distribuci\u00f3n y ejercicio del poder de orientaci\u00f3n, en una humanidad cuya convivencia se configura crecientemente mediante la interacci\u00f3n entre inteligencias. La complejidad de los ecosistemas inteligentes no puede convertirse en refugio de la irresponsabilidad. Pero tampoco deber\u00eda impedirnos preguntar qui\u00e9n establece las condiciones de orientaci\u00f3n, con qu\u00e9 legitimidad y c\u00f3mo se distribuyen las consecuencias.<\/p>\n\n\n\n Una \u00e9tica global de la inteligencia artificial no puede escribirse desde un solo lugar del mundo. Am\u00e9rica Latina tambi\u00e9n tiene algo que decir.<\/p>\n\n\n\n Referencias seleccionadas
examinada.<\/p>\n\n\n\n
artificiales. Las conductas humanas tambi\u00e9n se configuran y orientan mediante procesos educativos, culturales, sociales, institucionales y tecnol\u00f3gicos. Nuestra autonom\u00eda no supone ausencia de condicionamientos, sino la posibilidad de desenvolvernos, deliberar y decidir dentro de entramados de influencias que participan en nuestra constituci\u00f3n como sujetos.<\/p>\n\n\n\n
desarrollo y actuaci\u00f3n se configuran mediante decisiones sobre datos de entrenamiento, objetivos, criterios de funcionamiento, restricciones, capacidades habilitadas y contextos de despliegue.<\/p>\n\n\n\n
Pero aqu\u00ed aparece una distinci\u00f3n fundamental: orientar una inteligencia, humana o artificial, no equivale a determinar necesariamente cada una de sus respuestas o comportamientos.<\/p>\n\n\n\nInstrucciones ocultas: autonom\u00eda y fronteras de confianza<\/strong><\/h2>\n\n\n\n
Sistemas multiagente: la responsabilidad no termina en cada componente<\/strong><\/h2>\n\n\n\n
Las pedagog\u00edas de la inteligencia y la potestad de orientar<\/strong><\/h2>\n\n\n\n
Orientar no es determinar. Configuraci\u00f3n CID:Concentraci\u00f3n de la orientaci\u00f3n, Indeterminaci\u00f3n de los resultados y Distribuci\u00f3n colectiva de las consecuencias.<\/strong><\/h2>\n\n\n\n
Responsabilidad distribuida: prevenci\u00f3n, atribuci\u00f3n y rendici\u00f3n de cuentas<\/strong><\/h2>\n\n\n\n
Responsabilidad y concentraci\u00f3n de la orientaci\u00f3n<\/strong><\/h2>\n\n\n\n
Oligopolios, soberan\u00eda cognitiva y una pregunta abierta<\/strong><\/h2>\n\n\n\n
\u25cf Comit\u00e9 EIA LATAM (2026). Manifiesto EIA. \u00c9tica de la IA Latam. ISBN
978-631-01-4930-1.
\u25cf Willison, S. (2025). The Lethal Trifecta for AI Agents.
\u25cf Aim Security (2025). Investigaci\u00f3n sobre EchoLeak.
\u25cf Invariant Labs (2025). GitHub MCP Exploited.
\u25cf Cohen, S., Bitton, R. y Nassi, B. (2024). Here Comes the AI Worm.
\u25cf Reglamento (UE) 2024\/1689 y Directiva (UE) 2024\/2853, como referencias regulatorias
comparadas.
\u25cf Dias, E. (29 de septiembre de 2026). Religious Scholars Met With Anthropic. What They
Heard Stunned Them. The New York Times.
https:\/\/www.nytimes.com\/2026\/09\/29\/us\/anthropic-claude-morals-ai.html<\/a>
\u25cf Conger, K., Swanson, A. y Kang, C. (25 de septiembre de 2026). OpenAI\u2019s Systems Meddled
With U.S. Government Sites After Going Rogue. The New York Times.
https:\/\/www.nytimes.com\/2026\/09\/25\/technology\/openais-ai-us-government-websites.html<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"