{"id":33693,"date":"2025-07-24T12:16:09","date_gmt":"2025-07-24T10:16:09","guid":{"rendered":"https:\/\/www.codemotion.com\/magazine\/?p=33693"},"modified":"2025-07-24T13:19:52","modified_gmt":"2025-07-24T11:19:52","slug":"la-inteligencia-artificial-sin-control-las-grandes-empresas-tecnologicas-suspenden-en-seguridad-primera-entrega","status":"publish","type":"post","link":"https:\/\/www.codemotion.com\/magazine\/es\/ciberseguridad\/la-inteligencia-artificial-sin-control-las-grandes-empresas-tecnologicas-suspenden-en-seguridad-primera-entrega\/","title":{"rendered":"La inteligencia artificial sin control: las grandes empresas tecnol\u00f3gicas suspenden en seguridad (Primera entrega)"},"content":{"rendered":"\n

de Dario Ferrero (VerbaniaNotizie.it)<\/em><\/p>\n\n\n\n

Un informe independiente revela que las principales empresas tecnol\u00f3gicas no est\u00e1n preparadas para gestionar los riesgos de la inteligencia artificial general.<\/strong><\/p>\n\n\n\n

Imagina construir un coche sin frenos o dise\u00f1ar un avi\u00f3n sin sistemas de seguridad. Suena absurdo, \u00bfverdad? Sin embargo, seg\u00fan un informe reci\u00e9n publicado por el Future of Life Institute<\/a>, eso es exactamente lo que est\u00e1n haciendo las principales empresas tecnol\u00f3gicas del mundo con la inteligencia artificial.<\/p>\n\n\n\n

El AI Safety Index 2025<\/em> ha evaluado a siete de las empresas m\u00e1s importantes que desarrollan inteligencia artificial avanzada, y los resultados son preocupantes: la mejor calificaci\u00f3n fue un pobre C+, mientras que las dem\u00e1s obtuvieron notas a\u00fan peores. Estamos hablando de compa\u00f1\u00edas como OpenAI (la de ChatGPT), Google DeepMind, Meta (Facebook), xAI (de Elon Musk), entre otras, que compiten por desarrollar lo que se conoce como \u201cinteligencia artificial general\u201d: sistemas capaces de razonar y resolver problemas complejos como lo har\u00eda un ser humano, pero potencialmente de forma mucho m\u00e1s r\u00e1pida y poderosa.<\/p>\n\n\n\n

El veredicto: “Fundamentalmente desprevenidas”<\/h2>\n\n\n\n

Los n\u00fameros hablan por s\u00ed solos. Anthropic, la empresa creadora de Claude, obtuvo la puntuaci\u00f3n m\u00e1s alta con una nota general de C+. Las otras seis compa\u00f1\u00edas \u2014Google DeepMind, Meta, OpenAI, xAI, Zhipu AI y DeepSeek\u2014 recibieron calificaciones inferiores, siendo Zhipu AI y DeepSeek las que obtuvieron los peores resultados.<\/p>\n\n\n\n

Pero, \u00bfqu\u00e9 significa concretamente esta calificaci\u00f3n? Para entenderlo, primero hay que explicar qu\u00e9 es la inteligencia artificial general, o AGI, como se le llama en el sector. Mientras que los sistemas actuales como ChatGPT o Gemini est\u00e1n especializados en tareas concretas (conversaci\u00f3n, traducci\u00f3n, redacci\u00f3n), la AGI representar\u00eda el siguiente paso: una inteligencia artificial capaz de comprender, aprender y aplicar conocimientos en cualquier \u00e1mbito, tal como lo hace la inteligencia humana.<\/p>\n\n\n\n

\"\"
Immagine tratta da futureoflife.org<\/a><\/em><\/figcaption><\/figure>\n\n\n\n

El problema es que todas las empresas evaluadas han declarado su intenci\u00f3n de desarrollar una inteligencia artificial general, pero solo Anthropic, Google DeepMind y OpenAI han definido una estrategia para garantizar que la AGI se mantenga alineada con los valores humanos. Y aun as\u00ed, los expertos consideran que esas estrategias son insuficientes.<\/p>\n\n\n\n

La metodolog\u00eda: c\u00f3mo se asignaron las calificaciones<\/h2>\n\n\n\n

Para entender la gravedad de la situaci\u00f3n, es importante saber c\u00f3mo se asignaron estas calificaciones. El Future of Life Institute desarroll\u00f3 un sistema de evaluaci\u00f3n riguroso que va m\u00e1s all\u00e1 de las declaraciones p\u00fablicas de las empresas para analizar sus pr\u00e1cticas concretas.<\/p>\n\n\n\n

Los 33 indicadores de seguridad<\/h3>\n\n\n\n

La evaluaci\u00f3n se basa en 33 indicadores espec\u00edficos que miden diferentes aspectos del desarrollo responsable de la IA. Estos indicadores no fueron elegidos al azar, sino que representan las mejores pr\u00e1cticas identificadas por la comunidad cient\u00edfica internacional para el desarrollo seguro de la inteligencia artificial.<\/p>\n\n\n\n

Entre los indicadores se incluyen elementos como la existencia de pol\u00edticas de seguridad documentadas, la presencia de equipos dedicados a la seguridad, la transparencia en la comunicaci\u00f3n sobre riesgos, la capacidad para evaluar los riesgos antes del lanzamiento, la implementaci\u00f3n de sistemas de monitoreo continuo y la existencia de mecanismos para que los empleados puedan reportar incidencias.<\/p>\n\n\n\n

Los seis dominios cr\u00edticos<\/h3>\n\n\n\n

Los 33 indicadores est\u00e1n organizados en seis dominios fundamentales que cubren diferentes pero interconectados aspectos de la seguridad de la inteligencia artificial.<\/p>\n\n\n\n

El primer dominio se refiere a la seguridad existencial y eval\u00faa si las empresas tienen estrategias para prevenir riesgos que podr\u00edan amenazar la existencia de la humanidad, incluyendo la capacidad de evaluar cu\u00e1ndo un sistema podr\u00eda volverse demasiado poderoso para ser controlado.<\/p>\n\n\n\n

El segundo dominio examina los da\u00f1os actuales, analizando c\u00f3mo las empresas abordan los riesgos ya presentes en la IA, como los sesgos algor\u00edtmicos, la desinformaci\u00f3n o el uso indebido de la tecnolog\u00eda.<\/p>\n\n\n\n

El tercer dominio es la transparencia, que eval\u00faa cu\u00e1n abiertas son las empresas respecto a sus m\u00e9todos, riesgos y limitaciones, incluyendo la disposici\u00f3n a compartir informaci\u00f3n con investigadores independientes.<\/p>\n\n\n\n

El cuarto dominio se centra en la gobernanza y analiza la estructura organizativa de las empresas, incluida la presencia de supervisi\u00f3n independiente y procesos claros de toma de decisiones en temas de seguridad.<\/p>\n\n\n\n

El quinto dominio valora el compromiso con la comunidad, examinando si las empresas colaboran con investigadores externos, organizaciones de seguridad y la comunidad cient\u00edfica en general.<\/p>\n\n\n\n

Por \u00faltimo, el sexto dominio eval\u00faa la preparaci\u00f3n normativa, verificando si las empresas est\u00e1n listas para trabajar con los reguladores y si apoyan el desarrollo de normativas adecuadas.<\/p>\n\n\n\n

El proceso de revisi\u00f3n por pares<\/strong><\/h3>\n\n\n\n

Los datos se recopilaron entre marzo y junio de 2025, combinando materiales disponibles p\u00fablicamente con respuestas a cuestionarios espec\u00edficos enviados a las empresas. Sin embargo, solo dos compa\u00f1\u00edas (xAI y Zhipu AI) completaron completamente los cuestionarios, evidenciando un preocupante nivel de falta de colaboraci\u00f3n en el sector.<\/p>\n\n\n\n

Las calificaciones fueron asignadas por un panel de siete expertos independientes, entre ellos figuras prestigiosas como Stuart Russell de la Universidad de California, Berkeley, y el ganador del Premio Turing Yoshua Bengio. Este panel inclu\u00eda tanto expertos enfocados en los riesgos existenciales de la IA como aquellos que trabajan en los da\u00f1os a corto plazo, como el sesgo algor\u00edtmico y el lenguaje t\u00f3xico.<\/p>\n\n\n\n

El proceso de evaluaci\u00f3n fue dise\u00f1ado para ser lo m\u00e1s objetivo posible, con criterios estandarizados y m\u00faltiples revisiones independientes para cada empresa.<\/p>\n\n\n\n

La alarma de los expertos<\/strong><\/h2>\n\n\n\n

Las conclusiones del informe han sido dur\u00edsimas. Stuart Russell, uno de los m\u00e1ximos expertos mundiales en seguridad de la IA, declar\u00f3 en una entrevista para IEEE Spectrum: \u00abLos resultados del proyecto AI Safety Index sugieren que, aunque hay mucha actividad en las empresas de IA bajo el nombre de \u2018seguridad\u2019, esta a\u00fan no es muy efectiva. En particular, ninguna de las actividades actuales ofrece ning\u00fan tipo de garant\u00eda cuantitativa de seguridad\u00bb.<\/p>\n\n\n\n

Russell a\u00f1adi\u00f3 una reflexi\u00f3n a\u00fan m\u00e1s preocupante: \u00abEs posible que la direcci\u00f3n tecnol\u00f3gica actual nunca pueda respaldar las garant\u00edas de seguridad necesarias, en cuyo caso estar\u00edamos realmente ante un callej\u00f3n sin salida\u00bb.<\/p>\n\n\n\n

El panorama global de los incidentes con IA<\/strong><\/h2>\n\n\n\n

Para comprender la urgencia del problema, es esencial analizar los datos sobre los fallos de la inteligencia artificial que ya est\u00e1n ocurriendo. El n\u00famero de incidentes registrados est\u00e1 creciendo de forma exponencial, y las consecuencias son cada vez m\u00e1s graves.<\/p>\n\n\n\n

Las cifras alarmantes de 2024<\/strong><\/h3>\n\n\n\n

Seg\u00fan la base de datos AI Incidents, en 2024 se han registrado 233 incidentes relacionados con IA \u2014 un r\u00e9cord absoluto y un aumento del 56,4% respecto a 2023. No se trata de errores menores o problemas t\u00e9cnicos insignificantes, sino de eventos que han causado da\u00f1os reales a personas, empresas y a la sociedad.<\/p>\n\n\n\n

Casos emblem\u00e1ticos de fallos<\/strong><\/h3>\n\n\n\n

El sistema de conducci\u00f3n aut\u00f3noma de Tesla ha mostrado problemas de \u201cautomation bias\u201d \u2014 es decir, la tendencia de los usuarios a confiar excesivamente en sistemas automatizados. La NHTSA (Administraci\u00f3n Nacional de Seguridad del Tr\u00e1fico en Carreteras) abri\u00f3 una investigaci\u00f3n de seguridad que afecta hasta 2,4 millones de veh\u00edculos Tesla, incluyendo un accidente fatal con un peat\u00f3n mientras estaba activo el sistema Full Self-Driving. \u00bfSignifica esto que Tesla es culpable? No necesariamente. Es un sistema de ayuda, un asistente para la conducci\u00f3n. Quien est\u00e1 al volante debe saberlo. Si el conductor est\u00e1 dormido, distra\u00eddo con el m\u00f3vil, comiendo o haciendo otra cosa, la culpa es suya, no del sistema electr\u00f3nico.<\/p>\n\n\n\n

Un caso significativo fue el despido de un repartidor de Uber Eats, tras un fallo del sistema de reconocimiento facial que no logr\u00f3 identificarlo correctamente. El conductor denunci\u00f3 que la tecnolog\u00eda funciona peor con personas no blancas, lo que las coloca en desventaja. Por lo que sabemos, Uber implement\u00f3 un sistema de validaci\u00f3n humana que exige la revisi\u00f3n por al menos dos expertos antes de proceder con un despido.<\/p>\n\n\n\n

En el sector sanitario, sistemas de IA usados en hospitales han dado diagn\u00f3sticos err\u00f3neos que condujeron a tratamientos inadecuados. Un caso documentado mostr\u00f3 que un algoritmo para detecci\u00f3n de c\u00e1ncer produjo falsos positivos en el 70% de los casos, causando estr\u00e9s emocional y gastos m\u00e9dicos innecesarios.<\/p>\n\n\n\n

Durante las elecciones de 2024, varios sistemas de IA generaron contenidos pol\u00edticos enga\u00f1osos, incluyendo im\u00e1genes deepfake de candidatos en situaciones comprometedoras.<\/p>\n\n\n\n

El costo humano y econ\u00f3mico<\/strong><\/h3>\n\n\n\n

Estos incidentes no son solo estad\u00edsticas. Detr\u00e1s de cada n\u00famero hay una persona que perdi\u00f3 su trabajo por un algoritmo discriminatorio, una familia afectada por un accidente causado por un sistema defectuoso de conducci\u00f3n aut\u00f3noma o un paciente que recibi\u00f3 un diagn\u00f3stico err\u00f3neo. Por ello, es l\u00f3gico prever tambi\u00e9n grandes p\u00e9rdidas econ\u00f3micas, que hasta ahora nadie ha estimado con precisi\u00f3n.<\/p>\n\n\n\n

El problema de la \u201ccarrera hacia abajo\u201d<\/strong><\/h2>\n\n\n\n

Max Tegmark, f\u00edsico del MIT y presidente del Future of Life Institute, explic\u00f3 el objetivo del informe: \u201cEl prop\u00f3sito no es avergonzar a nadie, sino dar incentivos a las empresas para que mejoren\u201d. Tegmark espera que los directivos vean este \u00edndice como las universidades ven los rankings de U.S. News and World Report: pueden no gustarles ser evaluados, pero si las notas son p\u00fablicas y llaman la atenci\u00f3n, se sentir\u00e1n motivados a mejorar para la pr\u00f3xima vez.<\/p>\n\n\n\n

Uno de los aspectos m\u00e1s preocupantes del informe es lo que Tegmark llama una \u201ccarrera hacia abajo\u201d. \u201cSiento que los l\u00edderes de estas empresas est\u00e1n atrapados en una carrera desde la que ninguno puede salir, por mucho que quieran hacerlo\u201d, dijo. Hoy, las empresas no quieren frenar para hacer pruebas de seguridad porque temen que sus competidores las adelanten en el mercado.<\/p>\n\n\n\n

La din\u00e1mica del dilema del prisionero<\/strong><\/h2>\n\n\n\n

Esta situaci\u00f3n representa un cl\u00e1sico \u201cdilema del prisionero\u201d aplicado a la tecnolog\u00eda. Cada empresa sabe que ser\u00eda mejor si todas desarrollaran la IA de forma segura y responsable, pero ninguna quiere ser la primera en desacelerar, por miedo a perder ventaja competitiva.<\/p>\n\n\n\n

El resultado es que todas terminan compitiendo a la m\u00e1xima velocidad, sacrificando la seguridad en favor de la rapidez. Es como si varias automotrices decidieran eliminar los frenos de sus coches para hacerlos m\u00e1s ligeros y r\u00e1pidos, con la esperanza de llegar primero al mercado.<\/p>\n\n\n\n

El efecto multiplicador de la competencia<\/strong><\/h2>\n\n\n\n

Tegmark, quien cofund\u00f3 el Future of Life Institute en 2014 para reducir riesgos existenciales derivados de tecnolog\u00edas transformadoras, ha dedicado buena parte de su carrera acad\u00e9mica a estudiar el universo f\u00edsico. En los \u00faltimos a\u00f1os se ha centrado en los riesgos de la inteligencia artificial, convirti\u00e9ndose en una de las voces m\u00e1s autorizadas en el debate sobre la seguridad de la IA.<\/p>\n\n\n\n

La presi\u00f3n competitiva no solo obliga a las empresas a lanzar productos antes de que est\u00e9n totalmente seguros, sino que genera un efecto multiplicador: si una empresa recorta en seguridad para lanzar primero, las dem\u00e1s se ven forzadas a hacer lo mismo para no quedarse atr\u00e1s.<\/p>\n\n\n\n

Este mecanismo perverso significa que, incluso si los directivos o investigadores est\u00e1n realmente preocupados por la seguridad, la presi\u00f3n competitiva los obliga a priorizar la velocidad sobre la precauci\u00f3n. Es un problema sist\u00e9mico que requiere una soluci\u00f3n sist\u00e9mica.<\/p>\n\n\n\n

An\u00e1lisis empresa por empresa<\/strong><\/h2>\n\n\n\n

Anthropic: el \u201cmejor de la clase\u201d pero a\u00fan insuficiente<\/strong><\/h3>\n\n\n\n

Anthropic obtuvo las mejores calificaciones globales (C+), siendo la \u00fanica en recibir un B- por su trabajo sobre da\u00f1os actuales. El informe destaca que sus modelos obtuvieron las puntuaciones m\u00e1s altas en los principales benchmarks de seguridad. Tambi\u00e9n cuenta con una \u201cpol\u00edtica de escalamiento responsable\u201d que eval\u00faa el potencial de da\u00f1os catastr\u00f3ficos y evita implementar modelos considerados demasiado riesgosos.<\/p>\n\n\n\n

Anthropic se distingue por su investigaci\u00f3n activa en alineaci\u00f3n de IA, pol\u00edticas de seguridad documentadas y p\u00fablicas, colaboraci\u00f3n con investigadores externos y transparencia sobre riesgos y limitaciones. Sin embargo, tambi\u00e9n recibi\u00f3 recomendaciones para mejorar, como publicar una pol\u00edtica completa de denuncias internas (whistleblowing) y ser m\u00e1s transparente en la metodolog\u00eda de evaluaci\u00f3n de riesgos. Que incluso la empresa \u201cmejor\u201d haya recibido solo un C+ ilustra la gravedad general del sector.<\/p>\n\n\n\n

OpenAI: p\u00e9rdida de capacidad y desviaci\u00f3n de misi\u00f3n<\/strong><\/h3>\n\n\n\n

OpenAI, la empresa que populariz\u00f3 la IA con ChatGPT, recibi\u00f3 cr\u00edticas muy duras. Seg\u00fan Time Magazine, las recomendaciones incluyen reconstruir el equipo de seguridad que se ha reducido y demostrar un compromiso renovado con la misi\u00f3n original.<\/p>\n\n\n\n

OpenAI fue fundada en 2015 con la misi\u00f3n expl\u00edcita de \u201casegurar que la inteligencia artificial general beneficie a toda la humanidad\u201d. Sin embargo, el informe sugiere que se ha alejado de esta misi\u00f3n, enfoc\u00e1ndose m\u00e1s en la comercializaci\u00f3n que en la seguridad.<\/p>\n\n\n\n

La menci\u00f3n a la \u201cp\u00e9rdida del equipo de seguridad\u201d se refiere a la salida de destacados investigadores de seguridad en meses previos al informe, incluyendo expertos clave en alineaci\u00f3n como Ilya Sutskever (cofundador y ex cient\u00edfico jefe) y Jan Leike (ex jefe del equipo de superalineaci\u00f3n).<\/p>\n\n\n\n

El informe tambi\u00e9n se\u00f1ala problemas de gobernanza, incluyendo la pol\u00e9mica destituci\u00f3n y posterior reincorporaci\u00f3n del CEO Sam Altman en noviembre de 2023, que gener\u00f3 dudas sobre la estabilidad y direcci\u00f3n de la empresa.<\/p>\n\n\n\n

Google DeepMind: coordinaci\u00f3n insuficiente<\/strong><\/h3>\n\n\n\n

Google DeepMind fue criticada por la falta de coordinaci\u00f3n entre su equipo de seguridad y el equipo de pol\u00edticas de Google. Solo DeepMind respondi\u00f3 a las solicitudes de comentario, diciendo: \u201cAunque el \u00edndice refleja algunos de los esfuerzos de seguridad de IA de Google DeepMind, nuestro enfoque completo va m\u00e1s all\u00e1 de lo recogido\u201d.<\/p>\n\n\n\n

DeepMind es fruto de la fusi\u00f3n de DeepMind (adquirida por Google en 2014) y Google Brain (equipo interno de IA). Esta fusi\u00f3n, completada en 2023, buscaba sinergias, pero el informe sugiere que tambi\u00e9n gener\u00f3 problemas de coordinaci\u00f3n.<\/p>\n\n\n\n

DeepMind tiene una reputaci\u00f3n excelente por logros cient\u00edficos, como AlphaGo (que venci\u00f3 al campe\u00f3n mundial de Go) y AlphaFold (que resolvi\u00f3 el plegamiento de prote\u00ednas). Sin embargo, el informe indica que esta excelencia t\u00e9cnica no se traduce en liderazgo en seguridad.<\/p>\n\n\n\n

Meta: problemas significativos pero no la peor<\/strong><\/h3>\n\n\n\n

Meta recibi\u00f3 cr\u00edticas severas, aunque no fue la peor evaluada. Se recomend\u00f3 aumentar significativamente la inversi\u00f3n en investigaci\u00f3n de seguridad t\u00e9cnica, especialmente en protecciones para modelos open-weight.<\/p>\n\n\n\n

Los \u201cmodelos open-weight\u201d son aquellos cuyos \u201cpesos\u201d (par\u00e1metros que determinan el comportamiento del modelo) son p\u00fablicos y pueden usarse o modificarse libremente.<\/p>\n\n\n\n

Esta estrategia tiene ventajas: fomenta la innovaci\u00f3n distribuida, reduce la concentraci\u00f3n del poder y facilita la investigaci\u00f3n acad\u00e9mica. Pero tambi\u00e9n implica riesgos, porque los modelos no pueden retirarse si se detectan problemas, y su uso no puede controlarse, pudiendo ser modificados para fines da\u00f1inos.<\/p>\n\n\n\n

Meta ha lanzado varias versiones de su modelo Llama (Llama 2, Llama 3). Aunque estos avances aceleraron la innovaci\u00f3n, generaron preocupaciones de seguridad. El informe sugiere que Meta deber\u00eda implementar protecciones m\u00e1s robustas antes de lanzar nuevos modelos.<\/p>\n\n\n\n

xAI: problemas culturales graves<\/strong><\/h3>\n\n\n\n

La empresa de Elon Musk, xAI, fue duramente criticada no solo por sus bajos puntajes en seguridad sino tambi\u00e9n por problemas culturales. Se recomienda corregir su extrema vulnerabilidad al \u201cjailbreak\u201d antes del pr\u00f3ximo lanzamiento y desarrollar un marco completo de seguridad para IA.<\/p>\n\n\n\n

El \u201cjailbreaking\u201d son t\u00e9cnicas para evadir las protecciones de seguridad de la IA y lograr que produzca contenido da\u00f1ino o inapropiado. La vulnerabilidad extrema de xAI indica que sus sistemas de seguridad son muy d\u00e9biles.<\/p>\n\n\n\n

El informe sugiere que estos problemas est\u00e1n relacionados con la cultura corporativa. Musk ha expresado escepticismo hacia la regulaci\u00f3n y promueve un enfoque \u201cmu\u00e9vete r\u00e1pido y rompe cosas\u201d que puede no ser compatible con un desarrollo seguro.<\/p>\n\n\n\n

El sistema de IA de xAI, Grok, fue dise\u00f1ado para ser \u201cm\u00e1ximamente buscador de la verdad\u201d y menos censurado que otros, pero esto caus\u00f3 controversias cuando Grok gener\u00f3 contenido problem\u00e1tico o enga\u00f1oso.<\/p>\n\n\n\n

Zhipu AI y DeepSeek: los peores resultados<\/strong><\/h3>\n\n\n\n

Las dos empresas chinas, Zhipu AI y DeepSeek, obtuvieron las peores calificaciones. Ambas recibieron recomendaciones para desarrollar y publicar marcos de seguridad m\u00e1s completos y aumentar dr\u00e1sticamente la evaluaci\u00f3n de riesgos.<\/p>\n\n\n\n

Las empresas chinas operan en un contexto regulatorio diferente, donde la seguridad de la IA se ve m\u00e1s desde la perspectiva de la seguridad nacional y estabilidad social que desde la seguridad existencial global.<\/p>\n\n\n\n

Zhipu AI es conocida por su modelo ChatGLM y ha recibido inversiones significativas del gobierno chino, pero el informe se\u00f1ala que ha invertido muy poco en investigaci\u00f3n de seguridad.<\/p>\n\n\n\n

DeepSeek es una empresa m\u00e1s peque\u00f1a pero ambiciosa, que busca competir con gigantes occidentales, y parece haber sacrificado seguridad por velocidad.<\/p>\n\n\n\n

El fracaso en abordar riesgos existenciales<\/strong><\/h3>\n\n\n\n

Quiz\u00e1s el aspecto m\u00e1s alarmante es que las siete empresas obtuvieron puntuaciones muy bajas en estrategias para mitigar riesgos existenciales. Esto significa que, aunque todas dicen querer construir sistemas de inteligencia artificial general, ninguna tiene un plan cre\u00edble para asegurar que estos sistemas permanezcan bajo control humano.<\/p>\n\n\n\n

Qu\u00e9 es un \u201criesgo existencial\u201d<\/strong><\/h3>\n\n\n\n

Un riesgo existencial es un evento que podr\u00eda causar la extinci\u00f3n de la humanidad, reducir dr\u00e1sticamente y de forma permanente su potencial, o impedir el progreso civilizatorio.<\/p>\n\n\n\n

En IA, un riesgo existencial podr\u00eda darse si creamos sistemas m\u00e1s inteligentes que nosotros pero que no compartan nuestros valores, decidan que la humanidad es un obst\u00e1culo o se salgan de nuestro control antes de poder apagarlos.<\/p>\n\n\n\n

El problema del alineamiento<\/strong><\/h3>\n\n\n\n

Como explic\u00f3 Tegmark: \u201cLa verdad es que nadie sabe c\u00f3mo controlar una nueva especie mucho m\u00e1s inteligente que nosotros. El panel de revisi\u00f3n encontr\u00f3 que incluso las empresas con alguna estrategia inicial no est\u00e1n preparadas\u201d.<\/p>\n\n\n\n

El problema del alineamiento es, b\u00e1sicamente, c\u00f3mo asegurarnos de que un sistema superinteligente haga lo que queremos, no lo que cree mejor.<\/p>\n\n\n\n

Imagina que tienes que explicarle a un ni\u00f1o de 5 a\u00f1os c\u00f3mo manejar una multinacional. Aunque quiera ayudar, la diferencia en comprensi\u00f3n es tan grande que no podr\u00eda entender tus intenciones ni actuar en consecuencia. Ahora imagina que el ni\u00f1o eres t\u00fa y la multinacional la maneja una IA superinteligente.<\/p>\n\n\n\n

Los enfoques actuales y sus l\u00edmites<\/strong><\/h3>\n\n\n\n

Las grandes empresas usan diferentes m\u00e9todos para tratar de resolver el problema del alineamiento. El aprendizaje reforzado con retroalimentaci\u00f3n humana (RLHF) entrena sistemas usando opiniones humanas para reforzar comportamientos deseados. Pero tiene l\u00edmites: es dif\u00edcil de escalar, los humanos no siempre entienden las consecuencias y no funciona bien con sistemas m\u00e1s inteligentes que los humanos.<\/p>\n\n\n\n

El \u201cConstitutional AI\u201d, desarrollado por Anthropic, intenta ense\u00f1ar a los sistemas a seguir una \u201cconstituci\u00f3n\u201d de principios. Pero sigue el problema de c\u00f3mo definir esos principios y asegurarse de que se respeten.<\/p>\n\n\n\n

La interpretabilidad mecanicista busca entender c\u00f3mo funcionan internamente los sistemas de IA, pero la complejidad actual hace esto<\/p>\n\n\n\n

-El art\u00edculo continuar\u00e1 en una segunda parte<\/p>\n","protected":false},"excerpt":{"rendered":"

de Dario Ferrero (VerbaniaNotizie.it) Un informe independiente revela que las principales empresas tecnol\u00f3gicas no est\u00e1n preparadas para gestionar los riesgos de la inteligencia artificial general. Imagina construir un coche sin frenos o dise\u00f1ar un avi\u00f3n sin sistemas de seguridad. Suena absurdo, \u00bfverdad? Sin embargo, seg\u00fan un informe reci\u00e9n publicado por el Future of Life Institute,… Read more<\/a><\/p>\n","protected":false},"author":336,"featured_media":33663,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"_editorskit_title_hidden":false,"_editorskit_reading_time":0,"_editorskit_is_block_options_detached":false,"_editorskit_block_options_position":"{}","_uag_custom_page_level_css":"","_genesis_hide_title":false,"_genesis_hide_breadcrumbs":false,"_genesis_hide_singular_image":false,"_genesis_hide_footer_widgets":false,"_genesis_custom_body_class":"","_genesis_custom_post_class":"","_genesis_layout":"","footnotes":""},"categories":[10614],"tags":[10664],"collections":[13012],"class_list":{"0":"post-33693","1":"post","2":"type-post","3":"status-publish","4":"format-standard","5":"has-post-thumbnail","7":"category-ciberseguridad","8":"tag-ia","9":"collections-top-of-the-week-es","10":"entry"},"yoast_head":"\nLas grandes tecnol\u00f3gicas suspendidas en seguridad<\/title>\n<meta name=\"description\" content=\"Un informe independiente revela que las principales empresas tecnol\u00f3gicas no est\u00e1n preparadas para gestionar los riesgos de la IA general.\" \/>\n<meta name=\"robots\" content=\"index, follow, max-snippet:-1, max-image-preview:large, max-video-preview:-1\" \/>\n<link rel=\"canonical\" href=\"https:\/\/www.codemotion.com\/magazine\/es\/ciberseguridad\/la-inteligencia-artificial-sin-control-las-grandes-empresas-tecnologicas-suspenden-en-seguridad-primera-entrega\/\" \/>\n<meta property=\"og:locale\" content=\"en_US\" \/>\n<meta property=\"og:type\" content=\"article\" \/>\n<meta property=\"og:title\" content=\"La inteligencia artificial sin control: las grandes empresas tecnol\u00f3gicas suspenden en seguridad (Primera entrega)\" \/>\n<meta property=\"og:description\" content=\"Un informe independiente revela que las principales empresas tecnol\u00f3gicas no est\u00e1n preparadas para gestionar los riesgos de la IA general.\" \/>\n<meta property=\"og:url\" content=\"https:\/\/www.codemotion.com\/magazine\/es\/ciberseguridad\/la-inteligencia-artificial-sin-control-las-grandes-empresas-tecnologicas-suspenden-en-seguridad-primera-entrega\/\" \/>\n<meta property=\"og:site_name\" content=\"Codemotion Magazine\" \/>\n<meta property=\"article:publisher\" content=\"https:\/\/www.facebook.com\/Codemotion.Italy\/\" \/>\n<meta property=\"article:published_time\" content=\"2025-07-24T10:16:09+00:00\" \/>\n<meta property=\"article:modified_time\" content=\"2025-07-24T11:19:52+00:00\" \/>\n<meta property=\"og:image\" content=\"https:\/\/www.codemotion.com\/magazine\/wp-content\/uploads\/2025\/07\/GigantiTechAsini.jpg\" \/>\n\t<meta property=\"og:image:width\" content=\"1184\" \/>\n\t<meta property=\"og:image:height\" content=\"896\" \/>\n\t<meta property=\"og:image:type\" content=\"image\/jpeg\" \/>\n<meta name=\"author\" content=\"Dario Ferrero\" \/>\n<meta name=\"twitter:card\" content=\"summary_large_image\" \/>\n<meta name=\"twitter:creator\" content=\"@CodemotionIT\" \/>\n<meta name=\"twitter:site\" content=\"@CodemotionIT\" \/>\n<meta name=\"twitter:label1\" content=\"Written by\" \/>\n\t<meta name=\"twitter:data1\" content=\"Dario Ferrero\" \/>\n\t<meta name=\"twitter:label2\" content=\"Est. reading time\" \/>\n\t<meta name=\"twitter:data2\" content=\"14 minutes\" \/>\n<script type=\"application\/ld+json\" class=\"yoast-schema-graph\">{\"@context\":\"https:\/\/schema.org\",\"@graph\":[{\"@type\":\"Article\",\"@id\":\"https:\/\/www.codemotion.com\/magazine\/es\/ciberseguridad\/la-inteligencia-artificial-sin-control-las-grandes-empresas-tecnologicas-suspenden-en-seguridad-primera-entrega\/#article\",\"isPartOf\":{\"@id\":\"https:\/\/www.codemotion.com\/magazine\/es\/ciberseguridad\/la-inteligencia-artificial-sin-control-las-grandes-empresas-tecnologicas-suspenden-en-seguridad-primera-entrega\/\"},\"author\":{\"name\":\"Dario Ferrero\",\"@id\":\"https:\/\/www.codemotion.com\/magazine\/#\/schema\/person\/d3aecf71fcce8c6de1ae67518f3f1de1\"},\"headline\":\"La inteligencia artificial sin control: las grandes empresas tecnol\u00f3gicas suspenden en seguridad (Primera entrega)\",\"datePublished\":\"2025-07-24T10:16:09+00:00\",\"dateModified\":\"2025-07-24T11:19:52+00:00\",\"mainEntityOfPage\":{\"@id\":\"https:\/\/www.codemotion.com\/magazine\/es\/ciberseguridad\/la-inteligencia-artificial-sin-control-las-grandes-empresas-tecnologicas-suspenden-en-seguridad-primera-entrega\/\"},\"wordCount\":3267,\"publisher\":{\"@id\":\"https:\/\/www.codemotion.com\/magazine\/#organization\"},\"image\":{\"@id\":\"https:\/\/www.codemotion.com\/magazine\/es\/ciberseguridad\/la-inteligencia-artificial-sin-control-las-grandes-empresas-tecnologicas-suspenden-en-seguridad-primera-entrega\/#primaryimage\"},\"thumbnailUrl\":\"https:\/\/www.codemotion.com\/magazine\/wp-content\/uploads\/2025\/07\/GigantiTechAsini.jpg\",\"keywords\":[\"IA\"],\"articleSection\":[\"Ciberseguridad\"],\"inLanguage\":\"en-US\"},{\"@type\":\"WebPage\",\"@id\":\"https:\/\/www.codemotion.com\/magazine\/es\/ciberseguridad\/la-inteligencia-artificial-sin-control-las-grandes-empresas-tecnologicas-suspenden-en-seguridad-primera-entrega\/\",\"url\":\"https:\/\/www.codemotion.com\/magazine\/es\/ciberseguridad\/la-inteligencia-artificial-sin-control-las-grandes-empresas-tecnologicas-suspenden-en-seguridad-primera-entrega\/\",\"name\":\"Las grandes tecnol\u00f3gicas suspendidas en seguridad\",\"isPartOf\":{\"@id\":\"https:\/\/www.codemotion.com\/magazine\/#website\"},\"primaryImageOfPage\":{\"@id\":\"https:\/\/www.codemotion.com\/magazine\/es\/ciberseguridad\/la-inteligencia-artificial-sin-control-las-grandes-empresas-tecnologicas-suspenden-en-seguridad-primera-entrega\/#primaryimage\"},\"image\":{\"@id\":\"https:\/\/www.codemotion.com\/magazine\/es\/ciberseguridad\/la-inteligencia-artificial-sin-control-las-grandes-empresas-tecnologicas-suspenden-en-seguridad-primera-entrega\/#primaryimage\"},\"thumbnailUrl\":\"https:\/\/www.codemotion.com\/magazine\/wp-content\/uploads\/2025\/07\/GigantiTechAsini.jpg\",\"datePublished\":\"2025-07-24T10:16:09+00:00\",\"dateModified\":\"2025-07-24T11:19:52+00:00\",\"description\":\"Un informe independiente revela que las principales empresas tecnol\u00f3gicas no est\u00e1n preparadas para gestionar los riesgos de la IA general.\",\"breadcrumb\":{\"@id\":\"https:\/\/www.codemotion.com\/magazine\/es\/ciberseguridad\/la-inteligencia-artificial-sin-control-las-grandes-empresas-tecnologicas-suspenden-en-seguridad-primera-entrega\/#breadcrumb\"},\"inLanguage\":\"en-US\",\"potentialAction\":[{\"@type\":\"ReadAction\",\"target\":[\"https:\/\/www.codemotion.com\/magazine\/es\/ciberseguridad\/la-inteligencia-artificial-sin-control-las-grandes-empresas-tecnologicas-suspenden-en-seguridad-primera-entrega\/\"]}]},{\"@type\":\"ImageObject\",\"inLanguage\":\"en-US\",\"@id\":\"https:\/\/www.codemotion.com\/magazine\/es\/ciberseguridad\/la-inteligencia-artificial-sin-control-las-grandes-empresas-tecnologicas-suspenden-en-seguridad-primera-entrega\/#primaryimage\",\"url\":\"https:\/\/www.codemotion.com\/magazine\/wp-content\/uploads\/2025\/07\/GigantiTechAsini.jpg\",\"contentUrl\":\"https:\/\/www.codemotion.com\/magazine\/wp-content\/uploads\/2025\/07\/GigantiTechAsini.jpg\",\"width\":1184,\"height\":896,\"caption\":\"AI bocciata in sicurezza. AI fails in security.\"},{\"@type\":\"BreadcrumbList\",\"@id\":\"https:\/\/www.codemotion.com\/magazine\/es\/ciberseguridad\/la-inteligencia-artificial-sin-control-las-grandes-empresas-tecnologicas-suspenden-en-seguridad-primera-entrega\/#breadcrumb\",\"itemListElement\":[{\"@type\":\"ListItem\",\"position\":1,\"name\":\"Home\",\"item\":\"https:\/\/www.codemotion.com\/magazine\/\"},{\"@type\":\"ListItem\",\"position\":2,\"name\":\"Ciberseguridad\",\"item\":\"https:\/\/www.codemotion.com\/magazine\/es\/ciberseguridad\/\"},{\"@type\":\"ListItem\",\"position\":3,\"name\":\"La inteligencia artificial sin control: las grandes empresas tecnol\u00f3gicas suspenden en seguridad (Primera entrega)\"}]},{\"@type\":\"WebSite\",\"@id\":\"https:\/\/www.codemotion.com\/magazine\/#website\",\"url\":\"https:\/\/www.codemotion.com\/magazine\/\",\"name\":\"Codemotion Magazine\",\"description\":\"We code the future. Together\",\"publisher\":{\"@id\":\"https:\/\/www.codemotion.com\/magazine\/#organization\"},\"potentialAction\":[{\"@type\":\"SearchAction\",\"target\":{\"@type\":\"EntryPoint\",\"urlTemplate\":\"https:\/\/www.codemotion.com\/magazine\/?s={search_term_string}\"},\"query-input\":{\"@type\":\"PropertyValueSpecification\",\"valueRequired\":true,\"valueName\":\"search_term_string\"}}],\"inLanguage\":\"en-US\"},{\"@type\":\"Organization\",\"@id\":\"https:\/\/www.codemotion.com\/magazine\/#organization\",\"name\":\"Codemotion\",\"url\":\"https:\/\/www.codemotion.com\/magazine\/\",\"logo\":{\"@type\":\"ImageObject\",\"inLanguage\":\"en-US\",\"@id\":\"https:\/\/www.codemotion.com\/magazine\/#\/schema\/logo\/image\/\",\"url\":\"https:\/\/www.codemotion.com\/magazine\/wp-content\/uploads\/2019\/11\/codemotionlogo.png\",\"contentUrl\":\"https:\/\/www.codemotion.com\/magazine\/wp-content\/uploads\/2019\/11\/codemotionlogo.png\",\"width\":225,\"height\":225,\"caption\":\"Codemotion\"},\"image\":{\"@id\":\"https:\/\/www.codemotion.com\/magazine\/#\/schema\/logo\/image\/\"},\"sameAs\":[\"https:\/\/www.facebook.com\/Codemotion.Italy\/\",\"https:\/\/x.com\/CodemotionIT\"]},{\"@type\":\"Person\",\"@id\":\"https:\/\/www.codemotion.com\/magazine\/#\/schema\/person\/d3aecf71fcce8c6de1ae67518f3f1de1\",\"name\":\"Dario Ferrero\",\"image\":{\"@type\":\"ImageObject\",\"inLanguage\":\"en-US\",\"@id\":\"https:\/\/www.codemotion.com\/magazine\/#\/schema\/person\/image\/\",\"url\":\"https:\/\/secure.gravatar.com\/avatar\/860e20df873940f3a6bb7f64e995c70b9fd9d18f64e3233dd779168cc6a75dca?s=96&d=mm&r=g\",\"contentUrl\":\"https:\/\/secure.gravatar.com\/avatar\/860e20df873940f3a6bb7f64e995c70b9fd9d18f64e3233dd779168cc6a75dca?s=96&d=mm&r=g\",\"caption\":\"Dario Ferrero\"},\"sameAs\":[\"https:\/\/www.verbanianotizie.it\/\"],\"url\":\"https:\/\/www.codemotion.com\/magazine\/author\/dario-ferrero\/\"}]}<\/script>\n<!-- \/ Yoast SEO Premium plugin. -->","yoast_head_json":{"title":"Las grandes tecnol\u00f3gicas suspendidas en seguridad","description":"Un informe independiente revela que las principales empresas tecnol\u00f3gicas no est\u00e1n preparadas para gestionar los riesgos de la IA general.","robots":{"index":"index","follow":"follow","max-snippet":"max-snippet:-1","max-image-preview":"max-image-preview:large","max-video-preview":"max-video-preview:-1"},"canonical":"https:\/\/www.codemotion.com\/magazine\/es\/ciberseguridad\/la-inteligencia-artificial-sin-control-las-grandes-empresas-tecnologicas-suspenden-en-seguridad-primera-entrega\/","og_locale":"en_US","og_type":"article","og_title":"La inteligencia artificial sin control: las grandes empresas tecnol\u00f3gicas suspenden en seguridad (Primera entrega)","og_description":"Un informe independiente revela que las principales empresas tecnol\u00f3gicas no est\u00e1n preparadas para gestionar los riesgos de la IA general.","og_url":"https:\/\/www.codemotion.com\/magazine\/es\/ciberseguridad\/la-inteligencia-artificial-sin-control-las-grandes-empresas-tecnologicas-suspenden-en-seguridad-primera-entrega\/","og_site_name":"Codemotion Magazine","article_publisher":"https:\/\/www.facebook.com\/Codemotion.Italy\/","article_published_time":"2025-07-24T10:16:09+00:00","article_modified_time":"2025-07-24T11:19:52+00:00","og_image":[{"width":1184,"height":896,"url":"https:\/\/www.codemotion.com\/magazine\/wp-content\/uploads\/2025\/07\/GigantiTechAsini.jpg","type":"image\/jpeg"}],"author":"Dario Ferrero","twitter_card":"summary_large_image","twitter_creator":"@CodemotionIT","twitter_site":"@CodemotionIT","twitter_misc":{"Written by":"Dario Ferrero","Est. reading time":"14 minutes"},"schema":{"@context":"https:\/\/schema.org","@graph":[{"@type":"Article","@id":"https:\/\/www.codemotion.com\/magazine\/es\/ciberseguridad\/la-inteligencia-artificial-sin-control-las-grandes-empresas-tecnologicas-suspenden-en-seguridad-primera-entrega\/#article","isPartOf":{"@id":"https:\/\/www.codemotion.com\/magazine\/es\/ciberseguridad\/la-inteligencia-artificial-sin-control-las-grandes-empresas-tecnologicas-suspenden-en-seguridad-primera-entrega\/"},"author":{"name":"Dario Ferrero","@id":"https:\/\/www.codemotion.com\/magazine\/#\/schema\/person\/d3aecf71fcce8c6de1ae67518f3f1de1"},"headline":"La inteligencia artificial sin control: las grandes empresas tecnol\u00f3gicas suspenden en seguridad (Primera entrega)","datePublished":"2025-07-24T10:16:09+00:00","dateModified":"2025-07-24T11:19:52+00:00","mainEntityOfPage":{"@id":"https:\/\/www.codemotion.com\/magazine\/es\/ciberseguridad\/la-inteligencia-artificial-sin-control-las-grandes-empresas-tecnologicas-suspenden-en-seguridad-primera-entrega\/"},"wordCount":3267,"publisher":{"@id":"https:\/\/www.codemotion.com\/magazine\/#organization"},"image":{"@id":"https:\/\/www.codemotion.com\/magazine\/es\/ciberseguridad\/la-inteligencia-artificial-sin-control-las-grandes-empresas-tecnologicas-suspenden-en-seguridad-primera-entrega\/#primaryimage"},"thumbnailUrl":"https:\/\/www.codemotion.com\/magazine\/wp-content\/uploads\/2025\/07\/GigantiTechAsini.jpg","keywords":["IA"],"articleSection":["Ciberseguridad"],"inLanguage":"en-US"},{"@type":"WebPage","@id":"https:\/\/www.codemotion.com\/magazine\/es\/ciberseguridad\/la-inteligencia-artificial-sin-control-las-grandes-empresas-tecnologicas-suspenden-en-seguridad-primera-entrega\/","url":"https:\/\/www.codemotion.com\/magazine\/es\/ciberseguridad\/la-inteligencia-artificial-sin-control-las-grandes-empresas-tecnologicas-suspenden-en-seguridad-primera-entrega\/","name":"Las grandes tecnol\u00f3gicas suspendidas en seguridad","isPartOf":{"@id":"https:\/\/www.codemotion.com\/magazine\/#website"},"primaryImageOfPage":{"@id":"https:\/\/www.codemotion.com\/magazine\/es\/ciberseguridad\/la-inteligencia-artificial-sin-control-las-grandes-empresas-tecnologicas-suspenden-en-seguridad-primera-entrega\/#primaryimage"},"image":{"@id":"https:\/\/www.codemotion.com\/magazine\/es\/ciberseguridad\/la-inteligencia-artificial-sin-control-las-grandes-empresas-tecnologicas-suspenden-en-seguridad-primera-entrega\/#primaryimage"},"thumbnailUrl":"https:\/\/www.codemotion.com\/magazine\/wp-content\/uploads\/2025\/07\/GigantiTechAsini.jpg","datePublished":"2025-07-24T10:16:09+00:00","dateModified":"2025-07-24T11:19:52+00:00","description":"Un informe independiente revela que las principales empresas tecnol\u00f3gicas no est\u00e1n preparadas para gestionar los riesgos de la IA general.","breadcrumb":{"@id":"https:\/\/www.codemotion.com\/magazine\/es\/ciberseguridad\/la-inteligencia-artificial-sin-control-las-grandes-empresas-tecnologicas-suspenden-en-seguridad-primera-entrega\/#breadcrumb"},"inLanguage":"en-US","potentialAction":[{"@type":"ReadAction","target":["https:\/\/www.codemotion.com\/magazine\/es\/ciberseguridad\/la-inteligencia-artificial-sin-control-las-grandes-empresas-tecnologicas-suspenden-en-seguridad-primera-entrega\/"]}]},{"@type":"ImageObject","inLanguage":"en-US","@id":"https:\/\/www.codemotion.com\/magazine\/es\/ciberseguridad\/la-inteligencia-artificial-sin-control-las-grandes-empresas-tecnologicas-suspenden-en-seguridad-primera-entrega\/#primaryimage","url":"https:\/\/www.codemotion.com\/magazine\/wp-content\/uploads\/2025\/07\/GigantiTechAsini.jpg","contentUrl":"https:\/\/www.codemotion.com\/magazine\/wp-content\/uploads\/2025\/07\/GigantiTechAsini.jpg","width":1184,"height":896,"caption":"AI bocciata in sicurezza. AI fails in security."},{"@type":"BreadcrumbList","@id":"https:\/\/www.codemotion.com\/magazine\/es\/ciberseguridad\/la-inteligencia-artificial-sin-control-las-grandes-empresas-tecnologicas-suspenden-en-seguridad-primera-entrega\/#breadcrumb","itemListElement":[{"@type":"ListItem","position":1,"name":"Home","item":"https:\/\/www.codemotion.com\/magazine\/"},{"@type":"ListItem","position":2,"name":"Ciberseguridad","item":"https:\/\/www.codemotion.com\/magazine\/es\/ciberseguridad\/"},{"@type":"ListItem","position":3,"name":"La inteligencia artificial sin control: las grandes empresas tecnol\u00f3gicas suspenden en seguridad (Primera entrega)"}]},{"@type":"WebSite","@id":"https:\/\/www.codemotion.com\/magazine\/#website","url":"https:\/\/www.codemotion.com\/magazine\/","name":"Codemotion Magazine","description":"We code the future. Together","publisher":{"@id":"https:\/\/www.codemotion.com\/magazine\/#organization"},"potentialAction":[{"@type":"SearchAction","target":{"@type":"EntryPoint","urlTemplate":"https:\/\/www.codemotion.com\/magazine\/?s={search_term_string}"},"query-input":{"@type":"PropertyValueSpecification","valueRequired":true,"valueName":"search_term_string"}}],"inLanguage":"en-US"},{"@type":"Organization","@id":"https:\/\/www.codemotion.com\/magazine\/#organization","name":"Codemotion","url":"https:\/\/www.codemotion.com\/magazine\/","logo":{"@type":"ImageObject","inLanguage":"en-US","@id":"https:\/\/www.codemotion.com\/magazine\/#\/schema\/logo\/image\/","url":"https:\/\/www.codemotion.com\/magazine\/wp-content\/uploads\/2019\/11\/codemotionlogo.png","contentUrl":"https:\/\/www.codemotion.com\/magazine\/wp-content\/uploads\/2019\/11\/codemotionlogo.png","width":225,"height":225,"caption":"Codemotion"},"image":{"@id":"https:\/\/www.codemotion.com\/magazine\/#\/schema\/logo\/image\/"},"sameAs":["https:\/\/www.facebook.com\/Codemotion.Italy\/","https:\/\/x.com\/CodemotionIT"]},{"@type":"Person","@id":"https:\/\/www.codemotion.com\/magazine\/#\/schema\/person\/d3aecf71fcce8c6de1ae67518f3f1de1","name":"Dario Ferrero","image":{"@type":"ImageObject","inLanguage":"en-US","@id":"https:\/\/www.codemotion.com\/magazine\/#\/schema\/person\/image\/","url":"https:\/\/secure.gravatar.com\/avatar\/860e20df873940f3a6bb7f64e995c70b9fd9d18f64e3233dd779168cc6a75dca?s=96&d=mm&r=g","contentUrl":"https:\/\/secure.gravatar.com\/avatar\/860e20df873940f3a6bb7f64e995c70b9fd9d18f64e3233dd779168cc6a75dca?s=96&d=mm&r=g","caption":"Dario Ferrero"},"sameAs":["https:\/\/www.verbanianotizie.it\/"],"url":"https:\/\/www.codemotion.com\/magazine\/author\/dario-ferrero\/"}]}},"featured_image_src":"https:\/\/www.codemotion.com\/magazine\/wp-content\/uploads\/2025\/07\/GigantiTechAsini-600x400.jpg","featured_image_src_square":"https:\/\/www.codemotion.com\/magazine\/wp-content\/uploads\/2025\/07\/GigantiTechAsini-600x600.jpg","author_info":{"display_name":"Dario Ferrero","author_link":"https:\/\/www.codemotion.com\/magazine\/author\/dario-ferrero\/"},"uagb_featured_image_src":{"full":["https:\/\/www.codemotion.com\/magazine\/wp-content\/uploads\/2025\/07\/GigantiTechAsini.jpg",1184,896,false],"thumbnail":["https:\/\/www.codemotion.com\/magazine\/wp-content\/uploads\/2025\/07\/GigantiTechAsini-150x150.jpg",150,150,true],"medium":["https:\/\/www.codemotion.com\/magazine\/wp-content\/uploads\/2025\/07\/GigantiTechAsini-300x227.jpg",300,227,true],"medium_large":["https:\/\/www.codemotion.com\/magazine\/wp-content\/uploads\/2025\/07\/GigantiTechAsini-768x581.jpg",768,581,true],"large":["https:\/\/www.codemotion.com\/magazine\/wp-content\/uploads\/2025\/07\/GigantiTechAsini-1024x775.jpg",1024,775,true],"1536x1536":["https:\/\/www.codemotion.com\/magazine\/wp-content\/uploads\/2025\/07\/GigantiTechAsini.jpg",1184,896,false],"2048x2048":["https:\/\/www.codemotion.com\/magazine\/wp-content\/uploads\/2025\/07\/GigantiTechAsini.jpg",1184,896,false],"small-home-featured":["https:\/\/www.codemotion.com\/magazine\/wp-content\/uploads\/2025\/07\/GigantiTechAsini-100x100.jpg",100,100,true],"sidebar-featured":["https:\/\/www.codemotion.com\/magazine\/wp-content\/uploads\/2025\/07\/GigantiTechAsini-180x128.jpg",180,128,true],"genesis-singular-images":["https:\/\/www.codemotion.com\/magazine\/wp-content\/uploads\/2025\/07\/GigantiTechAsini-896x504.jpg",896,504,true],"archive-featured":["https:\/\/www.codemotion.com\/magazine\/wp-content\/uploads\/2025\/07\/GigantiTechAsini-400x225.jpg",400,225,true],"gb-block-post-grid-landscape":["https:\/\/www.codemotion.com\/magazine\/wp-content\/uploads\/2025\/07\/GigantiTechAsini-600x400.jpg",600,400,true],"gb-block-post-grid-square":["https:\/\/www.codemotion.com\/magazine\/wp-content\/uploads\/2025\/07\/GigantiTechAsini-600x600.jpg",600,600,true]},"uagb_author_info":{"display_name":"Dario Ferrero","author_link":"https:\/\/www.codemotion.com\/magazine\/author\/dario-ferrero\/"},"uagb_comment_info":0,"uagb_excerpt":"de Dario Ferrero (VerbaniaNotizie.it) Un informe independiente revela que las principales empresas tecnol\u00f3gicas no est\u00e1n preparadas para gestionar los riesgos de la inteligencia artificial general. Imagina construir un coche sin frenos o dise\u00f1ar un avi\u00f3n sin sistemas de seguridad. Suena absurdo, \u00bfverdad? Sin embargo, seg\u00fan un informe reci\u00e9n publicado por el Future of Life Institute,……","lang":"es","_links":{"self":[{"href":"https:\/\/www.codemotion.com\/magazine\/wp-json\/wp\/v2\/posts\/33693","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.codemotion.com\/magazine\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.codemotion.com\/magazine\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.codemotion.com\/magazine\/wp-json\/wp\/v2\/users\/336"}],"replies":[{"embeddable":true,"href":"https:\/\/www.codemotion.com\/magazine\/wp-json\/wp\/v2\/comments?post=33693"}],"version-history":[{"count":2,"href":"https:\/\/www.codemotion.com\/magazine\/wp-json\/wp\/v2\/posts\/33693\/revisions"}],"predecessor-version":[{"id":33699,"href":"https:\/\/www.codemotion.com\/magazine\/wp-json\/wp\/v2\/posts\/33693\/revisions\/33699"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/www.codemotion.com\/magazine\/wp-json\/wp\/v2\/media\/33663"}],"wp:attachment":[{"href":"https:\/\/www.codemotion.com\/magazine\/wp-json\/wp\/v2\/media?parent=33693"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.codemotion.com\/magazine\/wp-json\/wp\/v2\/categories?post=33693"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.codemotion.com\/magazine\/wp-json\/wp\/v2\/tags?post=33693"},{"taxonomy":"collections","embeddable":true,"href":"https:\/\/www.codemotion.com\/magazine\/wp-json\/wp\/v2\/collections?post=33693"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}