{"id":32701,"date":"2025-04-15T09:53:56","date_gmt":"2025-04-15T07:53:56","guid":{"rendered":"https:\/\/www.codemotion.com\/magazine\/?p=32701"},"modified":"2025-04-21T10:27:36","modified_gmt":"2025-04-21T08:27:36","slug":"el-coste-oculto-de-la-inteligencia-artificial-y-por-que-importa","status":"publish","type":"post","link":"https:\/\/www.codemotion.com\/magazine\/es\/inteligencia-artificial\/el-coste-oculto-de-la-inteligencia-artificial-y-por-que-importa\/","title":{"rendered":"El coste oculto de la inteligencia artificial \u2013 y por qu\u00e9 importa"},"content":{"rendered":"\n

“Crea una imagen de c\u00f3mo crees que me veo bas\u00e1ndote en lo que sabes sobre m\u00ed.\u201d<\/strong><\/p>\n\n\n\n

Internet est\u00e1 inundado de retratos generados por IA \u2014algunos con estilo caricaturesco, otros con apariencia realista\u2014 que representan el aspecto de las personas, a menudo acompa\u00f1ados de comentarios sobre lo poco que estas im\u00e1genes se parecen a sus sujetos originales.\u200b<\/p>\n\n\n\n

Mi resultado fue un hombre no muy agraciado, lo cual me hizo arquear una ceja. \u00bfC\u00f3mo es posible que ChatGPT no lo hiciera mejor con toda la informaci\u00f3n que le proporcion\u00e9? Al menos deber\u00eda saber que soy una mujer.<\/strong><\/p>\n\n\n\n

Desplaz\u00e1ndome por LinkedIn, me top\u00e9 con otra mujer que compart\u00eda el mismo sentimiento. Los modelos de lenguaje de gran tama\u00f1o (LLM, por sus siglas en ingl\u00e9s) est\u00e1n sesgados hacia entradas masculinas y, por lo tanto, tienden a asumir por defecto que eres hombre.<\/p>\n\n\n\n

Eso me hizo cuestionarme. La tecnolog\u00eda que se promociona como revolucionaria, intuitiva y casi humana sigue apoy\u00e1ndose en una visi\u00f3n del mundo que es obstinadamente desequilibrada.<\/p>\n\n\n\n

\n\n\n\n

Los sesgos de g\u00e9nero en los modelos de lenguaje de gran tama\u00f1o (entre otros)<\/strong><\/h3>\n\n\n\n

El sesgo en la IA no es nuevo, pero adopta nuevas formas cuando aparece en herramientas con las que millones de personas interact\u00faan a diario. Los datos con los que se entrenan los LLM son vastos e indiscriminados: se extraen de blogs, foros, sitios de noticias, hilos de Reddit, p\u00e1ginas de Wikipedia y m\u00e1s. No es sorprendente que los sesgos presentes en nuestros espacios digitales se transmitan y amplifiquen en estos modelos.<\/p>\n\n\n\n

Estad\u00edsticamente, las perspectivas masculinas dominan el espacio en l\u00ednea. Desde la forma en que se plantean las preguntas hasta los ejemplos que se proporcionan, el modelo simplemente refleja su entorno. Eso no es una excusa: es la ra\u00edz del problema. Si los LLM est\u00e1n dise\u00f1ados para asistir, informar e interactuar con todo tipo de personas, sus supuestos no deber\u00edan estar tan fuertemente moldeados por la voz de un solo grupo demogr\u00e1fico.<\/p>\n\n\n\n

La investigaci\u00f3n respalda esta observaci\u00f3n. Un estudio de University College London encontr\u00f3 evidencia clara de sesgo contra las mujeres en el contenido generado por varios LLM. Los nombres femeninos se asociaban fuertemente con palabras como \u201cfamilia\u201d, \u201chijos\u201d y \u201cesposo\u201d, conform\u00e1ndose a roles de g\u00e9nero tradicionales. En cambio, los nombres masculinos se vinculaban m\u00e1s con t\u00e9rminos como \u201ccarrera\u201d, \u201cejecutivos\u201d, \u201cdirecci\u00f3n\u201d y \u201cnegocios\u201d.<\/p>\n\n\n\n

Cuando una tecnolog\u00eda dise\u00f1ada para servir a una poblaci\u00f3n global se refiere a las mujeres como \u201c\u00e9l\u201d o asume que los m\u00e9dicos son hombres y las enfermeras mujeres, no estamos ante una herramienta futurista. Solo estamos viendo viejos patrones disfrazados con c\u00f3digo nuevo.<\/p>\n\n\n\n

\n\n\n\n

Desinformaci\u00f3n disfrazada de autoridad<\/strong><\/h3>\n\n\n\n

Luego est\u00e1 el problema de la autoridad. Como los LLM se expresan con una prosa limpia y segura, sus respuestas suelen tomarse al pie de la letra, incluso cuando son peligrosamente err\u00f3neas.<\/p>\n\n\n\n

Las personas recurren a estas herramientas para obtener consejos m\u00e9dicos, informaci\u00f3n legal y contenido educativo. Pero, a diferencia de un profesional con credenciales, un LLM no \u201csabe\u201d nada. Sus respuestas se basan en la probabilidad estad\u00edstica de que ciertas combinaciones de palabras aparezcan juntas.<\/p>\n\n\n\n

Esto los hace incre\u00edblemente \u00fatiles para redactar correos o generar ideas, pero peligrosamente enga\u00f1osos si los usuarios asumen que lo que dicen es correcto. Cuando el tono es persuasivo pero el contenido es err\u00f3neo, \u00bfqui\u00e9n se hace responsable de las consecuencias?<\/p>\n\n\n\n

Consideremos el caso de Arve Hjalmar Holmen, un ciudadano noruego que present\u00f3 una denuncia contra OpenAI despu\u00e9s de que ChatGPT afirmara falsamente que hab\u00eda asesinado a sus dos hijos. La respuesta fabricada no solo lo difam\u00f3, sino que tambi\u00e9n puso en evidencia el potencial de la IA para difundir desinformaci\u00f3n da\u00f1ina.<\/p>\n\n\n\n

De manera similar, durante las elecciones estadounidenses de 2024, ChatGPT proporcion\u00f3 respuestas incorrectas sobre los procedimientos de votaci\u00f3n en estados clave, lo que gener\u00f3 preocupaci\u00f3n por la propagaci\u00f3n de desinformaci\u00f3n en procesos democr\u00e1ticos cr\u00edticos.<\/p>\n\n\n\n

Incluso los errores aparentemente inofensivos pueden tener un efecto acumulativo. Por ejemplo, en entornos acad\u00e9micos, los estudiantes que usan LLM para investigar o resumir temas pueden construir ensayos sobre una base err\u00f3nea sin saberlo. Cuando se inventan citas, se tergiversan hechos o se pierde el matiz, el resultado no solo es inexacto; es enga\u00f1oso de una forma que parece confiable.<\/p>\n\n\n\n

El tono pulido es parte del problema. Fomenta la confianza donde deber\u00eda haber cautela. Cuanto m\u00e1s se implementan estas herramientas en contextos dirigidos al consumidor, m\u00e1s urgente se vuelve tratar su contenido no como verdad, sino como borradores o sugerencias.<\/p>\n\n\n\n

\n\n\n\n

Preocupaciones sobre la privacidad: tus datos no son tan privados como crees<\/strong><\/h3>\n\n\n\n

Las conversaciones con LLM pueden parecer extra\u00f1amente \u00edntimas, pero no olvidemos: interactuar con estas herramientas significa alimentarlas con tus datos. Y aunque las empresas afirman que tus entradas no se almacenan\u2014o que est\u00e1n anonimizadas\u2014lo que \u201canonimizado\u201d significa en la pr\u00e1ctica suele ser vago y dif\u00edcil de verificar.<\/p>\n\n\n\n

Existen zonas grises, especialmente en aplicaciones laborales o herramientas de atenci\u00f3n al cliente impulsadas por IA. Si introduces informaci\u00f3n personal o financiera sensible, \u00bfa d\u00f3nde va? \u00bfQui\u00e9n la ve? \u00bfPuede resurgir m\u00e1s adelante?<\/p>\n\n\n\n

La l\u00ednea entre la entrada del usuario y los datos de entrenamiento es borrosa. Y eso deber\u00eda incomodarnos a todos.<\/p>\n\n\n\n

Una publicaci\u00f3n en el blog de Sentra se\u00f1ala que los LLM pueden configurarse para permitir entradas que contengan informaci\u00f3n sensible. Si estas no se filtran o limpian adecuadamente, pueden incorporarse al entrenamiento del modelo, lo que podr\u00eda llevar a la divulgaci\u00f3n de informaci\u00f3n confidencial.<\/p>\n\n\n\n

Adem\u00e1s, discusiones en plataformas como Reddit revelan una creciente preocupaci\u00f3n por la privacidad al usar modelos de IA. Los usuarios temen que todo lo que se introduzca en un LLM pueda almacenarse y potencialmente quedar expuesto en filtraciones de datos o procesos legales.<\/p>\n\n\n\n

Y mientras gobiernos y organismos reguladores luchan por ponerse al d\u00eda, los usuarios quedan navegando un campo minado de t\u00e9rminos y condiciones que pocos comprenden realmente. Esto plantea la pregunta: \u00bfrealmente deber\u00edamos pensarlo dos veces antes de hacerle una pregunta personal a un asistente virtual?<\/p>\n\n\n\n

\n\n\n\n

\u00bfY ahora qu\u00e9?<\/strong><\/h3>\n\n\n\n

No podemos desinventar los LLM. Ya est\u00e1n aqu\u00ed y cada vez est\u00e1n m\u00e1s integrados en las herramientas que usamos y en los sistemas que gobiernan nuestra vida diaria. La pregunta no es si avanzamos, sino c\u00f3mo<\/strong> lo hacemos.<\/p>\n\n\n\n

Algunos pasos posibles para crear una tecnolog\u00eda mejor:<\/p>\n\n\n\n