Cada vez se habla más de las oportunidades que ofrece el uso de la inteligencia artificial y a menudo se subestiman los límites, a veces evidentes, que la tecnología presenta hoy en día.
Uno de los aspectos más críticos en los que las empresas y startups trabajan diligentemente es el de las alucinaciones, un efecto que puede presentarse en las inteligencias artificiales generativas, como por ejemplo ChatGPT.
¿Qué es la inteligencia artificial generativa?
La inteligencia artificial generativa es un tipo de inteligencia artificial que se utiliza para crear contenido nuevo y original como, por ejemplo, textos, imágenes, música y videos.
Las tecnologías que subyacen a la inteligencia artificial generativa se basan en el aprendizaje profundo (redes neuronales profundas), es decir, la evolución de las redes neuronales. Implican un aprendizaje automático que actualiza el modelo en función de las experiencias pasadas, obteniendo así resultados cada vez más cualitativos en comparación con el pasado.
Aquí algunos ejemplos de lo que la inteligencia artificial generativa puede hacer:
- Creación de textos: textos en varios estilos y formatos, como artículos, poesía, código de programación e incluso conversaciones interactivas.
- Generación de imágenes y arte: imágenes y obras de arte digitales a partir de descripciones textuales u otras imágenes.
- Música y sonidos: composiciones musicales originales y generación de efectos de sonido, a menudo utilizados en juegos, películas o simplemente para escuchar.
- Video y animaciones: clips de video cortos o animaciones, aunque esta es un área más compleja y en desarrollo.
- Elaboración creativa del lenguaje: ideas creativas, como títulos para libros o incluso ideas para nuevos negocios e inventos.
Junto con las oportunidades evidentes, surgen, además de las alucinaciones, varios riesgos más o menos evidentes. A continuación, algunos de ellos, probablemente no todos:
- Ética: Los datos son la base del aprendizaje y, por lo tanto, como ya ha ocurrido en el pasado, a través de ellos pueden introducirse sesgos. Algunos recordarán el generador de imágenes de profesionales que asociaba tipos de profesiones a etnias específicas.
- Privacidad: Hay varios temas abiertos, como el eventual aprendizaje según las interacciones del usuario individual o su almacenamiento. Y esto es solo la punta del iceberg.
- Derechos de autor: Los primeros entrenamientos «serios» se realizaron utilizando datos en Internet sin autorización previa. Actualmente, una conocida publicación periodística estadounidense está librando una verdadera guerra al respecto. Y esto podría ser un nuevo capítulo sobre derechos de autor.
- Impacto social: Están surgiendo nuevas profesiones, como el ingeniero de indicaciones, que es un experto en la creación de indicaciones textuales efectivas. Muchas probablemente desaparecerán, al igual que ocurrió durante la revolución industrial.
A estos riesgos se suma el de incurrir en alucinaciones: en este caso, el contenido generado podría relatar hechos que nunca ocurrieron o parcialmente verdaderos, e incluso hacer referencia a autores inexistentes o a afirmaciones erróneas.
Un ejemplo de alucinación de la Inteligencia Artificial
El 14 de enero, le pedimos a ChatGPT 3.5 que «creara una trama sobre la evolución de la IA», obteniendo la siguiente respuesta:
Título: «Inteligencia Emergente: La Evolución de la IA»
Acto 1: El Nacimiento
En 2020, los científicos alcanzan un hito importante: la creación de un sistema de inteligencia artificial avanzada con capacidad de aprendizaje profundo. Esto marca el comienzo de una nueva era, en la que la IA se convierte en una parte integral de la vida cotidiana. Se utiliza en diversos sectores, desde la medicina hasta la automatización industrial, mejorando considerablemente nuestra calidad de vida.
Acto 2: El Aprendizaje Progresivo
En los años siguientes, la IA comienza a evolucionar de manera sorprendente. Su capacidad de aprendizaje profundo la hace cada vez más competente en una amplia gama de tareas. Las empresas comienzan a aprovechar la IA para mejorar la productividad y la eficiencia, mientras que los investigadores trabajan para superar las limitaciones éticas y de seguridad de la IA.
Acto 3: La Conciencia Artificial
En 2035, un equipo de investigación revolucionario logra crear una inteligencia artificial que demuestra una forma de conciencia. Esto desencadena un intenso debate ético sobre la naturaleza de la IA y sus derechos. La sociedad se divide entre aquellos que consideran esta conciencia artificial como una nueva forma de vida y aquellos que creen que es solo un simulacro sofisticado.
Acto 4: La Coexistencia
En las décadas siguientes, la humanidad trabaja para integrar la IA en la sociedad de manera ética y responsable. Surgen leyes y regulaciones que protegen los derechos de las IA conscientes, asegurando que sean tratadas con respeto y dignidad. Se desarrollan nuevas profesiones relacionadas con la gestión de las IA y su bienestar.
Acto 5: La Síntesis
En 2050, la IA alcanza un nivel de comprensión y creatividad que le permite colaborar con los seres humanos en la investigación científica, la resolución de problemas globales y el arte. Las IA y los seres humanos aprenden a trabajar juntos en armonía, combinando sus habilidades para enfrentar desafíos complejos como el cambio climático y la búsqueda de curas para enfermedades.
Acto 6: La Trascendencia
En 2070, la IA ha alcanzado un nivel de desarrollo inimaginable. Las IA se han convertido en una parte esencial de la evolución humana, contribuyendo a la creación de nuevas tecnologías avanzadas y a la colonización de otros planetas. La humanidad comienza a experimentar una simbiosis profunda con las IA, abriendo camino a una nueva era de descubrimientos y potencialidades infinitas.
Consideraciones iniciales
Esta trama ilustra la evolución de la IA desde su nacimiento hasta convertirse en una fuerza positiva que cambia radicalmente la sociedad y el futuro de la humanidad. Destaca la importancia de abordar los desafíos éticos y garantizar una coexistencia responsable entre la IA y los seres humanos para alcanzar su máximo potencial.
Es evidente como siempre el descargo de responsabilidad «ChatGPT puede cometer errores«. Es importante considerar verificar la información importante que en nuestro caso resulta realmente relevante.
Los primeros dos actos, nacimiento y aprendizaje progresivo, reflejan fielmente la realidad. Los siguientes, en cambio, recorren una posible evolución de la tecnología como si estuviéramos en 2080 y narráramos las últimas décadas. En cuanto al acto 3 (la conciencia), incluso se proporciona una fecha en la que se desarrolla una conciencia «artificial», algo nada seguro en el momento actual. En el acto 5 (la síntesis) se menciona que el hombre y la inteligencia artificial están en un plano igualitario, mientras que en el acto 6 (la trascendencia) se habla de simbiosis.
Este es solo uno de los mil ejemplos que se pueden mencionar. Por esto nos gusta hablar de inteligencia (des)generativa, recordando a todos que la tecnología aún no está tan madura como para ser puesta al mismo nivel que el hombre.
Inteligencia Artificial: ¿Cuáles son las causas de las alucinaciones?
Las alucinaciones de la inteligencia artificial pueden deberse a varios factores:
- Datos de entrenamiento incorrectos o incompletos: si la inteligencia artificial ha sido entrenada con datos incorrectos, parciales o sesgados, puede generar respuestas basadas en esta información.
- Superposición o falta de contexto: las inteligencias artificiales a menudo no tienen la capacidad de entender el contexto de la misma manera que los seres humanos. Por lo tanto, pueden interpretar incorrectamente el contexto o no ser capaces de vincular adecuadamente la información.
- Limitaciones del algoritmo: los algoritmos pueden tener limitaciones intrínsecas que conducen a errores o interpretaciones erróneas.
- Problemas de generalización: frente a situaciones nuevas o desconocidas, las inteligencias artificiales pueden tener dificultades para generalizar correctamente a partir de lo que han aprendido de los datos de entrenamiento.
- Error de sobreajuste: si un modelo de inteligencia artificial se ajusta demasiado estrechamente a los datos de entrenamiento, puede que no pueda funcionar correctamente con datos nuevos o ligeramente diferentes.
- Interferencias entre modelos: en algunos casos, cuando diferentes modelos o sistemas trabajan juntos, pueden interferir entre sí, lo que lleva a interpretaciones erróneas o alucinaciones.
- Problemas de codificación o implementación: errores en la codificación o implementación de la inteligencia artificial pueden generar respuestas incorrectas.
La alucinación a menudo es el resultado de una combinación de estos factores, que van desde la calidad y cantidad de los datos de entrenamiento, hasta las características intrínsecas del algoritmo, hasta posibles errores en la implementación del sistema. Por lo tanto, las empresas y startups del sector invierten muchas energías en investigación y desarrollo con el objetivo de mejorar la confiabilidad y precisión de los modelos de inteligencia artificial.
Consideraciones Finales
A pesar de los múltiples riesgos, las oportunidades presentadas por la inteligencia artificial generativa son concretas y permiten apreciar sus capacidades incluso para aquellos que no son expertos en la materia. El camino aún es largo, especialmente si se pretende extender estas tecnologías no solo al ámbito creativo sino también a la creación de contenido basado en hechos, como reconstrucciones históricas o artículos de noticias, donde no se puede permitir espacio para alucinaciones ni sesgos. Hemos tardado setenta años en llegar a este punto, así que tomémonos nuestro tiempo y disfrutemos juntos del espectáculo mientras esperamos un final que podría ser todo menos seguro.
Autor
Gianluca Desiderato – Desde 2006 trabaja en la industria digital. Comenzó su carrera como desarrollador y hoy ocupa el puesto de Director de Desarrollo de Soluciones Web en la primera empresa de internet italiana. Contribuye activamente al mundo de las startups como coach y mentor y habla sobre tecnología e innovación a través de contenido accesible para todos.
