De un almac\u00e9n en Brescello a una idea perseguida de noche<\/h2>\n\n\n\n
En internet se encuentra muy poco sobre Vincenzo. Su perfil de GitHub<\/a> se limita a una l\u00ednea: “Founder of Colibr\u00ec, a tiny engine, immense model”, y sin embargo, en tres semanas el proyecto ha superado las veinticinco mil estrellas y se ha situado en el centro del debate sobre la democratizaci\u00f3n de la inteligencia artificial. Le he preguntado qui\u00e9n es, antes incluso de preguntarle c\u00f3mo lo hizo.<\/p>\n\n\n\n “Creo que en internet es dif\u00edcil encontrar informaci\u00f3n sobre m\u00ed porque nunca he sido una persona particularmente expansiva y, sobre todo, nunca he tenido un gran inter\u00e9s en mostrarme a m\u00ed mismo. Siempre he preferido poner por delante mis proyectos.<\/p>\n\n\n\n Para m\u00ed programar siempre ha sido un desahogo de la fantas\u00eda. Durante a\u00f1os, sobre todo de noche, \u00e9ramos simplemente yo, un ordenador y una idea en la que pensar. No programaba necesariamente porque alguien me lo hubiera pedido o porque tuviera ya en mente un producto que vender. A menudo programaba porque necesitaba entender si una idea que ten\u00eda en la cabeza pod\u00eda hacerse realidad.<\/p>\n\n\n\n Siempre he tenido la sensaci\u00f3n de que el proyecto es m\u00e1s importante que la persona que lo crea. Pero con el tiempo he comprendido tambi\u00e9n otra cosa: cuando un proyecto empieza a ser \u00fatil a muchas personas, quien lo ha iniciado tiene la responsabilidad de darle una direcci\u00f3n y construir a su alrededor las condiciones para que pueda crecer.<\/p>\n\n\n\n Nac\u00ed en Tarento, pero hoy vivo en Brescello, en Emilia-Roma\u00f1a, el pueblo de Don Camillo y Peppone. La m\u00eda no ha sido una vida particularmente sencilla: me qued\u00e9 hu\u00e9rfano cuando ten\u00eda nueve a\u00f1os y durante gran parte de mi vida las posibilidades econ\u00f3micas han sido limitadas.<\/p>\n\n\n\n Estudi\u00e9 inform\u00e1tica en Bari, pero en un momento dado no pude continuar los estudios por motivos econ\u00f3micos. As\u00ed que empec\u00e9 a trabajar en un almac\u00e9n como mozo de almac\u00e9n.<\/p>\n\n\n\n La vida toma a menudo caminos que no hab\u00edas planeado. El trabajo era ese, pero mi cabeza segu\u00eda estando en otra parte. Nunca dej\u00e9 de programar. Segu\u00eda estudiando, experimentando e imaginando aplicaciones y sistemas.<\/p>\n\n\n\n Me influyeron mucho las historias de personas que consiguieron construir algo partiendo de condiciones distantes de ser perfectas. No me interesaba copiar su camino. Me interesaba entender c\u00f3mo una idea pod\u00eda transformarse en algo capaz de cambiar la forma en que las personas utilizan una tecnolog\u00eda.<\/p>\n\n\n\n Desde el punto de vista t\u00e9cnico, siempre he tenido una predilecci\u00f3n especial por C y C++. Los estudi\u00e9 desde la universidad y sigo consider\u00e1ndolos herramientas extraordinarias cuando el problema requiere control, previsibilidad y velocidad. Me gusta tener los menores estratos posibles entre lo que pienso y lo que el ordenador ejecuta.<\/p>\n\n\n\n Colibr\u00ec naci\u00f3 exactamente as\u00ed.<\/p>\n\n\n\n Quer\u00eda entender si era posible coger un ordenador relativamente com\u00fan, incluso lento y sin una GPU particularmente potente, y conseguir ejecutar un modelo enorme.<\/p>\n\n\n\n No hab\u00eda una empresa detr\u00e1s, no hab\u00eda un equipo y no hab\u00eda inicialmente un plan de negocio. Hab\u00eda un problema t\u00e9cnico que me curioseaba lo suficiente como para hacerme trabajar noche y d\u00eda.<\/p>\n\n\n\n Cuando consegu\u00ed resolverlo, durante un tiempo el proyecto se qued\u00f3 en mi ordenador. Luego decid\u00ed casi por casualidad publicarlo en GitHub.<\/p>\n\n\n\n A partir de ese momento ocurri\u00f3 algo que no hab\u00eda previsto.<\/p>\n\n\n\n La gente empez\u00f3 a probarlo, debatirlo, contribuir y utilizarlo. Colibr\u00ec empez\u00f3 a ser mucho m\u00e1s grande que el experimento del que hab\u00eda nacido.<\/p>\n\n\n\n Y es precisamente ah\u00ed donde para m\u00ed cambi\u00f3 tambi\u00e9n la perspectiva.<\/p>\n\n\n\n Colibr\u00ec no naci\u00f3 porque yo quisiera construir una startup. Pero cuando miles de personas empiezan a decirte, directa o indirectamente, que el problema que has decidido abordar les interesa a ellas tambi\u00e9n, deb\u00e9is empezar a preguntaros c\u00f3mo de grande puede llegar a ser la soluci\u00f3n.<\/p>\n\n\n\n Hoy es esta la pregunta que me interesa.”<\/p>\n\n\n\n La p\u00e1gina de GitHub del proyecto dice casi un manifiesto: “Frontier models should not be sealed inside datacenters. Colibr\u00ec exists so that anyone curious enough can open one up.” Le pregunto qu\u00e9 significa realmente para \u00e9l “abrir” un modelo, no simplemente acceder a \u00e9l a trav\u00e9s de una API, y si la democracia de la IA que imagina es una cuesti\u00f3n de acceso o algo m\u00e1s profundo.<\/p>\n\n\n\n “Para m\u00ed el acceso a la IA deber\u00eda ser lo m\u00e1s sencillo posible. Deber\u00edais poder encender un ordenador, abrir un programa y empezar a experimentar.<\/p>\n\n\n\n No deber\u00eda ser una posibilidad reservada \u00fanicamente a quienes poseen hardware de decenas de miles de euros o a quienes pueden utilizar grandes infraestructuras.<\/p>\n\n\n\n Pero creo que el acceso es solo el primer nivel.<\/p>\n\n\n\n Lo que me interesa a\u00fan m\u00e1s es la posibilidad de conocer la tecnolog\u00eda que est\u00e1is utilizando.<\/p>\n\n\n\n Cuando hablo de un modelo ‘abierto’, por tanto, no me refiero simplemente a poder obtener una respuesta. Me refiero a poder ejecutarlo, observarlo, medirlo, hacer experimentos e intentar entender qu\u00e9 ocurre cuando cambi\u00e1is algo.<\/p>\n\n\n\n Hay una diferencia enorme entre utilizar una inteligencia y poder estudiarla.<\/p>\n\n\n\n Esto no significa que la nube sea incorrecta. La nube es y seguir\u00e1 siendo extremadamente importante. Hay problemas para los que concentrar enormes cantidades de c\u00e1lculo en un centro de datos es la mejor soluci\u00f3n.<\/p>\n\n\n\n Yo pienso simplemente que no debe ser el \u00fanico modelo posible.<\/p>\n\n\n\n Deber\u00eda existir tambi\u00e9n otra posibilidad: llevar cada vez m\u00e1s capacidad de inferencia cerca de la persona, del investigador, de la empresa o del dispositivo que la necesita.<\/p>\n\n\n\n La democratizaci\u00f3n de la IA, en mi opini\u00f3n, deber\u00eda ser por tanto tanto una democratizaci\u00f3n del acceso como una democratizaci\u00f3n de la comprensi\u00f3n.<\/p>\n\n\n\n No me gustar\u00eda que la primera pregunta de una persona fuera: ‘\u00bfTengo suficiente GPU para poder probar esto?’<\/p>\n\n\n\n Me gustar\u00eda que fuera: ‘\u00bfQu\u00e9 puedo descubrir si pruebo a hacerlo?’<\/p>\n\n\n\n La IA se est\u00e1 convirtiendo en una de las herramientas de conocimiento m\u00e1s potentes que hemos construido. Cuantas m\u00e1s personas puedan experimentarla directamente, m\u00e1s aumentar\u00e1 la probabilidad de que alguien encuentre un uso, una optimizaci\u00f3n o incluso un paradigma en el que hoy todav\u00eda no hemos pensado.<\/p>\n\n\n\n Para m\u00ed el requisito principal deber\u00eda ser cada vez m\u00e1s la curiosidad, no el tama\u00f1o de la infraestructura que pose\u00e9is.”<\/p>\n\n\n\n Hay un detalle que me llam\u00f3 la atenci\u00f3n desde el principio: el mensaje con el que Fornaro present\u00f3 Colibr\u00ec en Hacker News no se titulaba “he creado el motor de inferencia definitivo”, sino simplemente “Getting GLM-5.2 running on my slow computer”. Una actitud casi modesta para un resultado que no es modesto. Le pregunto cu\u00e1ndo comprendi\u00f3 que su experimento personal se estaba convirtiendo en otra cosa, y qu\u00e9 reacci\u00f3n de la comunidad le hizo pensar que las cosas estaban cambiando de verdad.<\/p>\n\n\n\n “El t\u00edtulo era simplemente ‘Getting GLM-5.2 running on my slow computer’ porque esa era exactamente la historia.<\/p>\n\n\n\n No quer\u00eda decir que hubiera construido el motor de inferencia definitivo. Hab\u00eda resuelto un problema que me parec\u00eda interesante y quer\u00eda explicar c\u00f3mo.<\/p>\n\n\n\n Colibr\u00ec no hab\u00eda nacido con el objetivo de convertirse en una startup. Hab\u00eda nacido por curiosidad.<\/p>\n\n\n\n Luego ocurrieron dos cosas.<\/p>\n\n\n\n La primera fue ver a personas utilizar realmente lo que yo hab\u00eda construido.<\/p>\n\n\n\n Recuerdo en particular a un chico que me escribi\u00f3 para darme las gracias porque, gracias a Colibr\u00ec, hab\u00eda conseguido acceder a un modelo que de otro modo habr\u00eda requerido una m\u00e1quina mucho m\u00e1s cara.<\/p>\n\n\n\n Eso me impact\u00f3 mucho m\u00e1s que el n\u00famero de estrellas.<\/p>\n\n\n\n Porque por primera vez no estaba mirando solo una soluci\u00f3n t\u00e9cnica. Estaba mirando un problema real eliminado para alguien.<\/p>\n\n\n\n La segunda cosa fue la comunidad.<\/p>\n\n\n\n Personas que no conoc\u00eda empezaron a abrir issues, hacer pull requests, probar hardware, encontrar errores y proponer optimizaciones.<\/p>\n\n\n\n En ese momento comprend\u00ed que estaba ocurriendo algo importante: Colibr\u00ec no estaba creciendo porque yo intentara convencer a alguien de que fuera \u00fatil. La gente llegaba espont\u00e1neamente porque reconoc\u00eda el problema.<\/p>\n\n\n\n Para quien construye tecnolog\u00eda, esto es una se\u00f1al muy fuerte.<\/p>\n\n\n\n Desde entonces he empezado a mirar Colibr\u00ec de una manera diferente.<\/p>\n\n\n\n Sigue siendo un proyecto open source y quiero que siga si\u00e9ndolo, pero creo que la tecnolog\u00eda y el problema que estamos abordando pueden tener implicaciones mucho mayores que el repositorio en el que empez\u00f3 todo.<\/p>\n\n\n\n El paso interesante, ahora, es entender c\u00f3mo transformar ese inter\u00e9s espont\u00e1neo en una tecnolog\u00eda cada vez m\u00e1s s\u00f3lida, generalizable y utilizable.<\/p>\n\n\n\n Y para hacerlo, inevitablemente, Colibr\u00ec tendr\u00e1 que crecer tambi\u00e9n m\u00e1s all\u00e1 de la dimensi\u00f3n de una sola persona.” El n\u00facleo de Colibr\u00ec es un \u00fanico archivo C de unas mil trescientas l\u00edneas, sin dependencias, sin GPU requerida, sin Python en tiempo de ejecuci\u00f3n. En un momento hist\u00f3rico en el que vLLM, TensorRT-LLM y SGLang son proyectos nacidos en laboratorios con equipos numerosos y bases de c\u00f3digo complejas, la elecci\u00f3n de Fornaro suena casi como un acto de resistencia, un poco como ciertas producciones discogr\u00e1ficas caseras hechas con cuatro instrumentos que consiguen sonar m\u00e1s densas que una orquesta entera. Le pregunto si detr\u00e1s de esta extrema sencillez hay una elecci\u00f3n puramente arquitect\u00f3nica o una convicci\u00f3n m\u00e1s filos\u00f3fica.<\/p>\n\n\n\n “Inicialmente fue una elecci\u00f3n arquitect\u00f3nica, pero se ha convertido tambi\u00e9n en una convicci\u00f3n.<\/p>\n\n\n\n Cuando intentas hacer funcionar un modelo enorme en una m\u00e1quina relativamente peque\u00f1a, cada capa adicional tiene un coste.<\/p>\n\n\n\n Necesitas saber exactamente d\u00f3nde se encuentra la memoria, cu\u00e1ndo se mueve, qu\u00e9 se calcula y por qu\u00e9 algo es lento.<\/p>\n\n\n\n El C me permite tener un control extremadamente directo sobre estas cosas.<\/p>\n\n\n\n Pero esto no significa que considere que la complejidad sea siempre negativa.<\/p>\n\n\n\n La complejidad es una inversi\u00f3n.<\/p>\n\n\n\n Deb\u00e9is introducirla cuando el valor que produce es mayor que el coste que a\u00f1ade.<\/p>\n\n\n\n Al principio Colibr\u00ec pod\u00eda permitirse ser extremadamente peque\u00f1o. Hoy est\u00e1n llegando backends de GPU, servidores, interfaces, nuevas arquitecturas y otros componentes. Inevitablemente el proyecto crecer\u00e1.<\/p>\n\n\n\n El reto es crecer sin perder legibilidad.<\/p>\n\n\n\n Me gustar\u00eda que el n\u00facleo del sistema siguiera siendo algo que un buen desarrollador pueda abrir, leer y comprender.<\/p>\n\n\n\n Esto tiene tambi\u00e9n una ventaja muy concreta para un proyecto open source: reduce enormemente la barrera para quien quiere contribuir.<\/p>\n\n\n\n La sencillez, en este sentido, no es solo elegancia.<\/p>\n\n\n\n Es velocidad de desarrollo, capacidad de depuraci\u00f3n (debugging), facilidad de experimentaci\u00f3n y posibilidad de incorporar a nuevas personas al proyecto.”<\/p>\n\n\n\n El mecanismo en el que se basa Colibr\u00ec tiene una elegancia casi minimalista: la parte densa del modelo permanece residente en RAM, mientras que los expertos son llamados desde el disco solo cuando se necesitan, un poco como el compilador JIT de ciertos lenguajes que no traduce todo por adelantado sino solo lo que la ejecuci\u00f3n requiere realmente, instante a instante. Le pregunto a Fornaro cu\u00e1l es, para quien se acerca por primera vez a Colibr\u00ec, el concepto m\u00e1s contraintuitivo de digerir.<\/p>\n\n\n\n “Probablemente el concepto m\u00e1s contraintuitivo es este: un modelo gigantesco no utiliza necesariamente todos sus par\u00e1metros al mismo tiempo.<\/p>\n\n\n\n Cuando una persona oye ‘744 mil millones de par\u00e1metros’, imagina que para generar cada token el ordenador debe utilizar todos esos par\u00e1metros.<\/p>\n\n\n\n En un modelo Mixture-of-Experts no funciona as\u00ed.<\/p>\n\n\n\n Es m\u00e1s bien como una enorme organizaci\u00f3n con much\u00edsimos departamentos especializados. Todos existen, pero para cada token el modelo activa solo una parte de los expertos.<\/p>\n\n\n\n Por tanto la pregunta deja de ser:<\/p>\n\n\n\n ‘\u00bfC\u00f3mo hago para meter todo el modelo en la RAM?’<\/p>\n\n\n\n y pasa a ser:<\/p>\n\n\n\n ‘\u00bfC\u00f3mo hago para tener disponible la parte correcta del modelo en el momento en que se necesita?’<\/p>\n\n\n\n Colibr\u00ec intenta responder a esta segunda pregunta.<\/p>\n\n\n\n El almacenamiento se convierte en un nivel m\u00e1s de la jerarqu\u00eda de memoria. Los expertos pueden permanecer en el disco y ser llevados cerca del c\u00e1lculo cuando se necesitan.<\/p>\n\n\n\n Es como tener un almac\u00e9n enorme y un banco de trabajo relativamente peque\u00f1o. No pones todo el almac\u00e9n sobre la mesa. Deb\u00e9is organizar el sistema de manera que lo que se necesita llegue a la mesa lo suficientemente r\u00e1pido.<\/p>\n\n\n\n Luego entran en juego cach\u00e9s, prefetch, patrones de uso y otras optimizaciones.<\/p>\n\n\n\n El principio general, sin embargo, sigue siendo sencillo:<\/p>\n\n\n\n no deb\u00e9is tener necesariamente todo al mismo tiempo.<\/p>\n\n\n\n Deb\u00e9is conseguir tener lo correcto en el momento correcto.<\/p>\n\n\n\n Y es un principio que creo que puede tener aplicaciones mucho m\u00e1s amplias a medida que los modelos sigan creciendo.” Aqu\u00ed llega el punto m\u00e1s debatido en internet. En un port\u00e1til con 25 GB de RAM, los primeros benchmarks hablaban de un token cada diez-veinte segundos, y un an\u00e1lisis de Wavect escribi\u00f3 que el proyecto “se ejecuta, pero a 0,05-0,1 tokens por segundo desde cach\u00e9 fr\u00eda”, defini\u00e9ndolo como “una prueba seria de arquitectura, no a\u00fan un servidor listo para producci\u00f3n”. Tom’s Hardware indica en cambio 20-30 tokens por segundo como umbral para una interacci\u00f3n realmente fluida, mientras que en una m\u00e1quina con seis GPU RTX 5090 se llega a 6 tokens por segundo. Le pregunto c\u00f3mo se posiciona respecto a estas observaciones, si Colibr\u00ec es hoy un ejercicio de ingenier\u00eda fascinante o un producto ya utilizable.<\/p>\n\n\n\n “El an\u00e1lisis de Wavect es honesto.<\/p>\n\n\n\n Definir las primeras versiones de Colibr\u00ec como ‘a serious proof of architecture, not yet a drop-in production server’ es una descripci\u00f3n que considero correcta.<\/p>\n\n\n\n La velocidad es un problema real y no quiero ocultarlo.<\/p>\n\n\n\n En un port\u00e1til, hoy en d\u00eda, ejecutar un modelo de esas dimensiones a trav\u00e9s de Colibr\u00ec no significa tener la misma experiencia que tendr\u00edais utilizando un modelo servido por un gran centro de datos.<\/p>\n\n\n\n Pero en mi opini\u00f3n el punto interesante es entender cu\u00e1l es la trayectoria.<\/p>\n\n\n\n Antes el problema era binario: ese modelo entraba en vuestra infraestructura o no entraba.<\/p>\n\n\n\n Colibr\u00ec intenta transformarlo en un problema continuo: \u00bfc\u00f3mo de despacio podemos empezar, cu\u00e1nto podemos mejorar cach\u00e9s, almacenamiento, prefetch, especulaci\u00f3n, backends acelerados y cu\u00e1nta parte del cuello de botella podemos eliminar progresivamente?<\/p>\n\n\n\n La ingenier\u00eda empieza a menudo transformando un cero en un n\u00famero.<\/p>\n\n\n\n Una vez que algo funciona, pod\u00e9is medirlo.<\/p>\n\n\n\n Y una vez que pod\u00e9is medirlo, pod\u00e9is empezar seriamente a optimizarlo.<\/p>\n\n\n\n No prometer\u00eda hoy 20 o 30 tokens por segundo para un modelo de cientos de miles de millones de par\u00e1metros en cualquier port\u00e1til. Existen l\u00edmites f\u00edsicos que el software no puede simplemente borrar.<\/p>\n\n\n\n Pero creo que existe un espacio enorme entre ‘imposible’ y ‘tan r\u00e1pido como un centro de datos’.<\/p>\n\n\n\n Y es precisamente ese espacio el que me interesa explorar.<\/p>\n\n\n\n A corto plazo veo Colibr\u00ec como una plataforma muy interesante para desarrolladores, investigadores, aficionados y casos de uso en los que el acceso local a modelos enormes tiene un valor especial.<\/p>\n\n\n\n A largo plazo, en cambio, el objetivo es seguir reduciendo la distancia entre la inferencia local y la infraestructura centralizada.<\/p>\n\n\n\n Si conseguimos hacerlo lo suficientemente bien, no ser\u00e1 solo un experimento t\u00e9cnico.<\/p>\n\n\n\n Se convertir\u00e1 en una nueva opci\u00f3n de infraestructura.”<\/p>\n\n\n\n Colibr\u00ec tiene todav\u00eda fronteras abiertas, no es un servidor de producci\u00f3n, por ahora trabaja con la arquitectura de GLM-5.2 y no con modelos MoE gen\u00e9ricos, la validaci\u00f3n de la calidad de la cuantizaci\u00f3n int4 es un trabajo en curso, el disco NVMe sigue siendo el rival m\u00e1s duro de batir. Le pregunto c\u00f3mo afronta estos retos y si existen compromisos que est\u00e9 dispuesto a aceptar hoy para ganar velocidad, o l\u00edneas que considere en cambio infranqueables.<\/p>\n\n\n\n “Una peque\u00f1a correcci\u00f3n a la premisa: Colibr\u00ec hoy ya soporta diferentes familias de modelos MoE y cada nueva arquitectura a\u00f1adida nos permite entender algo que puede ser \u00fatil tambi\u00e9n para las dem\u00e1s.<\/p>\n\n\n\n Tambi\u00e9n la cuantizaci\u00f3n ha madurado mucho.<\/p>\n\n\n\n Hemos encontrado y corregido problemas reales de calidad y, en esto, la comunidad ha sido fundamental.<\/p>\n\n\n\n El principal rival sigue siendo, sin embargo, la cantidad de datos que deb\u00e9is mover.<\/p>\n\n\n\n Y por eso una regla que intento aplicar continuamente es: medir antes de creer.<\/p>\n\n\n\n Es facil\u00edsimo inventar una optimizaci\u00f3n que sobre el papel parece brillante.<\/p>\n\n\n\n Mucho m\u00e1s dif\u00edcil es demostrar que mejora realmente el sistema en hardware real y con cargas de trabajo reales.<\/p>\n\n\n\n Tengo un peque\u00f1o laboratorio de experimentos en el que muchas ideas van a morir.<\/p>\n\n\n\n Y es exactamente lo que deber\u00eda ocurrir.<\/p>\n\n\n\n En cuanto a los compromisos, estoy dispuesto a aceptar muchos.<\/p>\n\n\n\n Puedo aceptar un arranque en fr\u00edo m\u00e1s lento si el comportamiento mejora durante el uso.<\/p>\n\n\n\n Puedo aceptar mayor complejidad en el formato de los datos si significa leer mucho menos del almacenamiento.<\/p>\n\n\n\n Puedo aceptar estrategias diferentes seg\u00fan el hardware.<\/p>\n\n\n\n Lo que no quiero sacrificar es la correcci\u00f3n.<\/p>\n\n\n\n Un benchmark impresionante obtenido degradando silenciosamente la calidad del modelo no me interesa.<\/p>\n\n\n\n Si Colibr\u00ec debe convertirse en una infraestructura sobre la que otras personas construyan algo, la confianza en los resultados debe ir antes que el mejor n\u00famero en una tabla.”<\/p>\n\n\n\n El proyecto tiene ya backends de CUDA y Metal, una interfaz web funcional, el soporte nativo al decoding especulativo de GLM-5.2. Le pregunto qu\u00e9 falta para llegar a una velocidad que pueda competir realmente con una API en la nube en el d\u00eda a d\u00eda, digamos diez-veinte tokens por segundo en un hardware que una persona cualquiera pudiera comprarse, y si es una cuesti\u00f3n de c\u00f3digo, de hardware, o de futuros modelos m\u00e1s adecuados para este enfoque.<\/p>\n\n\n\n “Son las tres cosas: software, hardware y modelos.<\/p>\n\n\n\n Pero probablemente el elemento m\u00e1s interesante es la forma en que estas tres partes pueden empezar a dise\u00f1arse juntas.<\/p>\n\n\n\n El software puede hacer much\u00edsimo.<\/p>\n\n\n\n Podemos mejorar el formato de los datos, reducir las lecturas, prever qu\u00e9 expertos se necesitar\u00e1n, solapar transferencia y c\u00e1lculo, mejorar la cach\u00e9 y utilizar mejor las CPU, GPU y almacenamiento disponibles.<\/p>\n\n\n\n Pero el software no puede eliminar un l\u00edmite f\u00edsico.<\/p>\n\n\n\n El hardware seguir\u00e1 siendo por tanto importante.<\/p>\n\n\n\n Los SSD de consumo son cada vez m\u00e1s r\u00e1pidos, la capacidad de memoria crece y tambi\u00e9n las arquitecturas de los ordenadores est\u00e1n cambiando.<\/p>\n\n\n\n Para Colibr\u00ec es particularmente interesante porque nosotros consideramos el almacenamiento no simplemente como el lugar desde el que cargar el modelo al principio, sino como parte activa de la arquitectura de inferencia.<\/p>\n\n\n\n Luego est\u00e1n los modelos.<\/p>\n\n\n\n Los actuales se dise\u00f1aron para infraestructuras en las que existen enormes cantidades de memoria y ancho de banda.<\/p>\n\n\n\n No se optimizaron pensando en una m\u00e1quina de consumo que debe decidir continuamente qu\u00e9 partes del modelo acercar al c\u00e1lculo.<\/p>\n\n\n\n No veo sin embargo ninguna raz\u00f3n por la que esto deba seguir siendo una constante.<\/p>\n\n\n\n Modelos con mayor localidad, expertos m\u00e1s peque\u00f1os, routing m\u00e1s predecible o estructuras dise\u00f1adas expl\u00edcitamente para jerarqu\u00edas de memoria podr\u00edan cambiar radicalmente el problema.<\/p>\n\n\n\n En cierto sentido, podr\u00eda ser que Colibr\u00ec haya llegado antes que el modelo ideal para este tipo de inferencia.<\/p>\n\n\n\n Esta es tambi\u00e9n una de las cosas que me parecen m\u00e1s interesantes desde el punto de vista futuro.<\/p>\n\n\n\n No quiero que Colibr\u00ec sea simplemente ‘un programa que hace funcionar GLM en un port\u00e1til’.<\/p>\n\n\n\n Me interesa entender si algunas de las ideas que estamos explorando pueden convertirse en una manera diferente de pensar la inferencia de modelos muy grandes.<\/p>\n\n\n\n Si ocurre, el mercado potencial no estar\u00e1 limitado al aficionado individual con un ordenador lento.<\/p>\n\n\n\n Podr\u00e1 afectar a estaciones de trabajo, edge computing, empresas que quieren mantener los datos localmente, investigaci\u00f3n, dispositivos dedicados y probablemente casos de uso que hoy todav\u00eda no hemos imaginado.”<\/p>\n\n\n\n Hay quien ve en Colibr\u00ec la prueba de que la IA local puede hacerse realidad tambi\u00e9n para quienes no pueden permitirse un centro de datos, y hay quien objet\u00f3 que la democratizaci\u00f3n de la IA es ya una realidad, basta un navegador y veinte d\u00f3lares al mes para ChatGPT. Le pregunto c\u00f3mo responde a esta objeci\u00f3n, y qu\u00e9 significa realmente poseer un modelo m\u00e1s all\u00e1 del simple ahorro econ\u00f3mico, si es una cuesti\u00f3n de privacidad, de libertad, o de algo m\u00e1s radical como la capacidad de hacer ciencia sobre la IA, no solo de usarla.<\/p>\n\n\n\n “La objeci\u00f3n es absolutamente leg\u00edtima.<\/p>\n\n\n\n Si la pregunta es ‘\u00bfpuedo usar una inteligencia artificial muy potente?’, la nube ha democratizado ya enormemente el acceso.<\/p>\n\n\n\n Y es algo extraordinario.<\/p>\n\n\n\n No considero Colibr\u00ec una guerra contra la nube.<\/p>\n\n\n\n Pienso que la nube y la IA local resuelven problemas diferentes y que en el futuro convivir\u00e1n.<\/p>\n\n\n\n Habr\u00e1 actividades para las que tendr\u00e1 sentido utilizar el modelo m\u00e1s potente disponible en un centro de datos.<\/p>\n\n\n\n Y habr\u00e1 otras en las que ser\u00e1n importantes la latencia, la privacidad, la previsibilidad de los costes, la independencia de la red, el control de la infraestructura o la posibilidad de estudiar exactamente el sistema que est\u00e1is utilizando.<\/p>\n\n\n\n Pienso en la historia de la inform\u00e1tica.<\/p>\n\n\n\n El ordenador personal no hizo in\u00fatiles a los grandes ordenadores.<\/p>\n\n\n\n Simplemente abri\u00f3 otra dimensi\u00f3n de la inform\u00e1tica.<\/p>\n\n\n\n El hecho de que un ordenador fuera tuyo significaba que pod\u00edas programarlo, modificarlo, romperlo, experimentar.<\/p>\n\n\n\n Con la IA pienso que puede ocurrir algo similar.<\/p>\n\n\n\n Un servicio remoto es extraordinariamente c\u00f3modo cuando quer\u00e9is obtener una respuesta.<\/p>\n\n\n\n Un modelo local se vuelve interesante cuando quer\u00e9is tambi\u00e9n hacer preguntas sobre el propio sistema.<\/p>\n\n\n\n \u00bfPor qu\u00e9 ha respondido as\u00ed?<\/p>\n\n\n\n \u00bfC\u00f3mo cambia el comportamiento si modifico este componente?<\/p>\n\n\n\n \u00bfCu\u00e1nto puedo comprimirlo?<\/p>\n\n\n\n \u00bfPuedo reproducir el mismo resultado dentro de cinco a\u00f1os?<\/p>\n\n\n\n \u00bfPuedo utilizar datos que no quiero enviar fuera de mi infraestructura?<\/p>\n\n\n\n \u00bfPuedo construir un producto que siga funcionando sin depender completamente de un proveedor externo?<\/p>\n\n\n\n Por tanto no veo el futuro como ‘nube contra local’.<\/p>\n\n\n\n Lo veo como un continuum.<\/p>\n\n\n\n Y creo que hoy una parte de ese continuum est\u00e1 todav\u00eda mucho menos desarrollada que la otra.<\/p>\n\n\n\n Es ah\u00ed donde Colibr\u00ec intenta trabajar.”<\/p>\n\n\n\n Cerramos con la mirada a largo plazo. Imagina el 2036, los modelos convertidos en a\u00fan m\u00e1s grandes o tal vez m\u00e1s peque\u00f1os y m\u00e1s inteligentes, el hardware de consumo transformado. Le pregunto si Colibr\u00ec, o algo nacido de \u00e9l, seguir\u00e1 siendo relevante, qu\u00e9 sue\u00f1a que ocurra en los pr\u00f3ximos diez a\u00f1os para quienes quieren tener la inteligencia artificial en sus propias manos, y m\u00e1s personalmente, tras veinticinco mil estrellas y los titulares en Tom’s Hardware y Hacker News, qu\u00e9 quiere que la gente recuerde de \u00e9l.<\/p>\n\n\n\n “En 2036 espero que muchas de las cosas que hoy Colibr\u00ec hace dif\u00edciles se hayan convertido en normales.<\/p>\n\n\n\n Esto no significa que espere que Colibr\u00ec desaparezca.<\/p>\n\n\n\n Significa que espero que evolucione.<\/p>\n\n\n\n Los proyectos tecnol\u00f3gicos importantes rara vez se quedan iguales a su primera versi\u00f3n. Cambian junto con el problema que est\u00e1n intentando resolver.<\/p>\n\n\n\n Si dentro de diez a\u00f1os ejecutar modelos enormes en hardware relativamente com\u00fan es normal, ser\u00e1 una victoria.<\/p>\n\n\n\n En ese momento probablemente Colibr\u00ec estar\u00e1 afrontando otra frontera.<\/p>\n\n\n\n Lo que me gustar\u00eda que permaneciera constante es la idea de fondo: reducir la distancia entre una persona curiosa y una tecnolog\u00eda que hoy parece demasiado grande, cara o compleja para ser explorada directamente.<\/p>\n\n\n\n Me gustar\u00eda que en 2036 una persona pudiera mirar un modelo avanzado y pensar:<\/p>\n\n\n\n ‘Quiero entender c\u00f3mo funciona.’<\/p>\n\n\n\n Y pudiera hacerlo.<\/p>\n\n\n\n En cuanto a lo que quiero construir personalmente, hoy siento una responsabilidad diferente respecto al principio.<\/p>\n\n\n\n Colibr\u00ec naci\u00f3 como un experimento individual, pero no creo que deba permanecer necesariamente como tal.<\/p>\n\n\n\n Si queremos abordar seriamente este problema, se necesitar\u00e1n personas mucho mejores que yo en muchas \u00e1reas diferentes, se necesitar\u00e1 una comunidad cada vez m\u00e1s fuerte y probablemente se necesitar\u00e1 tambi\u00e9n construir una estructura capaz de sostener el proyecto a largo plazo.<\/p>\n\n\n\n Esto no cambia la raz\u00f3n por la que empec\u00e9.<\/p>\n\n\n\n La hace simplemente m\u00e1s ambiciosa.<\/p>\n\n\n\n Y si dentro de diez a\u00f1os alguien, ante un problema que todos consideran imposible, piensa:<\/p>\n\n\n\n ‘Probemos.’<\/p>\n\n\n\n y tal vez utiliza algo que ha nacido tambi\u00e9n del trabajo hecho hoy en Colibr\u00ec, para m\u00ed ser\u00e1 ya un resultado enorme.<\/p>\n\n\n\n No me interesa particularmente que se recuerde la idea de Vincenzo Fornaro como ‘genio’.<\/p>\n\n\n\n Me interesar\u00eda mucho m\u00e1s que permaneciera otra idea:<\/p>\n\n\n\n que una persona con pocos recursos, pero suficiente curiosidad, puede todav\u00eda empezar algo lo suficientemente importante como para atraer a otras personas y hacerse mucho m\u00e1s grande que ella.<\/p>\n\n\n\n Es exactamente lo que le est\u00e1 pasando a Colibr\u00ec.”<\/p>\n\n\n\n El repositorio de Colibr\u00ec<\/a> permanece consultable en GitHub para quien quiera probarlo, contribuir, o simplemente leer esas mil trescientas l\u00edneas de C que han encendido la conversaci\u00f3n.<\/em><\/p>\n\n\n\n![\"\"](\"https:\/\/www.codemotion.com\/magazine\/wp-content\/uploads\/2026\/08\/colibri-dashboard-1024x608.jpg\")
<\/figure>\n\n\n\nAbrir un modelo, no solo usarlo<\/h2>\n\n\n\n
Un mensaje en Hacker News, no un manifiesto<\/h2>\n\n\n\n
![\"colibri-dashboard.jpg\"](\"colibri-dashboard.jpg\")
El panel web de Colibr\u00ec, imagen tomada del repositorio oficial<\/a><\/p>\n\n\n\nUn archivo, mil trescientas l\u00edneas, ning\u00fan compromiso<\/h2>\n\n\n\n
El disco como memoria, no como almac\u00e9n<\/h2>\n\n\n\n
<\/p>\n\n\n\n![\"\"](\"https:\/\/www.codemotion.com\/magazine\/wp-content\/uploads\/2026\/08\/tiers-1024x397.jpg\")
0,05 tokens por segundo, honestamente<\/h2>\n\n\n\n
Correcci\u00f3n antes que el benchmark<\/h2>\n\n\n\n
Software, hardware, modelos: tres caminos que convergen<\/h2>\n\n\n\n
Poseer un modelo: m\u00e1s all\u00e1 del ahorro<\/h2>\n\n\n\n
El 2036 y el legado de una idea<\/h2>\n\n\n\n
\n\n\n\n