Un desarrollador consigue ejecutar modelos de IA directamente en firmware UEFI sin sistema operativo

Un ingeniero ha logrado un hito técnico notable: crear una aplicación que arranca directamente en modo de servicios UEFI y ejecuta un motor de inferencia de lenguaje de gran tamaño sin necesidad de un sistema operativo convencional, kernel o controladores —exceptuando los de red. El proyecto, desarrollado sobre hardware legacy como el Dell E6510, demuestra una aproximación radicalmente minimalista a la computación con inteligencia artificial. Según explica el creador, el flujo de uso es sorprendentemente simple: encender el equipo, seleccionar "Run Live" en el menú de arranque, escribir "chat" y comenzar a conversar con el modelo de IA. Todo lo que ocurre en pantalla —desde el tokenizador hasta el motor de inferencia completo— funciona ejecutado directamente en modo de arranque UEFI, sin las capas intermedias de un sistema operativo. La arquitectura técnica es particularmente ambiciosa. La pila completa de software, incluyendo el tokenizador, el cargador de pesos del modelo, las operaciones matemáticas tensoriales y el motor de inferencia, ha sido escrita desde cero en C sin dependencias externas, operando en un contexto de código "freestanding" —una categoría de programación que no puede confiar en librerías estándar del sistema. Esta aproximación presenta tanto limitaciones como potencial. El desarrollador reconoce que el rendimiento actual es "dolorosamente lento" debido a la ausencia de optimizaciones, aunque argumenta que con ajustes apropiados el sistema podría funcionar significativamente más rápido. Su objetivo inmediato es mejorar los controladores de red para servir modelos más pequeños a través de la red local. Desde una perspectiva más amplia, este proyecto ilustra una tendencia creciente en la comunidad de IA local: la búsqueda de formas alternativas de ejecutar modelos de lenguaje al margen de las soluciones comerciales convencionales. La naturaleza experimental del trabajo —el creador admite haberlo realizado "por diversión"— refleja el espíritu de innovación que caracteriza al ecosistema de computación descentralizada. El ejercicio también plantea preguntas interesantes sobre la necesidad real de capas de abstracción completas en sistemas que ejecutan cargas de trabajo específicas. Si bien la viabilidad práctica de un sistema puramente UEFI para inferencia de IA sigue siendo limitada, demuestra que la arquitectura tradicional de capas del software no es la única vía posible para lograr funcionamiento complejo.