Resumen:
En un barrio tranquilo de Bellevue, Washington, el sótano de la moderna casa de Gary Fleck está decorado como un espacio de ocio masculino completamente funcional: un cómodo sofá está colocado entre el monitor de pantalla grande y el proyector digital, y también hay una máquina de hilar y remar. Pero lo más destacado de esta sala es un host hecho a medida que parece un modelo gigante ensamblado, con siete tarjetas gráficas Nvidia de alto rendimiento colgadas en el estante.
Los entusiastas de la tecnología ensamblan un host de IA de alto rendimiento en casa, y lo que sigue es un problema espinoso de disipación de calor
Flake trabajó anteriormente en Microsoft y también es el fundador de varias empresas de nueva creación. Construyó la máquina para entrenar modelos de IA personalizados basados en terabytes de datos de electroencefalograma, que registra señales eléctricas en el cerebro, como parte de una startup que ya no realiza.
Para entrenar el modelo de IA, podría haber alquilado potencia informática GPU de grado industrial en el centro de datos a un proveedor de servicios en la nube. Pero dijo que es mucho más rentable instalarlo usted mismo con componentes con descuento. El costo total de todo el equipo es de menos de $6,000, lo que es mucho menos que pagar una tarifa mensual a Amazon Cloud o Microsoft Cloud.
Incluso si se incluye el costo de las modificaciones eléctricas y un nuevo sistema HVAC (un total de entre 1 y 20 000 dólares estadounidenses) para disipar el calor en el sótano y compensar el enorme calor generado por el host de IA, sigue siendo rentable instalarlo usted mismo. "Quiero tener la potencia informática en mis propias manos", afirmó Flake, que planea reutilizar la máquina en los próximos meses para iniciar nuevos proyectos. "No quiero alquilar la potencia informática de otras personas."
Ejecutar cargas de trabajo de IA localmente en áticos, sótanos y oficinas domésticas se ha convertido en un fenómeno inesperado en esta ronda de locura por la IA. Las principales empresas de inteligencia artificial entrenan y ejecutan grandes modelos en grandes centros de datos remotos llenos de decenas de miles de GPU para satisfacer la demanda de potencia informática masiva.
>
Equipo GPU en la casa de Gary Fleck
Al mismo tiempo, hay una
ola de IA local
está surgiendo. Una gran cantidad de pequeños desarrolladores y entusiastas del hardware optan por ejecutar IA en sus dispositivos domésticos debido al costo, la privacidad y la facilidad de uso. Algunos desarrolladores que creen en el concepto de libertad creen que la IA local puede evitar futuras restricciones gubernamentales y cortarles el permiso para utilizar la tecnología de IA. Las plataformas de agentes locales como OpenClaw pueden llamar directamente a aplicaciones nativas y archivos locales para completar tareas complejas, lo que también ha contribuido a esta tendencia.A veces, los dispositivos domésticos de IA son simplemente funciones interesantes para el hogar. El mes pasado, el director ejecutivo de Shopify, Toby Lütke, se volvió viral en las plataformas sociales después de mostrar tres juegos de gabinetes verticales para servidores en su casa. Los gabinetes estaban envueltos con tiras de luz LED rosas. El equipo incluye un host Dell equipado con la tarjeta gráfica de alta gama de Nvidia, que el fabricante llama "la supercomputadora de escritorio definitiva". Luedtke también resolvió inteligentemente el problema de la disipación de calor del equipo.
El auge de las consolas domésticas con IA es un beneficio inesperado para los fabricantes de hardware. Mac mini y Mac Studio son muy populares entre los desarrolladores de teléfonos inteligentes y las ventas están aumentando; Dell también dijo que el mercado para los entusiastas de la IA en el hogar está experimentando un crecimiento explosivo.
Mark Hammons, distinguido ingeniero senior de Dell, dijo: "Esta es la tendencia de los tiempos. Después de la llegada de OpenClaw este año, la demanda de hardware relacionado se ha disparado".
Ubicar hosts de alto rendimiento en casa no es nada nuevo, y las comunidades de entusiastas del "homelab" ya han florecido en plataformas como Discord y Reddit. A principios del siglo XXI, los audiófilos construían servidores en casa, montaban enormes discos duros y almacenaban música y vídeos MP3 descargados. Más tarde, el auge de la minería de criptomonedas impulsó la demanda de GPU de alto rendimiento para uso doméstico.
Hitten Shah era un jugador de criptomonedas en aquel entonces. En 2020, instaló ocho GPU en el rack de servidores de su casa para extraer Ethereum. Hoy, Shah, director ejecutivo de la startup de software Crazy Egg, recurrió al desarrollo de inteligencia artificial y amplió enormemente el armamento de potencia informática en su casa en Redwood Shores, California, a un total de 18 dispositivos, incluidos 14 Mac minis y Mac Studio.
Shah dijo que la potencia informática local le permite controlar el rendimiento del software de optimización de sitios web que desarrolló. Es normal que los modelos de nube grandes experimenten retrasos y tiempos de inactividad frecuentes. "Cada vez que se actualiza un modelo grande en la nube, el sistema será inestable durante varios días y se producirán fallas con frecuencia".
Pero el precio es que el confort de vida se reduce considerablemente. Todo el equipo informático está ubicado en la oficina de su casa, y el calor disipado por las máquinas a menudo hace que la temperatura interior se eleve a 85 grados Fahrenheit (aproximadamente 29,4 grados Celsius). A menudo sólo puede permanecer en la habitación en pantalones cortos. "Debería instalar un aire acondicionado", dijo Shah.
Muchos entusiastas locales de la IA se han convertido en celebridades de Internet de la industria. Un YouTuber radicado en Austin que solicitó el anonimato y solo utiliza el nombre de canal Digital Spaceport. Construyó lo que él llama un "centro de datos doméstico" en su garaje. El hardware incluye cinco tarjetas gráficas AMD, además de una gran cantidad de dispositivos de red y almacenamiento. Actualmente, está ejecutando el gran modelo nacional de código abierto Tongyi Qianwen Qwen-3.8-27B en esta máquina para editar y analizar sus propios videos de YouTube.
Otro consultor tecnológico y YouTuber polaco, también anónimo, utiliza el ID de canal 0xSero. A medida que compraba más y más hardware, tuvo que mover el host de IA por su casa. Originalmente se colocaron cuatro tarjetas gráficas NVIDIA 6000 en la oficina de su casa, pero hacían mucho ruido, generaban un calor extremadamente alto y secaban el aire de la habitación. Creía que esta era la causa de su enfermedad el año pasado. Así que todo el decorado se trasladó al ático.
0xSero fue el primero en utilizar modelos de IA en la nube. El punto de inflexión se produjo a finales de 2024: el precio de la herramienta de programación de IA Cursor aumentó. "En ese momento decidí desarrollar una IA local".
Insiste en un punto de vista: la propiedad y el control de los sistemas de IA deberían estar en manos de los usuarios. En el futuro, es posible que existan controles gubernamentales y restricciones sobre los derechos de acceso a la IA. "Me encanta la IA y quiero seguir teniendo derecho a utilizarla".
Comentarios