Qnap introduceert de QAI-h1290FX. Dat is een NAS die dienst kan doen als server voor private LLM’s, RAG-zoekmachines en generatieve AI. Het toestel combineert all-flash NVMe-opslag met een AMD Epyc-processor en optionele Nvidia RTX-GPU’s.
Qnap lanceert de QAI-h1290FX als een edge AI-opslagserver voor bedrijven die AI-workloads niet in de cloud willen onderbrengen. Het systeem is gebouwd met oog op lokale inferentie, gegevenssoevereiniteit en controle over de volledige omgeving.
Hardware en AI-capaciteiten
De QAI-h1290FX is voorzien van een AMD Epyc 7302P-processor met zestien kernen en 32 threads. Voor opslag zijn er twaalf U.2 NVMe/SATA SSD-slots aanwezig. Qnap kiest dus voor een all-flash architectuur die hoge I/O-prestaties moet leveren. Dat is een logische keuze, gezien de focus op AI-modellen en bijhorende datastromen.
Qnap voorziet 128 GB ingebouwd RAM-geheugen maar kiest verrassend genoeg voor DDR4. Dat heeft vermoedelijk iets te maken met de CPU: de chip werd immers al in 2019 gelanceerd. Die keuze is verrassend, gezien de focus van het toestel.
De server ondersteunt GPU-versnelling via een maximaal een Nvidia RTX Pro 6000 Blackwell Max-Q Workstation GPU. Die kaart beschikt over tot 96 GB GPU-geheugen en ondersteunt onder meer CUDA, TensorRT en Transformer Engine. De GPU ligt in lijn met wat je in een meer traditionele AI-server zou terugvinden. De integratie moet lokale LLM-inferentie, beeldgeneratie en andere deep learning-workloads versnellen.
Op netwerkvlak krijgt de QAI-h1290FX twee 25 GbE-poorten en twee 2,5 GbE-poorten. Via PCIe zijn upgrades tot 100 GbE mogelijk. Het systeem is ook compatibel met Qnap JBOD-uitbreidingsbehuizingen voor extra opslagcapaciteit.
QuTS Hero
Het ZFS gebaseerde QuTS Hero is het besturingssysteem van dienst. Het brengt functies mee zoals data-integriteit, snapshots en inline deduplicatie. Voor AI-omgevingen ondersteunt het systeem ook native GPU-toegang in containers via Container Station en GPU passthrough voor virtuele machines via Virtualization Station.
Verder laadt Qnap al verschillende AI-tools vooraf in, waaronder AnythingLLM, OpenWebUI en Ollama. Ook integraties met Stable Diffusion, ComfyUI, n8n en vLLM zijn voorzien.
Echte AI-NAS
Qnap wil dit toestel de drempel wil verlagen voor organisaties die een AI-platform on-premises willen bouwen. De integratie van echte AI-capaciteiten in een NAS is opvallend. Met de term AI strooien fabrikanten maar al te graag rond: zodra een kleine NPU present tekent, is iets zogezegd al geoptimaliseerd voor AI. De mogelijkheid om een echte GPU te installeren, zorgt er echter voor dat dit toestel in een andere categorie speelt.
Qnap komt met het toestel tegemoet aan organisaties die met lokale AI aan de slag willen gaan, maar als basis een relatief instapvriendelijke NAS-omgeving verkiezen. De prijs is niet mals: de AI-server kost 17.655 eurp (excl. btw), en dan moet je de SSD’s en de GPU nog bijkopen.