ASUS kondigt de UGen300 aan, volgens het bedrijf de eerste USB AI-accelerator ter wereld. Het apparaat bevat een Hailo-10H AI-processor die 40 AI TOPS levert en beschikt over 8GB geheugen. De UGen300 moet via USB-C plug-and-play AI-versnelling bieden aan apparaten zonder eigen AI-mogelijkheden.
ASUS heeft de UGen300 USB AI Accelerator aangekondigd, wat het bedrijf omschrijft als de eerste AI USB-device van ASUS. Het apparaat brengt volgens de fabrikant inference-prestaties direct naar elk aangesloten apparaat.
Het 105 x 50 x 18mm grote apparaat bevat een Hailo-10H AI-processor die volgens ASUS 40 AI TOPS aan rekenkracht levert voor large language models (LLM’s), vision-language models (VLM’s) en andere AI-toepassingen. De UGen300 beschikt over 8GB LPDDR4-geheugen en verbruikt naar eigen zeggen slechts 2,5 watt onder normale werklasten.
Plug-and-play compatibiliteit
De UGen300 sluit aan via USB-C en biedt volgens ASUS compatibiliteit met Windows, Linux en Android. Het apparaat ondersteunt naar verluidt AI-frameworks zoals TensorFlow, PyTorch en ONNX direct uit de doos.
Volgens Max Glover van Hailo brengt de integratie van de Hailo-10H in een USB-apparaat “de volledige kracht van AI en generatieve AI naar iedereen”. Hailo ziet dit als de toekomst van AI: toegankelijk, betaalbaar en ontworpen voor brede toepassingsmogelijkheden.
Edge AI-prestaties
ASUS stelt dat de UGen300 is geoptimaliseerd voor generatieve AI-workloads, waaronder LLM-inference en vision-language taken. Het apparaat moet de CPU en NPU’s van het hostapparaat aanvullen en systeembronnen vrijmaken voor on-device generatieve AI zonder afhankelijkheid van cloud computing.
Volgens ASUS biedt de UGen300 voordelen ten opzichte van cloud-gebaseerde AI: geen maandelijkse abonnementskosten, geen latency en betere betrouwbaarheid en privacy. Het apparaat zou veeleisende generatieve AI-toepassingen kunnen draaien zoals tekstgeneratie, videosamenvatting, event triggering en real-time perceptie.
Geheugenarchitectuur
Het geïntegreerde 8GB LPDDR4-geheugen moet stabiele AI-berekeningen en uitvoering van grote modellen mogelijk maken. ASUS beoogt hiermee hostsystemen zonder AI-mogelijkheden te voorzien van effectieve AI-tools, waarbij zware AI-workloads worden overgenomen voor optimale systeembalans.
In tegenstelling tot standaard NPU’s die systeemgeheugen delen, moet de dedicated RAM-architectuur van de UGen300 volgens ASUS bottlenecks voorkomen en consistente doorvoer garanderen voor ontwikkelaars en professionals met complexe AI-pipelines.
Ecosysteem en beschikbaarheid
De UGen300 wordt ondersteund door wat ASUS een gestroomlijnd ecosysteem noemt om AI-ontwikkeling te versnellen. De aankomende UGen Utility moet snelle validatie mogelijk maken met meer dan 100 voorgeconfigureerde modellen.
Gebruikers kunnen ook aansluiting zoeken bij de Hailo Developer Community voor tutorials, referentieontwerpen en gedeelde inzichten. De ASUS UGen300 Series wordt vanaf Q2 2026 beschikbaar, ook in een M.2-versie.
