Red Hat heeft samen met NVIDIA de Red Hat AI Factory met NVIDIA aangekondigd. De oplossing combineert Red Hat AI Enterprise en NVIDIA AI Enterprise in één platform voor ontwikkeling, uitrol en opschaling van AI over verschillende omgevingen. De gezamenlijke oplossing is per direct beschikbaar.
De Red Hat AI Factory met NVIDIA is ontwikkeld om AI-workloads op grotere schaal te ondersteunen, van infrastructuur tot modeluitvoering. Volgens de bedrijven brengt het platform software, engineering en ondersteuning samen in één geïntegreerde oplossing voor gebruik in datacenters, publieke cloudomgevingen en edge-locaties. Daarbij wordt ondersteuning geboden voor NVIDIA-hardwarearchitecturen vanaf dag één.
De oplossing richt zich op het beheren van zowel traditionele infrastructuur als AI-componenten binnen één omgeving. Dat moet de overgang van experimenten naar productie vereenvoudigen en het mogelijk maken AI-toepassingen met dezelfde beheersbaarheid en voorspelbaarheid te exploiteren als andere bedrijfstoepassingen.
Het platform biedt ondersteuning voor AI-inferentie, modelafstemming, aanpassingen en het uitrollen en beheren van agents. Vooraf geconfigureerde modellen zijn beschikbaar via NVIDIA NIM-microservices, waaronder IBM Granite, NVIDIA Nemotron en NVIDIA Cosmos. Voor verdere afstemming op eigen data kan gebruik worden gemaakt van NVIDIA NeMo.
Voor prestaties en kostenoptimalisatie maakt de oplossing gebruik van een uniforme serving-stack met ondersteuning voor onder meer vLLM, NVIDIA TensorRT-LLM, NVIDIA Dynamo en NVIDIA BlueField. Daarnaast bevat het platform functionaliteit voor monitoring en observatie. Volgens de bedrijven moet dit bijdragen aan betere benutting van GPU’s en verlaging van de totale eigendomskosten.
De basis van het platform wordt gevormd door Red Hat Enterprise Linux, dat beveiligings- en compliancefuncties biedt voor AI-workloads die isolatie en continue verificatie vereisen. Daarmee richt de oplossing zich op inzet binnen productieomgevingen waar betrouwbaarheid en beheersbaarheid centraal staan.
Met de introductie van de Red Hat AI Factory met NVIDIA breiden beide bedrijven hun bestaande samenwerking verder uit. De oplossing is wereldwijd beschikbaar.
