Red Hat zet in op artificiële intelligentie en updatet daarom de reeds bestaande functionaliteiten op verschillende vlakken.
Tijdens KubeCon 2024 kondigt Red Hat updates aan voor OpenShift 4.17, OpenShift AI 2.15 en Device Edge 4.17. De vernieuwingen richten zich op AI-schaalbaarheid, productiviteit en lage-latentieprestaties voor hybride cloud- en edge-omgevingen.
OpenShift 4.17: Generatieve AI en geïntegreerde virtualisatie
De nieuwste versie van Red Hat OpenShift, versie 4.17, introduceert OpenShift Lightspeed. Dat is een virtuele assistent in technische preview die gebruik maakt van generatieve AI. Lightspeed stelt teams in staat om eenvoudig technische vragen te stellen en direct antwoorden te krijgen. Zo verhoogt de productiviteit zonder extra technische expertise. Lightspeed integreert met Red Hat OpenShift AI en Red Hat Enterprise Linux AI als modelproviders. Daardoor kunnen organisaties generatieve AI in hun OpenShift-omgeving benutten.
OpenShift 4.17 bevat verbeteringen in virtualisatiebeheer, zoals veilige geheugenoverschrijving om de densiteit van virtuele machines te verhogen. Een nieuwe functie in technische preview maakt het mogelijk om data live te migreren tussen verschillende opslagmedia, om zo virtuele machines tijdens deze migratie actief houden. Verder biedt een speciaal virtualisatiebeheerconsole overzichtelijke toegang tot virtualisatiefuncties, wat de efficiëntie voor beheerders vergroot.
lees ook
Red Hat OpenShift Platform Plus voorziet meer zichtbaarheid en betere beveiliging voor Kubernetes
Er is ook een Advanced Cluster Management voor Kubernetes dat nieuwe mogelijkheden biedt in het beheren van visuele machines in meerdere clusters. Zo is er een verbeterde zoek- en filterfunctie en de mogelijkheid om VM’s rechtstreeks vanuit het platform te stoppen, starten, herstarten of pauzeren.
Op het gebied van beveiliging introduceert OpenShift 4.17 netwerkisolatie voor namespaces, gebruikersnamespaces in pods en een Confidential Compute Attestation Operator voor het beschermen van gevoelige workloads. Deze functies verhogen de veiligheid van containers zonder de ontwikkelingssnelheid te belemmeren.
OpenShift AI 2.15: Efficiëntie en betrouwbaarheid in AI-modellen
Red Hat’s OpenShift AI 2.15 ondersteunt bedrijven bij het opschalen en beheren van AI-modellen in hybride omgevingen. Deze update bevat een modelregistratie, momenteel in technische preview, waar bedrijven modellen en hun metadata centraal kunnen beheren en versiebeheer kunnen toepassen. Deze modelregistratie helpt datawetenschappers en AI-ingenieurs om consistent en gestructureerd om te gaan met modellen en bijbehorende artefacten. Red Hat biedt de modelregistratie ook aan de open source Kubeflow-gemeenschap aan.
OpenShift AI 2.15 introduceert ook datadrift-detectie, waarmee afwijkingen in inputdata worden gedetecteerd die mogelijk de prestaties van modellen beïnvloeden. Daarnaast zijn biasdetectietools toegevoegd vanuit de TrustyAI-gemeenschap om de eerlijkheid en betrouwbaarheid van AI-modellen in productie te waarborgen.
Voor modeloptimalisatie biedt OpenShift AI 2.15 ondersteuning voor low-rank adapters (LoRA) voor efficiënte fine-tuning van grote taalmodellen zoals Llama 3. Dit maakt AI-schaalbaarheid toegankelijker door de kosten en het energieverbruik te verlagen. Bovendien is er integratie met Nvidia NIM, wat het eenvoudiger maakt om generatieve AI-toepassingen te implementeren, en met AMD GPU’s via het ROCm-platform voor extra verwerkingsopties.
Op het gebied van modeluitrol biedt de update een vLLM-runtime-optie voor KServe, geoptimaliseerd voor grote taalmodellen. Ook voorziet Red Hat ondersteuning om OCI-repositories om containerized modellen veilig op te slaan en te delen.
lees ook
LoRaWAN-netwerken breiden uit, veiligheidsonderzoekers waarschuwen
Device Edge 4.17: Lage latency en betrouwbare prestaties aan de edge
Met Red Hat Device Edge 4.17 richt het bedrijf zich op het optimaliseren van edge-toepassingen met real time prestaties, zoals autonome voertuigen en industriële machines. Device Edge combineert een lichte Kubernetes-distributie, MicroShift, met Red Hat Enterprise Linux en het Ansible Automation Platform. Het is ontworpen om kleine, resource-beperkte apparaten met lage latentie te ondersteunen.
De nieuwste versie biedt verbeterde latency-prestaties, die cruciaal zijn in omgevingen waar beslissingen binnen milliseconden genomen moeten worden. Device Edge 4.17 breidt ook de netwerkmogelijkheden uit met IPv6-ondersteuning en single- en dual-stack-configuraties, wat flexibiliteit biedt voor netwerkbeheer.
Voor AI aan de edge biedt Device Edge 4.17 ondersteuning voor Nvidia Jetson Orin en IGX Orin in technische preview. Dit stelt organisaties in staat om geavanceerde AI-modellen uit te voeren en data lokaal te verwerken zonder afhankelijk te zijn van centrale datacenters. De combinatie van lage latentie AI met verbeterde netwerkopties vergroot de inzetbaarheid van Device Edge voor tijdkritische toepassingen aan de edge.
lees ook
’93 procent organisaties heeft onveilig geconfigureerde cloudopslag’
Beschikbaarheid en toekomstperspectief
De updates voor OpenShift 4.17 zijn nu al beschikbaar, die van OpenShift AI 2.15 en Device Edge 4.17 vanaf november 2024. Red Hat zet hiermee in op schaalbare en veilige oplossingen voor bedrijven die hun AI- en edge-capaciteiten willen uitbreiden, terwijl ze de hybride cloud optimaal benutten. Met deze releases wil Red Hat organisaties ondersteunen bij het verbeteren van AI-productiviteit, het vereenvoudigen van complex virtualisatiebeheer en het verhogen van de prestaties van edge-toepassingen met strenge latentie-eisen.