Red Hat har just släppt nya uppdateringar i Red Hat AI, din portfölj av produkter och tjänster som är utformade för att påskynda utvecklingen och implementeringen av AI-lösningar i hybridmolnet. Red Hat AI erbjuder en företagsplattform för AI för träning av modeller och inferens, gerar mer erfarenhet, flexibilitet och en förenklad upplevelse för att implementera system var som helst i den hybrida molnmiljön
I jakten på att minska kostnaderna för implementering av stora språkmodeller (LLMS) för att möta ett växande antal användningsfall, företag står fortfarande inför utmaningen att integrera dessa system med sina egna data och få åtkomst till dem var som helst: antingen i ett datacenter, på den offentliga molnet eller till och med vid kanten
Integrera både Red Hat OpenShift AI och Red Hat Enterprise Linux AI (RHEL AI), Red Hat AI svarar på dessa bekymmer genom att tillhandahålla en företagsplattform för AI som möjliggör antagande av mer effektiva och optimerade modeller, justerade med de specifika affärsdata, med möjlighet att implementeras i en hybridmoln för att träna modeller på ett brett spektrum av datorkonstruktioner
Till Joe Fernandes, vice president och general manager för AI Business Unit på Red Hat, uppdateringen möjliggör för organisationer att vara precisa och kostnadseffektiva i sina AI-resor. Red Hat vet att företagen kommer att behöva sätt att hantera de ökande kostnaderna för sina implementeringar av generativ AI, i takt med att de tar med fler användningsfall för produktion och verkar i skala.. Red Hat AI hjälper organisationer att hantera dessa utmaningar, genom att de får tillgång till mer effektiva modeller, utvecklade för ett syfte, tränade med sina data och som möjliggör flexibel inferens i lokala miljöer, av moln och i kanten.”
Red Hat OpenShift AI
Red Hat OpenShift AI erbjuder en komplett AI-plattform för att hantera livscyklerna för prediktiv och generativ AI (gen AI) i hybridmolnet, inkluderande maskininlärningsoperationer (MLOps) och kapaciteter för stora språkmodelloperationer (LLMOps). Plattformen erbjuder funktioner för att bygga prediktiva modeller och justera AI-modeller, tillsammans med verktyg för att förenkla hanteringen av AI-modeller, från datavetenskapspipelines och modeller till modellövervakning, styrning och mycket mer.
Den senaste versionen av plattformen, Red Hat OpenShift AI 2.18, lägger till nya uppdateringar och funktioner för att stödja målet med Red Hat AI att ta fram mer optimerade och effektiva AI-modeller för hybridmolnet. De viktigaste funktionerna inkluderar
● Distribuerad tjänsttillgänglig via vLLM-inferensservern, den distribuerade tjänsten gör det möjligt för IT-team att dela tjänsten av modeller mellan flera grafiska processorenheter (GPU:er). Detta hjälper till att avlasta en enda server, accelererar träningen och finjusteringen och främjar en mer effektiv användning av datorkällor, samtidigt som det hjälper till att fördela tjänsterna mellan noderna för AI-modellerna
● Erfarenhet av end-to-end modelljusteringanvänder InstructLab och Red Hat OpenShift AI:s datavetenskapspipelines, denna nya funktion hjälper till att förenkla finjusteringen av LLM:erna, gör dem mer skalbara, effektiva och reviderbara i stora produktionsmiljöer, samtidigt som det levererar hantering genom Red Hat OpenShift AI:s kontrollpanel
● AI-säkerhetsåtgärderRed Hat OpenShift AI 2.18 hjälper till att förbättra noggrannheten, prestanda, latensen och transparensen hos LLM:er genom en förhandsgranskning av teknologin AI Guardrails, som övervakar och skyddar användarens inmatningsinteraktioner och modellens utdata. AI Guardrails erbjuder ytterligare detektionsfunktioner för att hjälpa IT-team att identifiera och mildra potentiellt hatfulla yttranden, missbrukande eller profana, personligt identifierbar information, data om konkurrenter eller andra begränsade av företags policyer
● Modellutvärderinganvänder komponenten för utvärdering av språkmodeller (lm-eval) för att ge viktig information om den övergripande kvaliteten på modellen, modellutvärdering gör det möjligt för datavetare att jämföra prestandan hos sina LLM:er i olika uppgifter, från logiskt och matematiskt resonemang till motstridig naturlig språk, hjälpa till att skapa mer effektiva AI-modeller, responsiva och anpassade
RHEL AI
Del av Red Hat AI-portföljen, RHEL AI är en plattform för grundläggande modeller för att utveckla, testa och kör LLM:er på ett mer konsekvent sätt, med syftet att driva företagsapplikationer. RHEL AI erbjuder Granite LLM-modeller och InstructLab-modelljusteringsverktyg, vad är paket i en startbar bild av Red Hat Enterprise Linux och kan distribueras i en hybridmoln
Utgiven i februari 2025, RHEL 1.4 har medfört flera förbättringar, inklusive
● Stöd för Granite 3-modellen.1 8Bsom den senaste tillskottet till Granite-modellfamiljen med öppen källkod. O modelo adiciona suporte multilíngue para inferência e personalização de taxonomia/conhecimento (pré-visualização para desenvolvedores), förutom ett kontextfönster på 128k för att förbättra antagandet av sammanfattningsresultat och uppgifter för Retrieval-Augmented Generation (RAG)
● Ny grafisk användargränssnitt för att bidra med färdigheter och tidigare kunskaper, tillgänglig i förhandsgranskningsformat för utvecklare, med syftet att förenkla konsumtionen och fragmenteringen av data, samt att tillåta användare att lägga till sina egna färdigheter och bidrag till AI-modeller
● Dokument Kunskapsbänk (DK-bänk)för att underlätta jämförelser mellan AI-modeller som justerats med relevanta privata data och prestandan hos samma modeller utan justeringar
Red Hat AI InstructLab på IBM Cloud
Allt mer, företagen söker AI-lösningar som prioriterar noggrannhet och säkerhet för sina data, samtidigt som de håller kostnaderna och komplexiteten så låga som möjligt. Red Hat AI InstructLab, tillgänglig som en tjänst på IBM Cloud, det var utformat för att förenkla, skala och hjälpa till att förbättra säkerheten vid träning och implementering av AI-system. Genom att förenkla justeringen av modellerna i InstructLab, organisationer kan bygga mer effektiva plattformar, anpassade till dina unika behov, upprätthålla kontrollen över din konfidentiella information.
Gratis utbildning om grunderna i AI
AI är en transformerande möjlighet som omdefinierar hur företag verkar och konkurrerar. För att stödja organisationer i detta dynamiska scenario, Red Hat erbjuder gratis onlineutbildningar om grunderna i AI. Företaget erbjuder två certifikat i AI-lärande, inriktade både på erfarna seniorledare och nybörjare, hjälpa till att utbilda användare på alla nivåer om hur AI kan hjälpa till att omvandla affärsverksamhet, snabba upp beslutsfattandet och driva innovation
Tillgänglighet
Red Hat OpenShift AI 2.18 och Red Hat Enterprise Linux AI 1.4 är redan tillgängliga. Mer information om ytterligare resurser, förbättringar, bugfixar och hur man uppdaterar din version av Red Hat OpenShift AI till den senaste kan hittashär,och den senaste versionen av RHEL AI kan hittashär.
Red Hat AI InstructLab på IBM Cloud kommer snart att vara tillgänglig. Utbildningen om Red Hats AI-grunder är nu tillgänglig för kunder
