Red Hat har netop lanceret nye opdateringer til Red Hat AI, dit portefølje af produkter og tjenester designet til at accelerere udviklingen og implementeringen af AI-løsninger i hybrid sky. Red Hat AI tilbyder en virksomhedsinfrastruktur til træning af modeller og inferens, giver mere erfaring, fleksibilitet og en forenklet oplevelse til at implementere systemer hvor som helst i den hybride sky
I jagten på at reducere omkostningerne ved implementering af store sprogmodeller (LLMS) for at imødekomme et stigende antal anvendelsessager, virksomheder står stadig over for udfordringen med at integrere disse systemer med deres proprietære data og få adgang til dem fra hvor som helst: enten i et datacenter, i den offentlige sky eller endda ved kanten
Integrering af både Red Hat OpenShift AI og Red Hat Enterprise Linux AI (RHEL AI), Red Hat AI adresserer disse bekymringer ved at tilbyde en virksomhedsløsning til AI, der muliggør adoption af mere effektive og optimerede modeller, justeret med de specifikke forretningsdata, med mulighed for at blive implementeret i en hybrid sky for at træne modeller på en bred vifte af computerarkitekturer
Til Joe Fernandes, vicepræsident og general manager for AI Business Unit hos Red Hat, opdateringen muliggør, at organisationer kan være præcise og økonomiske i deres AI-rejser. Red Hat ved, at virksomhederne vil have brug for måder at håndtere de stigende omkostninger ved deres implementeringer af generativ AI, i takt med at de bringer flere anvendelsessager til produktion og opererer i skala.. Red Hat AI hjælper organisationer med at tackle disse udfordringer, ved at de har adgang til mere effektive modeller, udviklet til et formål, trænet med dine data og som muliggør fleksibel inferens i on-premises miljøer, af sky og på kanten.”
Red Hat OpenShift AI
Red Hat OpenShift AI tilbyder en komplet AI-platform til at håndtere livscyklussen for prædiktiv og generativ AI (gen AI) i den hybride sky, inklusive operationer inden for maskinlæring (MLOps) og kapaciteter inden for Large Language Model Operations (LLMOps). Platformen tilbyder funktioner til at bygge prædiktive modeller og justere AI-modeller, sammen med værktøjer til at forenkle administrationen af AI-modeller, fra pipelines til datavidenskab og modeller til overvågning af modeller, governance og meget mere.
Seneste version af platformen, Red Hat OpenShift AI 2.18, tilføjer nye opdateringer og funktioner for at støtte målet med Red Hat AI om at bringe mere optimerede og effektive AI-modeller til den hybride sky. De vigtigste funktioner inkluderer
● Fordelt tjenestetilgængelig via vLLM inferensserveren, den distribuerede tjeneste gør det muligt for IT-teams at fordele tjenesten af modeller mellem flere grafiske behandlingsenheder (GPUs). Dette hjælper med at lette belastningen på en enkelt server, accelererer træningen og finjusteringen og fremmer en mere effektiv brug af computerressourcerne, samtidig som det hjælper med at fordele tjenesterne mellem noderne til AI-modellerne
● End-to-end model tuning erfaringved hjælp af InstructLab og Red Hat OpenShift AI's datavidenskabs-pipelines, denne nye funktion hjælper med at forenkle finjusteringen af LLM'erne, gør dem mere skalerbare, effektive og reviderbare i store produktionsmiljøer, samtidig med at det leverer administration gennem kontrolpanelet i Red Hat OpenShift AI
● AI SikkerhedsstængerRed Hat OpenShift AI 2.18 hjælper med at forbedre præcisionen, ydelsen, latensen og gennemsigtigheden af LLM'er gennem en forhåndsvisning af AI Guardrails teknologien, der overvåger og beskytter brugerens inddatainteraktioner og modellens output. AI Guardrails tilbyder yderligere detektionsfunktioner til at hjælpe IT-teams med at identificere og afbøde potentielt hadefulde ytringer, abusiv eller profan, personligt identificerbare oplysninger, data om konkurrenter eller andre begrænset af virksomhedspolitikker
● Modelvurderingved hjælp af komponenten til evaluering af sprogmodeller (lm-eval) til at give vigtige oplysninger om den overordnede kvalitet af modellen, modelvurdering gør det muligt for dataforskere at sammenligne ydeevnen af deres LLM'er på forskellige opgaver, fra logisk og matematisk ræsonnering til naturligt sprog i modstrid, hjælper med at skabe mere effektive AI-modeller, responsiv og tilpasset
RHEL AI
Del af Red Hat AI-porteføljen, RHEL AI er en platform for grundlæggende modeller til udvikling, teste og udfør LLM'er mere konsekvent, med henblik på at fremme erhvervsapplikationer. RHEL AI tilbyder Granite LLM-modeller og InstructLab modeljusteringsværktøjer, hvad er pakker i et bootbillede af Red Hat Enterprise Linux og kan implementeres i en hybrid sky
Udgivet i februar 2025, RHEL 1.4 bragte forskellige forbedringer, inklusive
● Support til Granite 3 modellen.1 8Bsom den nyeste tilføjelse til Granite-modelfamilien med open source-licens. O modelo adiciona suporte multilíngue para inferência e personalização de taxonomia/conhecimento (pré-visualização para desenvolvedores), udover et kontekstvindue på 128k for at forbedre vedtagelsen af opsummeringsresultater og opgaver med Retrieval-Augmented Generation (RAG)
● Ny grafisk brugergrænseflade til at bidrage med færdigheder og forudgående viden, tilgængelig i forhåndsvisningsformat for udviklere, med henblik på at forenkle forbruget og fragmenteringen af data, samt at tillade brugere at tilføje deres egne færdigheder og bidrag til AI-modeller
● Dokument Kendskabs-bench (DK-bench)for at lette sammenligninger mellem AI-modeller tilpasset med relevante private data og præstationen af de samme ujusterede basismodeller
Red Hat AI InstructLab på IBM Cloud
Stadig mere, virksomhederne søger AI-løsninger, der prioriterer nøjagtighed og sikkerhed for deres data, samtidig med at de holder omkostningerne og kompleksiteten så lave som muligt. Red Hat AI InstructLab, tilgængelig som en tjeneste på IBM Cloud, det er designet til at forenkle, skala og hjælpe med at forbedre sikkerheden i træning og implementering af AI-systemer. Ved at forenkle justeringen af modellerne i InstructLab, organisationer kan opbygge mere effektive platforme, tilpasset dine unikke behov, opretholdelse af kontrollen over dine fortrolige oplysninger.
Gratis træning om grundlæggende i AI
AI er en transformerende mulighed, der omdefinerer, hvordan virksomheder opererer og konkurrerer. For at støtte organisationer i dette dynamiske scenarie, Red Hat tilbyder gratis online træning i AI-fundamentals. Virksomheden tilbyder to certifikater i læring om AI, rettet mod både erfarne seniorledere og nybegyndere, hjælpe med at uddanne brugere på alle niveauer om, hvordan AI kan hjælpe med at transformere forretningsdrift, fremskynde beslutningstagning og fremme innovation
Tilgængelighed
Red Hat OpenShift AI 2.18 og Red Hat Enterprise Linux AI 1.4 er allerede tilgængelige. Mere information om yderligere ressourcer, forbedringer, fejlretninger og hvordan man opdaterer din version af Red Hat OpenShift AI til den nyeste kan findesher,og den nyeste version af RHEL AI kan findesher.
Red Hat AI InstructLab på IBM Cloud vil snart være tilgængelig. Træningen om Red Hats AI-fundamenter er nu tilgængelig for kunder
