Red Hat het pas nuwe opdaterings in Red Hat AI vrygestel, jou portefeulje van produkte en dienste wat ontwerp is om die ontwikkeling en implementering van KI-oplossings in die hibriede wolk te versnel. Die Red Hat KI bied 'n ondernemings-KI-platform vir die opleiding van modelle en afleiding, verskaf meer ervaring, buigsaamheid en 'n vereenvoudigde ervaring om stelsels enige plek in die hibriede wolk te implementeer
In die soekt na die vermindering van die koste van die implementering van groot taalmodelle (LLMS) om aan 'n toenemende aantal gebruiksgevalle te voldoen, maatskappye staar steeds voor die uitdaging om hierdie stelsels met hul eie data te integreer en dit van enige plek af te kan benader: of dit nou in 'n datacentrum is, in die openbare wolk of selfs aan die rand
Integrasie van sowel Red Hat OpenShift AI as Red Hat Enterprise Linux AI (RHEL AI), Red Hat KI antwoord op hierdie bekommernisse deur 'n ondernemings-KI-platform te bied wat die aanneming van meer doeltreffende en geoptimaliseerde modelle moontlik maak, aangepas met die spesifieke besigheidsdata, met die moontlikheid om in 'n hibriede wolk geïmplementeer te word om modelle op 'n wye verskeidenheid rekenaarkonfigurasies te train
Vir Joe Fernandes, vice-president en algemene bestuurder van die KI-sake-eenheid van Red Hat, die opdatering maak dit moontlik vir organisasies om akkuraat en ekonomies te wees in hul KI-reise. "Red Hat weet dat maatskappye maniere nodig gaan hê om die toenemende koste van hul generatiewe KI-implementasies te bestuur", namate hulle meer gebruiksgevalle vir produksie en werk op skaal.. Die Red Hat KI help organisasies om hierdie uitdagings aan te spreek, wat hulle in staat stel om meer doeltreffende modelle te hê, ontwikkel vir 'n doel, opgeleide met jou data en wat buigsaamheid in on-premises omgewings moontlik maak, van die wolk en op die rand.”
Red Hat OpenShift AI
Die Red Hat OpenShift KI bied 'n volledige KI-platform om die lewensiklus van voorspellende en generatiewe KI (gen KI) in die hibriede wolk te bestuur, insluitend masjienleerbedrywighede (MLOps) en vermoëns van Groot Taalmodelbedrywighede (LLMOps). Die platform bied funksies om voorspellende modelle te bou en gen AI modelle aan te pas, saam met gereedskap om die bestuur van KI-modelle te vereenvoudig, van dataskewings en modelle tot die monitering van modelle, bestuur en nog baie meer.
Nuutste weergawe van die platform, die Red Hat OpenShift KI 2.18, voeg nuwe opdaterings en vermoëns by om die doel van Red Hat AI te ondersteun om meer geoptimaliseerde en doeltreffende KI-modelle na die hibriede wolk te bring. Die belangrikste hulpbronne sluit in
● Gedistribueerde diensbeskikbaar deur die vLLM afleiding bediener, die verspreide diens stel IT-spanne in staat om die diens van modelle tussen verskeie grafiese verwerkingseenhede (GPU's) te verdeel. Dit help om die las op 'n enkele bediener te verlig, versnel die opleiding en die fynstelling en bevorder die meer doeltreffende gebruik van rekenaarhulpbronne, terwyl dit help om die dienste tussen die knope vir die KI-modelle te versprei
● Eind-tot-eind model aanpassingservaringgebruik die InstructLab en die datascience-pipelines van Red Hat OpenShift AI, hierdie nuwe funksie help om die fynstelling van die LLM's te vereenvoudig, dit hulle meer skaalbaar, doeltreffend en ouditbaar in groot produksie-omgewings, tegelyk tyd as dit bestuur bied deur die Red Hat OpenShift AI beheerpaneel
● KI BeskermingRed Hat OpenShift KI 2.18 help om die akkuraatheid te verbeter, die prestasie, die latensie en de deursigtigheid van LLM's deur middel van 'n voorvertoning van die tegnologie AI Guardrails, wat die gebruikers se invoerinteraksies en die model se uitsette monitor en beskerm. Die AI Guardrails bied addisionele opsporingsfunksies om IT-spanne te help om potensieel haatlike toesprake te identifiseer en te verminder, misbruikend of godslasterlik, identifiseerbare persoonlike inligting, data van mededingers of ander beperkings volgens korporatiewe beleid
● Model evalueringgebruik die taalmodel evaluasiekomponent (lm-eval) om belangrike inligting oor die algehele kwaliteit van die model te verskaf, die modellevaluering stel datawetenskaplikes in staat om die prestasie van hul LLM's in verskeie take te vergelyk, van logiese en wiskundige redenasies tot teenstrydige natuurlike taal, help om die ontwikkeling van meer effektiewe KI-modelle, reaksioneel en aangepas
RHEL KI
Deel van die Red Hat KI-portefeulje, die RHEL AI is 'n platform van fundamentele modelle om te ontwikkel, toets en voer LLM's meer konsekwent uit, met die doel om besigheidsprogramme te bevorder. Die RHEL AI bied Granite LLMs-modelle en InstructLab-modelafstemmingstoestelle aan, wat is pakkette in 'n opstartbare beeld van Red Hat Enterprise Linux en kan in die hibriede wolk ontplooi word
Vrygestel in Februarie 2025, die RHEL 1.4 het verskeie verbeterings gebring, insluitend
● Ondersteuning vir die Granite 3-model.1 8Bas die mees onlangse toevoeging tot die Granite-modelle met 'n oopbronlisensie. O modelo adiciona suporte multilíngue para inferência e personalização de taxonomia/conhecimento (pré-visualização para desenvolvedores), benewens 'n konteksvenster van 128k om die aanvaarding van opsommingresultate en take van Retrieval-Augmented Generation (RAG) te verbeter
● Nuwe grafiese gebruikerskoppelvlak om by te dra tot vaardighede en vorige kennis, beskikbaar in 'n voorafkykformaat vir ontwikkelaars, met die doel om die verbruik en fragmentasie van data te vereenvoudig, soos ook om gebruikers toe te laat om hul eie vaardighede en bydraes tot KI-modelle by te voeg
● Dokument Kennis-bench (DK-bench)om vergelykings tussen IA-modelle wat met relevante private data aangepas is en die prestasie van dieselfde basismodelle wat nie aangepas is te vergemaklik
Red Hat AI InstructLab op IBM Cloud
Altyd meer, maatskappye is op soek na KI-oplossings wat die akkuraatheid en veiligheid van hul data prioritiseer, terwyl hulle die koste en kompleksiteit so laag as moontlik hou. Die Red Hat AI InstructLab, beskikbaar as 'n diens op IBM Cloud, is ontwerp om te vereenvoudig, schaal en help om die veiligheid in die opleiding en implementering van KI-stelsels te verbeter. Deur die aanpassing van modelle van InstructLab te vereenvoudig, organisasies kan meer doeltreffende platforms bou, aangepas aan jou unieke behoeftes, die beheer van jou vertroulike inligting.
Gratis opleiding oor die Grondbeginsels van KI
KI is 'n transformerende geleentheid wat herdefinieer hoe maatskappye werk en meeding. Om organisasies in hierdie dinamiese omgewing te ondersteun, Red Hat bied gratis aanlyn opleiding oor die Grondbeginsels van KI aan. Die maatskappy bied twee sertifikate in KI-leer aan, gerig na beide vir ervare senior leiers sowel as beginners, help om gebruikers van alle vlakke op te lei oor hoe KI kan help om besigheidsbedrywighede te transformeer, versnel die besluitneming en bevorder innovasie
Beskikbaarheid
Die Red Hat OpenShift KI 2.18 en die Red Hat Enterprise Linux KI 1.4 is reeds beskikbaar. Meer inligting oor bykomende hulpbronne, verbeterings, foutoplossings en hoe om jou weergawe van Red Hat OpenShift AI na die nuutste op te dateer kan gevind wordhier,en die mees onlangse weergawe van RHEL AI kan gevind wordhier.
Die Red Hat AI InstructLab op IBM Cloud sal binnekort beskikbaar wees. Die opleiding oor die Grondbeginsels van KI van Red Hat is reeds beskikbaar vir kliënte