A Red Hat é új frissítéseket adott ki a Red Hat AI-hoz, termékeinek és szolgáltatásainak portfóliója, amelyet az AI megoldások felhőalapú hibrid fejlesztésének és telepítésének felgyorsítására terveztek. A Red Hat AI vállalati AI platformot kínál modellek képzésére és következtetések levonására, több tapasztalatot nyújtva, rugalmasság és egy egyszerűsített élmény rendszerek telepítésére bárhol a hibrid felhőben
A nagy nyelvi modellek (LLMS) megvalósítási költségeinek csökkentésére irányuló keresés a felhasználási esetek növekvő számának kielégítése érdekében, a vállalatok továbbra is szembesülnek azzal a kihívással, hogy integrálják ezeket a rendszereket saját adataikkal és hozzáférjenek azokhoz bárhonnan: legyen az egy adatközpontban, a nyilvános felhőben vagy akár a szélen
Integrálva a Red Hat OpenShift AI-t és a Red Hat Enterprise Linux AI-t (RHEL AI), A Red Hat AI válaszol ezekre az aggodalmakra azzal, hogy egy olyan vállalati AI platformot kínál, amely lehetővé teszi a hatékonyabb és optimalizált modellek alkalmazását, az üzleti specifikus adatokkal igazítva, hibrid felhőbe való telepítés lehetőségével, hogy széles spektrumú számítástechnikai architektúrákon modelleket képezzenek
Joe Fernandes számára, a Red Hat AI Üzleti Egység alelnöke és általános igazgatója, a frissítés lehetővé teszi a szervezetek számára, hogy pontosak és gazdaságosak legyenek az AI-útjaikon. A Red Hat tudja, hogy a vállalatoknak szükségük lesz módszerekre a generatív IA telepítéseik növekvő költségeinek kezelésére, ahogy egyre több felhasználási esetet hoznak a termelésbe és nagy léptékben működnek.. A Red Hat AI segíti a szervezeteket ezeknek a kihívásoknak a kezelésében, engedve, hogy hatékonyabb modellekhez jussanak hozzá, célra egy célra fejlesztve, képzett adataikkal, amelyek rugalmas következtetések levonását teszik lehetővé helyszíni környezetekben, a felhőben és a szélen.”
Red Hat OpenShift AI
A Red Hat OpenShift AI egy átfogó MI platformot kínál a prediktív és generatív MI (gen AI) életciklusának kezelésére a hibrid felhőben, gépi tanulási műveletek (MLOps) és Nagy Nyelvi Modell Műveletek (LLMOps) képességeit is beleértve. A platform biztosít funkciókat prediktív modellek építésére és AI modellek finomhangolására, együtt eszközökkel az AI modellek kezelésének egyszerűsítésére, adatbányászati csővezetékektől és modellektől a modellek nyomon követéséig, irányítás és sok más.
A platform legújabb verziója, a Red Hat OpenShift AI 2.18, új frissítések és képességek hozzáadása a Red Hat AI céljának támogatására, hogy optimalizáltabb és hatékonyabb AI modelleket hozzon a hibrid felhőbe. A főbb jellemzők közé tartozik
● Elosztott szolgáltatáselérhető a vLLM inferencia szerveren keresztül, a megosztott szolgáltatás lehetővé teszi az IT csapatok számára, hogy a modellek szolgáltatását több grafikus feldolgozóegység (GPU) között osszák meg. Ez segít csökkenteni az egyetlen szerver terhelését, felgyorsítja a képzést és a finomhangolást, valamint elősegíti a számítási erőforrások hatékonyabb felhasználását, ugyanakkor segít elosztani a szolgáltatásokat a csomópontok között az AI modellek számára
● Végponttól végpontig tartó modellbeállítási tapasztalataz InstructLab és a Red Hat OpenShift AI adatkutatási pipeline-jainak használatával, ez az új funkció segít egyszerűsíteni a LLM-ek finomhangolását, skálázhatóbbá téve őket, hatékonyak és auditálhatóak nagy termelési környezetekben, ugyanakkor a Red Hat OpenShift AI vezérlőpultján keresztül biztosítja a menedzsmentet
● AI védőkorlátokRed Hat OpenShift AI 2.18 segít javítani a pontosságot, a teljesítmény, a LLM-ek késleltetése és átláthatósága az AI Guardrails technológia előnézetén keresztül, ami figyeli és védi a felhasználói bemenetek és a modell kimenetek interakcióit. Az AI Guardrails kiegészítő észlelési funkciókat kínál, hogy segítse az IT csapatokat a potenciálisan gyűlöletkeltő beszédek azonosításában és mérséklésében, bántó vagy profán, személyesen azonosítható információk, versenytársak adatai vagy mások, amelyeket vállalati politikák korlátoznak
● Modell értékelésa nyelvi modell értékelő komponens (lm-eval) használata a modell általános minőségéről szóló fontos információk megadására, a modell értékelése lehetővé teszi az adatkutatók számára, hogy összehasonlítsák LLM-jeik teljesítményét különböző feladatokban, a logikai és matematikai gondolkodástól a természetes ellenséges nyelvig, segítve hatékonyabb MI modellek létrehozásában, reszponzív és adaptált
RHEL MI
A Red Hat AI portfóliójának része, a RHEL AI egy alapmodellek platformja a fejlesztéshez, LLM-ek tesztelése és végrehajtása következetesebben, az üzleti alkalmazások fellendítésének céljából. A RHEL AI Granite LLM modellek és az InstructLab modellek igazítási eszközei kínálja, mik azok a csomagok egy indítható Red Hat Enterprise Linux képen, amelyeket hibrid felhőben lehet telepíteni
2025 februárjában kerül bemutatásra, a RHEL 1.4 számos fejlesztést hozott, beleértve
● Granite 3 modell támogatása.1 8Bmint a legújabb kiegészítés a Granite modellek családjához, amely nyílt forráskódú licenccel rendelkezik. O modelo adiciona suporte multilíngue para inferência e personalização de taxonomia/conhecimento (pré-visualização para desenvolvedores), többek között egy 128k-os kontextusablak a szummázási eredmények és a Retrieval-Augmented Generation (RAG) feladatok elfogadásának javítása érdekében
● Új grafikus felhasználói felület a készségek és a korábbi ismeretek hozzájárulásához, fejlesztők számára elérhető előnézeti formátumban, az adatok fogyasztásának és fragmentálásának egyszerűsítése érdekében, valamint lehetővé teszi a felhasználók számára, hogy saját készségeiket és hozzájárulásaikat hozzáadják az AI modellekhez
● Dokumentum Tudáspad (DK-bench)a releváns magánadatokkal finomhangolt IA modellek és az azonos, finomhangolatlan alapmodellek teljesítményének összehasonlításának megkönnyítése érdekében
Red Hat AI InstructLab az IBM Cloudon
Egyre inkább, a vállalatok olyan AI megoldásokat keresnek, amelyek prioritást adnak az adataik pontosságának és biztonságának, ugyanakkor a költségeket és a bonyolultságot a lehető legalacsonyabban tartják. A Red Hat AI InstructLab, elérhető szolgáltatásként az IBM Cloudon, azért tervezték, hogy egyszerűsítse, skálázni és segíteni javítani a biztonságot az AI rendszerek képzésében és telepítésében. Az InstructLab modellek finomhangolásának egyszerűsítése, szervezetek hatékonyabb platformokat építhetnek, az Ön egyedi igényeihez igazítva, a titkos információi ellenőrzésének fenntartása.
Ingyenes képzés a mesterséges intelligencia alapjairól
A mesterséges intelligencia egy átalakító lehetőség, amely újradefiniálja, hogyan működnek és versenyeznek a vállalatok. A szervezetek támogatására ebben a dinamikus környezetben, A Red Hat ingyenes online képzéseket kínál a MI alapjairól. A cég két mesterséges intelligencia tanúsítványt kínál, tapasztalt vezetők és kezdők számára egyaránt irányuló, segítve a felhasználók minden szintjének oktatásában arról, hogyan segíthet a mesterséges intelligencia az üzleti műveletek átalakításában, a döntéshozatal felgyorsítása és az innováció ösztönzése
Elérhetőség
A Red Hat OpenShift AI 2.18 és a Red Hat Enterprise Linux AI 1.4 már elérhető. További információk a kiegészítő erőforrásokról, fejlesztések, a hibák javításai és a Red Hat OpenShift AI legfrissebb verziójára való frissítés módja megtalálhatóitt,a legújabb RHEL AI verzió megtalálhatóitt.
A Red Hat AI InstructLab az IBM Cloudon hamarosan elérhető lesz. A Red Hat mesterséges intelligencia alapjairól szóló képzés már elérhető az ügyfelek számára
