Red Hat właśnie wydał nowe aktualizacje w Red Hat AI, twoje portfolio produktów i usług zaprojektowanych w celu przyspieszenia rozwoju i wdrażania rozwiązań AI w chmurze hybrydowej. Red Hat AI oferuje platformę sztucznej inteligencji dla przedsiębiorstw do szkolenia modeli i wnioskowania, zapewniając więcej doświadczenia, elastyczność i uproszczone doświadczenie wdrażania systemów w dowolnym miejscu w chmurze hybrydowej
W poszukiwaniu obniżenia kosztów wdrażania dużych modeli językowych (LLMS) w celu zaspokojenia rosnącej liczby przypadków użycia, firmy wciąż stają przed wyzwaniem integracji tych systemów z danymi własnymi i uzyskiwania do nich dostępu z dowolnego miejsca: czy to w centrum danych, w chmurze publicznej lub nawet na edge
Integrując zarówno Red Hat OpenShift AI, jak i Red Hat Enterprise Linux AI (RHEL AI), Red Hat AI odpowiada na te obawy, oferując platformę sztucznej inteligencji dla przedsiębiorstw, która umożliwia przyjęcie bardziej efektywnych i zoptymalizowanych modeli, dostosowane do specyficznych danych biznesowych, z możliwością wdrożenia w chmurze hybrydowej do trenowania modeli w szerokim zakresie architektur obliczeniowych
Dla Joe Fernandesa, wiceprezydent i dyrektor generalny jednostki biznesowej AI w Red Hat, aktualizacja umożliwia organizacjom bycie precyzyjnymi i oszczędnymi w swoich podróżach związanych z AI. Red Hat wie, że firmy będą potrzebować sposobów na zarządzanie rosnącymi kosztami swoich wdrożeń generatywnej sztucznej inteligencji, w miarę jak wprowadzają więcej przypadków użycia do produkcji i działają na dużą skalę.. Red Hat AI pomaga organizacjom w radzeniu sobie z tymi wyzwaniami, pozwalając im na korzystanie z bardziej efektywnych modeli, opracowane w określonym celu, wytrenowane na podstawie swoich danych i umożliwiające elastyczną inferencję w środowiskach lokalnych, z chmury i na krawędzi.”
Red Hat OpenShift AI
Red Hat OpenShift AI oferuje kompleksową platformę AI do zarządzania cyklami życia AI predykcyjnej i generatywnej (gen AI) w chmurze hybrydowej, w tym operacje związane z uczeniem maszynowym (MLOps) oraz możliwości operacji dużych modeli językowych (LLMOps). Platforma oferuje funkcje do budowania modeli predykcyjnych i dostosowywania modeli AI, razem z narzędziami do uproszczenia zarządzania modelami AI, od pipeline'ów nauki o danych i modeli po monitorowanie modeli, zarządzanie i wiele więcej.
Najświeższa wersja platformy, Red Hat OpenShift AI 2.18, dodaje nowe aktualizacje i możliwości, aby wspierać cel Red Hat AI w dostarczaniu bardziej zoptymalizowanych i wydajnych modeli AI do chmury hybrydowej. Główne funkcje obejmują
● Usługa rozproszonadostępny za pośrednictwem serwera inferencji vLLM, usługa rozproszona umożliwia zespołom IT podział usługi modeli pomiędzy różne jednostki przetwarzania graficznego (GPU). To pomaga odciążyć pojedynczy serwer, przyspiesza szkolenie i dostosowanie oraz promuje bardziej efektywne wykorzystanie zasobów obliczeniowych, jednocześnie pomaga w dystrybucji usług między węzłami dla modeli AI
● Doświadczenie w dostosowywaniu modelu end-to-endużywając InstructLab i potoków nauki o danych Red Hat OpenShift AI, ta nowa funkcja pomaga uprościć dostosowywanie LLM-ów, czyniąc je bardziej skalowalnymi, efektywne i audytowalne w dużych środowiskach produkcyjnych, jednocześnie dostarczając zarządzanie za pośrednictwem panelu sterowania Red Hat OpenShift AI
● Zasady bezpieczeństwa AIRed Hat OpenShift AI 2.18 pomaga poprawić dokładność, wydajność, latencja i przejrzystość LLM-ów poprzez podgląd technologii AI Guardrails, które monitoruje i chroni interakcje wejściowe użytkownika oraz wyjścia modelu. AI Guardrails oferuje dodatkowe funkcje wykrywania, aby pomóc zespołom IT w identyfikacji i łagodzeniu potencjalnie nienawistnych wypowiedzi, obrazy lub profanacje, identyfikowalne informacje osobowe, dane konkurentów lub inne ograniczone przez polityki korporacyjne
● Ocena modeluużywając komponentu oceny modelu językowego (lm-eval) do dostarczania ważnych informacji na temat ogólnej jakości modelu, ocena modelu pozwala naukowcom danych porównać wydajność swoich LLM-ów w różnych zadaniach, od myślenia logicznego i matematycznego po język naturalny przeciwny, pomagając w tworzeniu bardziej efektywnych modeli AI, responsywne i dostosowane
RHEL AI
Część portfela Red Hat AI, RHEL AI to platforma modeli podstawowych do rozwoju, testowanie i uruchamianie LLM-ów w sposób bardziej spójny, w celu wspierania aplikacji biznesowych. RHEL AI oferuje modele Granite LLMs i narzędzia do dostosowywania modeli InstructLab, co to są pakiety w obrazie startowym Red Hat Enterprise Linux i mogą być wdrażane w chmurze hybrydowej
Wydany w lutym 2025, RHEL 1.4 wprowadziło różne ulepszenia, w tym:
● Wsparcie dla modelu Granite 3.1 8Bjako najnowszy dodatek do rodziny modeli Granite z licencją open source. O modelo adiciona suporte multilíngue para inferência e personalização de taxonomia/conhecimento (pré-visualização para desenvolvedores), oprócz okna kontekstowego o wielkości 128k, aby poprawić przyjęcie wyników podsumowania i zadań Retrieval-Augmented Generation (RAG)
● Nowy interfejs graficzny użytkownika do wnoszenia umiejętności i wcześniejszej wiedzy, dostępny w formacie podglądu dla deweloperów, w celu uproszczenia konsumpcji i fragmentacji danych, jak również umożliwiając użytkownikom dodawanie własnych umiejętności i wkładów do modeli AI
● Dokument Wiedzy-bench (DK-bench)aby ułatwić porównania między modelami AI dostosowanymi do istotnych danych prywatnych a wydajnością tych samych modeli bazowych, które nie zostały dostosowane
Red Hat AI InstructLab w IBM Cloud
Coraz więcej, firmy poszukują rozwiązań AI, które priorytetowo traktują dokładność i bezpieczeństwo swoich danych, jednocześnie utrzymując koszty i złożoność na jak najniższym poziomie. Red Hat AI InstructLab, dostępny jako usługa w IBM Cloud, został zaprojektowany, aby uprościć, skalować i pomagać w poprawie bezpieczeństwa w szkoleniu i wdrażaniu systemów AI. Uproszczając dostosowanie modeli InstructLab, organizacje mogą budować bardziej efektywne platformy, dostosowane do twoich unikalnych potrzeb, utrzymując kontrolę nad swoimi poufnymi informacjami.
Bezpłatne szkolenie na temat podstaw sztucznej inteligencji
Sztuczna inteligencja to transformacyjna szansa, która redefiniuje sposób, w jaki firmy działają i konkurują. Aby wspierać organizacje w tym dynamicznym otoczeniu, Red Hat oferuje darmowe szkolenia online na temat podstaw sztucznej inteligencji. Firma oferuje dwa certyfikaty z zakresu uczenia maszynowego w AI, skierowane zarówno do doświadczonych liderów seniorów, jak i do początkujących, pomagając edukować użytkowników na wszystkich poziomach, jak AI może pomóc w przekształceniu operacji biznesowych, przyspieszyć podejmowanie decyzji i stymulować innowacje
Dostępność
Red Hat OpenShift AI 2.18 i Red Hat Enterprise Linux AI 1.4 są już dostępne. Więcej informacji na temat dodatkowych zasobów, ulepszenia, poprawki błędów oraz informacje o tym, jak zaktualizować swoją wersję Red Hat OpenShift AI do najnowszej, można znaleźćTutaj,a najnowsza wersja RHEL AI może być znalezionaTutaj.
Red Hat AI InstructLab w IBM Cloud będzie dostępny wkrótce. Szkolenie na temat podstaw sztucznej inteligencji Red Hat jest już dostępne dla klientów
