Red Hat on juuri julkaissut uusia päivityksiä Red Hat AI:lle, tuote- ja palveluportfolionsa, joka on suunniteltu nopeuttamaan tekoälyn kehittämistä ja käyttöönottoa hybridipilvessä. Red Hat AI tarjoaa yritystason tekoälyalustan mallien kouluttamiseen ja päättelyyn, tarjoamalla enemmän kokemusta, joustavuus ja yksinkertaistettu kokemus järjestelmien käyttöönottoon missä tahansa hybridipilvessä
Etsimässä keinoja vähentää suurten kielimallien (LLMS) käyttöönoton kustannuksia yhä kasvavien käyttötapausten täyttämiseksi, yritykset kohtaavat edelleen haasteen integroida nämä järjestelmät omiin tietoihinsa ja päästä niihin käsiksi mistä tahansa: olipa kyseessä datakeskus, julkisessa pilvessä tai jopa reunalla
Integroimalla sekä Red Hat OpenShift AI että Red Hat Enterprise Linux AI (RHEL AI), Red Hat AI vastaa näihin huoliin tarjoamalla yritystason tekoälyalustan, joka mahdollistaa tehokkaampien ja optimoitujen mallien käyttöönoton, sovitetut liiketoiminnan erityistietoihin, mahdollisuus käyttää hybridipilvessä mallien kouluttamiseen laajalla valikoimalla laskenta-arkkitehtuureja
Joe Fernandesille, varapuheenjohtaja ja Red Hatin tekoälyn liiketoimintayksikön päällikkö, päivitys mahdollistaa organisaatioiden olla tarkkoja ja taloudellisia tekoälymatkoillaan. Red Hat tietää, että yritykset tarvitsevat keinoja hallita kasvavia kustannuksia generatiivisten tekoälyratkaisujensa käyttöönotossa, kun he tuovat lisää käyttötapauksia tuotantoon ja toimivat mittakaavassa.. Red Hat AI auttaa organisaatioita kohtaamaan nämä haasteet, sallien heidän käyttää tehokkaampia malleja, kehitetty tiettyä tarkoitusta varten, koulutettu omilla tiedoillaan ja mahdollistavat joustavan päättelyn paikallisissa ympäristöissä, pilvestä ja reunalla.”
Red Hat OpenShift AI
Red Hat OpenShift AI tarjoaa kattavan tekoälyalustan ennakoivan ja generatiivisen tekoälyn (gen AI) elinkaaren hallintaan hybridipilvessä, mukaan lukien koneoppimisen toiminnot (MLOps) ja suurten kielimallien toimintakyvyt (LLMOps). Alusta tarjoaa toimintoja ennustavien mallien rakentamiseen ja tekoälymallien säätämiseen, yhdessä työkalujen kanssa, jotka yksinkertaistavat tekoälymallien hallintaa, data science -putkista ja malleista mallien seurantaan, hallinta ja paljon muuta.
Alustavan alustan uusin versio, Red Hat OpenShift AI 2.18, lisätään uusia päivityksiä ja ominaisuuksia tukemaan Red Hat AI:n tavoitetta tuoda optimoituja ja tehokkaita tekoälymalleja hybridipilveen. Pääominaisuudet sisältävät
● Jakautettu palvelusaatavilla vLLM-inferenssipalvelimen kautta, jaettu palvelu mahdollistaa IT-tiimien jakaa mallipalvelun useiden grafiikkaprosessoriyksiköiden (GPU) kesken. Tämä auttaa keventämään kuormitusta yhdellä palvelimella, kiihdyttää koulutusta ja hienosäätöä sekä edistää laskentatehon tehokkaampaa käyttöä, samaan aikaan kun se auttaa jakamaan palvelut solmujen kesken tekoälymalleille
● Kokonaisvaltainen mallin säätökokemuskäyttäen InstructLabia ja Red Hat OpenShift AI:n datatieteen putkia, tämä uusi ominaisuus auttaa yksinkertaistamaan LLM:ien hienosäätöä, tehden heistä skaalautuvampia, tehokkaita ja auditoitavia suurissa tuotantoympäristöissä, samalla kun se tarjoaa hallintaa Red Hat OpenShift AI:n ohjauspaneelin kautta
● AI-turvakaiteetRed Hat OpenShift AI 2.18 auttaa parantamaan tarkkuutta, suoritus, LLM:ien viive ja läpinäkyvyys AI Guardrails -teknologian esikatselun kautta, joka valvoo ja suojaa käyttäjän syötteitä ja mallin tuloksia. AI Guardrails tarjoaa lisäominaisuuksia havaitsemiseen, jotka auttavat IT-tiimejä tunnistamaan ja lieventämään mahdollisesti vihamielisiä puheita, hyökkääviä tai hävyttömiä, henkilökohtaisesti tunnistettavat tiedot, kilpailijoiden tai muiden rajoitettujen tietojen yrityspolitiikkojen vuoksi
● Mallin arviointikäyttämällä kielimallin arviointikomponenttia (lm-eval) tarjotakseen tärkeitä tietoja mallin yleisestä laadusta, mallinn arviointi mahdollistaa datatieteilijöiden vertailla LLM:ien suorituskykyä eri tehtävissä, loogisesta ja matemaattisesta ajattelusta aina luonnolliseen vastakkainasettelukieleen, auttavat luomaan tehokkaampia tekoälymalleja, responsiiviset ja mukautetut
RHEL AI
Red Hat AI -portfolion osa, RHEL AI on perusmallien alusta kehittämiseen, testata ja suorittaa LLM:itä johdonmukaisemmin, tavoitteena on edistää liiketoimintasovelluksia. RHEL AI tarjoaa Granite LLM -malleja ja InstructLab-mallien kohdistustyökaluja, mitkä ovat paketteja Red Hat Enterprise Linuxin käynnistettävässä kuvassa ja voivat olla käyttöönotettavissa hybridipilvessä
Julkaistu helmikuussa 2025, RHEL 1.4 toi monia parannuksia, mukaan lukien
● Granite 3 -mallin tuki.1 8Bkuin uusin lisäys Granite-malliperheeseen, joka on avoimen lähdekoodin lisenssillä. O modelo adiciona suporte multilíngue para inferência e personalização de taxonomia/conhecimento (pré-visualização para desenvolvedores), lisäksi 128k:n kontekstin ikkuna parantamaan tiivistämisen tulosten ja Retrieval-Augmented Generation (RAG) -tehtävien hyväksymistä
● Uusi graafinen käyttöliittymä, joka auttaa hyödyntämään taitoja ja aiempaa tietämystä, saatavilla kehittäjille esikatselumuodossa, tavoitteena on yksinkertaistaa tietojen kulutusta ja fragmentoitumista, sekä mahdollistaa käyttäjien lisätä omia taitojaan ja panoksiaan tekoälymalleihin
● Dokumentti Knowledge-bench (DK-bench)helpottaa vertailuja yksityisiin, relevantteihin tietoihin perustettujen IA-mallien ja niiden säätämättömien perusmallien suorituskyvyn välillä
Red Hat AI InstructLab IBM Cloudissa
Yhä enemmän, yritykset etsivät tekoälyratkaisuja, jotka priorisoivat tietojensa tarkkuutta ja turvallisuutta, samalla kun pidetään kustannukset ja monimutkaisuus mahdollisimman alhaisina. Red Hat AI InstructLab, saatavilla palveluna IBM Cloudissa, oli suunniteltu yksinkertaistamaan, skaalaaminen ja auttaa parantamaan turvallisuutta tekoälyjärjestelmien koulutuksessa ja käyttöönotossa. Yksinkertaistamalla InstructLab-mallien säätöä, organisaatiot voivat rakentaa tehokkaampia alustoja, sopeutettu omiin ainutlaatuisiin tarpeisiisi, pitämällä salaiset tietosi hallinnassa.
Ilmainen koulutus tekoälyn perusteista
IA on muutos mahdollisuus, joka määrittelee uudelleen, miten yritykset toimivat ja kilpailevat. Tukeakseen organisaatioita tässä dynaamisessa ympäristössä, Red Hat tarjoaa ilmaisia verkkokoulutuksia tekoälyn perusteista. Yritys tarjoaa kahta tekoälyn oppimissertifikaattia, suunnattu sekä kokeneille vanhemmille johtajille että aloittelijoille, auttaa kouluttamaan käyttäjiä kaikilla tasoilla siitä, miten tekoäly voi auttaa muuttamaan liiketoimintatoimintoja, nopeuttaa päätöksentekoa ja edistää innovaatioita
Saatavuus
Red Hat OpenShift AI 2.18 ja Red Hat Enterprise Linux AI 1.4 on jo saatavilla. Lisätietoja lisäresursseista, parannuksia, virheenkorjauksia ja ohjeita Red Hat OpenShift AI:n päivittämiseen uusimpaan versioon löytyytässä,ja RHEL AI:n uusin versio löytyytässä.
Red Hat AI InstructLab IBM Cloudissa tulee saataville pian. Red Hatin tekoälyn perusteet -koulutus on nyt saatavilla asiakkaille
