Red Hat baru saja meluncurkan pembaruan baru di Red Hat AI, portofolio produk dan layanan Anda dirancang untuk mempercepat pengembangan dan penerapan solusi AI di cloud hibrida. Red Hat AI menawarkan platform AI perusahaan untuk pelatihan model dan inferensi, memberikan lebih banyak pengalaman, fleksibilitas dan pengalaman yang disederhanakan untuk menerapkan sistem di mana saja di cloud hibrida
Dalam upaya mengurangi biaya implementasi model bahasa besar (LLMS) untuk memenuhi jumlah kasus penggunaan yang semakin meningkat, perusahaan masih menghadapi tantangan untuk mengintegrasikan sistem ini dengan data mereka yang dimiliki dan mengaksesnya dari mana saja: baik di pusat data, di awan publik atau bahkan di edge
Mengintegrasikan baik Red Hat OpenShift AI maupun Red Hat Enterprise Linux AI (RHEL AI), Red Hat AI menjawab kekhawatiran ini dengan menyediakan platform AI perusahaan yang memungkinkan adopsi model yang lebih efisien dan teroptimasi, disesuaikan dengan data spesifik bisnis, dengan kemungkinan untuk diterapkan di cloud hibrida untuk melatih model dalam berbagai arsitektur komputasi
Untuk Joe Fernandes, wakil presiden dan manajer umum Unit Bisnis AI Red Hat, pembaruan memungkinkan organisasi untuk menjadi tepat dan ekonomis dalam perjalanan IA mereka. Red Hat tahu bahwa perusahaan akan membutuhkan cara untuk mengelola biaya yang terus meningkat dari penerapan IA generatif mereka, seiring dengan membawa lebih banyak kasus penggunaan untuk produksi dan beroperasi dalam skala.. Red Hat AI membantu organisasi mengatasi tantangan ini, memungkinkan mereka memiliki model yang lebih efisien, dikembangkan untuk suatu tujuan, dilatasi dengan data Anda dan yang memungkinkan inferensi fleksibel di lingkungan on-premises, dari awan dan di edge.”
Red Hat OpenShift AI
Red Hat OpenShift AI menawarkan platform AI lengkap untuk mengelola siklus hidup AI prediktif dan generatif (gen AI) di cloud hibrida, termasuk operasi pembelajaran mesin (MLOps) dan kemampuan Operasi Model Bahasa Besar (LLMOps). Platform ini menyediakan fungsionalitas untuk membangun model prediktif dan menyesuaikan model AI gen, bersama dengan alat untuk menyederhanakan pengelolaan model AI, dari pipeline ilmu data dan model hingga pemantauan model, tata kelola dan banyak lagi.
Versi terbaru dari platform, Red Hat OpenShift AI 2.18, menambahkan pembaruan dan kemampuan baru untuk mendukung tujuan Red Hat AI dalam menghadirkan model AI yang lebih dioptimalkan dan efisien untuk cloud hibrida. Sumber daya utama termasuk
● Layanan terdistribusitersedia melalui server inferensi vLLM, layanan terdistribusi memungkinkan tim TI membagi layanan model di antara beberapa unit pemrosesan grafis (GPU). Ini membantu meringankan beban pada satu server, mempercepat pelatihan dan penyesuaian halus serta mendorong penggunaan sumber daya komputasi yang lebih efisien, saat yang sama membantu mendistribusikan layanan di antara node untuk model AI
● Pengalaman penyesuaian model dari awal hingga akhirmenggunakan InstructLab dan pipeline ilmu data dari Red Hat OpenShift AI, fitur baru ini membantu menyederhanakan penyesuaian LLMs, menjadikannya lebih skalabel, efisien dan dapat diaudit di lingkungan produksi besar, saat yang sama memberikan manajemen melalui panel kontrol Red Hat OpenShift AI
● Pengaman AIRed Hat OpenShift AI 2.18 membantu meningkatkan akurasi, kinerja, latensi dan transparansi LLM melalui pratinjau teknologi AI Guardrails, yang memantau dan melindungi interaksi input pengguna dan output model. AI Guardrails menawarkan fitur tambahan deteksi untuk membantu tim TI mengidentifikasi dan mengurangi ucapan yang berpotensi kebencian, kasar atau profan, informasi pribadi yang dapat diidentifikasi, data pesaing atau lainnya yang dibatasi oleh kebijakan perusahaan
● Evaluasi modelmenggunakan komponen evaluasi model bahasa (lm-eval) untuk memberikan informasi penting tentang kualitas umum model, penilaian model memungkinkan ilmuwan data membandingkan kinerja LLM mereka dalam berbagai tugas, dari pemikiran logis dan matematis hingga bahasa alami yang bersifat adversarial, membantu menciptakan model AI yang lebih efektif, responsif dan disesuaikan
RHEL AI
Bagian dari portofolio Red Hat AI, RHEL AI adalah platform model dasar untuk mengembangkan, mengujicoba dan menjalankan LLM dengan cara yang lebih konsisten, dengan tujuan untuk mendorong aplikasi bisnis. RHEL AI menawarkan model Granite LLM dan alat penyelarasan model InstructLab, apa itu paket dalam gambar yang dapat di-boot dari Red Hat Enterprise Linux dan dapat diterapkan di cloud hibrida
Diluncurkan pada Februari 2025, RHEL 1.4 membawa berbagai perbaikan, termasuk
● Dukungan untuk model Granite 3.1 8Bsebagai tambahan terbaru untuk keluarga model Granite dengan lisensi open source. O modelo adiciona suporte multilíngue para inferência e personalização de taxonomia/conhecimento (pré-visualização para desenvolvedores), selain jendela konteks 128k untuk meningkatkan adopsi hasil ringkasan dan tugas Retrieval-Augmented Generation (RAG)
● Antarmuka grafis pengguna baru untuk berkontribusi dengan keterampilan dan pengetahuan sebelumnya, tersedia dalam format pratinjau untuk pengembang, dengan tujuan untuk menyederhanakan konsumsi dan fragmentasi data, serta juga memungkinkan pengguna untuk menambahkan keterampilan dan kontribusi mereka sendiri ke model AI
● Dokumen Knowledge-bench (DK-bench)untuk memudahkan perbandingan antara model AI yang disesuaikan dengan data pribadi yang relevan dengan kinerja model dasar yang tidak disesuaikan
Red Hat AI InstructLab di IBM Cloud
Semakin banyak, perusahaan sedang mencari solusi AI yang mengutamakan akurasi dan keamanan data mereka, sambil menjaga biaya dan kompleksitas serendah mungkin. Red Hat AI InstructLab, tersedia sebagai layanan di IBM Cloud, dirancang untuk menyederhanakan, menaikkan dan membantu meningkatkan keamanan dalam pelatihan dan penerapan sistem AI. Dengan menyederhanakan penyesuaian model InstructLab, organisasi dapat membangun platform yang lebih efisien, disesuaikan dengan kebutuhan unik Anda, menjaga kontrol atas informasi rahasia Anda.
Pelatihan gratis tentang Dasar-dasar AI
IA adalah kesempatan transformatif yang sedang mendefinisikan ulang bagaimana perusahaan beroperasi dan bersaing. Untuk mendukung organisasi dalam skenario dinamis ini, Red Hat menawarkan pelatihan online gratis tentang Dasar-dasar IA. Perusahaan menawarkan dua sertifikat pembelajaran dalam IA, ditujukan baik untuk pemimpin senior yang berpengalaman maupun untuk pemula, membantu mendidik pengguna dari semua tingkat tentang bagaimana AI dapat membantu mengubah operasi bisnis, mempercepat pengambilan keputusan dan mendorong inovasi
Tersedianya
Red Hat OpenShift AI 2.18 dan Red Hat Enterprise Linux AI 1.4 sudah tersedia. Informasi lebih lanjut tentang sumber daya tambahan, perbaikan, perbaikan bug dan cara memperbarui versi Red Hat OpenShift AI Anda ke yang terbaru dapat ditemukanDi Sini,dan versi terbaru dari RHEL AI dapat ditemukanDi Sini.
Red Hat AI InstructLab di IBM Cloud akan segera tersedia. Pelatihan tentang Dasar-Dasar IA dari Red Hat sudah tersedia untuk klien
