เร้ดแฮท ประกาศการอัปเดทล่าสุดให้กับ Red Hat AI กลุ่มผลิตภัณฑ์และบริการที่ออกแบบมาเพื่อช่วยให้พัฒนาและปรับใช้โซลูชัน AI บนไฮบริดคลาวด์ทุกแห่ง Red Hat AI เป็นแพลตฟอร์ม AI ระดับองค์กร เพื่อการเทรนและการอนุมานโมเดลที่มีประสิทธิภาพมากขึ้น มอบประสบการณ์การใช้งานที่เรียบง่าย และสามารถนำไปใช้บนไฮบริดคลาวด์ได้ทุกแห่งอย่างยืดหยุ่น
ธุรกิจต่างมองหาวิธีลดค่าใช้จ่ายในการใช้โมเดลภาษาขนาดใหญ่ (LLMs) ให้ได้ตามความต้องการและให้เพียงพอต่อกรณีการใช้งานขององค์กรที่เพิ่มขึ้น อย่างไรก็ตาม ธุรกิจเหล่านี้ก็ยังคงเผชิญกับความท้าทายในการบูรณาการโมเดลเหล่านั้นเข้ากับข้อมูลภายในขององค์กร ซึ่งเป็นตัวขับเคลื่อนกรณีใช้งานต่าง ๆ ขององค์กร ในขณะเดียวกันก็ต้องการเข้าถึงข้อมูลเหล่านี้ได้ทุกที่ ไม่ว่าข้อมูลนั้นจะอยู่ในดาต้าเซ็นเตอร์ บนพับลิคคลาวด์ต่าง ๆ หรือแม้แต่ที่ edge
Red Hat AI ประกอบด้วย Red Hat OpenShift AI และ Red Hat Enterprise Linux AI (RHEL AI) สามารถจัดการกับความกังวลดังกล่าวได้ด้วยแพลตฟอร์ม AI ระดับองค์กรที่ช่วยให้ผู้ใช้ปรับใช้โมเดลต่าง ๆ ได้อย่างมีประสิทธิภาพและเหมาะสมมากขึ้น ทำการปรับแต่งข้อมูลเฉพาะธุรกิจให้สามารถนำไปใช้ในการเทรนและการอนุมานบนสถาปัตยกรรมการประมวลผลแบบเร่งความเร็วที่หลากหลายบนไฮบริดคลาวด์ได้ทุกแห่ง
Red Hat OpenShift AI
Red Hat OpenShift AI เป็นแพลตฟอร์ม AI ที่สมบูรณ์แบบเพื่อการบริหารจัดการไลฟ์ไซเคิลของ AI เชิงคาดการณ์ (predictive AI) และgenerative AI (gen AI) บนไฮบริดคลาวด์ รวมถึงความสามารถต่าง ๆ ของ machine learning operations (MLOps) และ LLMOps แพลตฟอร์มนี้มอบฟังก์ชันที่ใช้สร้างโมเดลเชิงคาดการณ์ต่าง ๆ และฟังก์ชันในการปรับแต่งโมเดล gen AI ทั้งยังมอบเครื่องมือที่ใช้บริหารจัดการโมเดล AI ได้อย่างง่ายดาย ไม่ว่าจะเป็นเรื่องของวิทยาการข้อมูล (data science) ไปป์ไลน์โมเดล และการติดตามตรวจสอบโมเดล ไปจนถึงการกำกับดูแล และอื่น ๆ
Red Hat OpenShift AI 2.18 เวอร์ชันล่าสุดของแพลตฟอร์มนี้ ได้รับการอัปเดทและเพิ่มความสามารถใหม่ ๆ เพื่อสนับสนุนวัตถุประสงค์ของ Red Hat AI เพื่อเพิ่มประสิทธิภาพและการปรับให้โมเดล AI เหมาะสมที่จะนำไปใช้บนไฮบริดคลาวด์ โดยมีคุณสมบัติสำคัญ เช่น
- ให้บริการแบบกระจาย (distributed serving): ส่งบริการผ่านเซิร์ฟเวอร์การอนุมาน vLLM ช่วยให้ทีมไอทีแยกการให้บริการโมเดลที่อยู่บนหน่วยประมวลผลกราฟิก (GPU) หลายหน่วยออกจากกัน ซึ่งช่วยลดภาระของเซิร์ฟเวอร์ตัวเดียว ช่วยให้การเทรนและการปรับแต่งรวดเร็วขึ้น และใช้ทรัพยากรประมวลผลได้มีประสิทธิภาพมากขึ้น ไปพร้อม ๆ กับช่วยกระจายบริการต่าง ๆ ข้ามโหนดให้กับโมเดล AI ต่าง ๆ
- มอบประสบการณ์การปรับแต่งโมเดลอย่างครบวงจร: ฟีเจอร์นี้ใช้ InstructLab และ Red Hat OpenShift AI data science pipelines ช่วยให้การปรับแต่ง LLMs อย่างละเอียดทำได้โดยไม่ยุ่งยาก สามารถปรับขนาดการใช้งาน เพิ่มประสิทธิภาพและตรวจสอบสภาพแวดล้อมการผลิตขนาดใหญ่ได้มากขึ้น และสามารถบริหารจัดการผ่านแดชบอร์ดของ Red Hat OpenShift AI
- AI Guardrails: Red Hat OpenShift AI 2.18 ช่วยเพิ่มความแม่นยำ ประสิทธิภาพ ระยะเวลาในการตอบสนอง และความโปร่งใส ให้กับ LLM ผ่านเทคโนโลยีพรีวิวของ AI Guardrails เพื่อติดตามตรวจสอบและปกป้องทั้งการปฏิสัมพันธ์ของผู้ใช้ผ่านอินพุต และการเอาต์พุตของโมเดลได้ดีมากขึ้น AI Guardrails นำเสนอจุดตรวจจับเพิ่มเติม เพื่อช่วยทีมไอทีระบุและบรรเทาอันตรายที่อาจเกิดขึ้นจากเจตนาร้าย คำพูดที่หยาบคายหรือดูหมิ่น หรือการรั่วไหลของข้อมูลที่สามารถระบุตัวตนได้ ข้อมูลด้านการแข่งขัน หรือข้อมูลอื่นที่จำกัดการเข้าถึงโดยนโยบายของบริษัท
- การประเมินโมเดล: ใช้องค์ประกอบการประเมินโมเดลภาษา (Im-eval) เพื่อมอบข้อมูลสำคัญเกี่ยวกับคุณภาพโดยรวมของโมเดลนั้น ๆ เพื่อช่วยให้นักวิทยาศาสตร์ข้อมูลสามารถปรียบเทียบประสิทธิภาพของ LLMs ของตนที่ใช้ทำงานด้านต่าง ๆ ไม่ว่าจะเป็นการให้เหตุผลเชิงตรรกะ และคณิตศาสตร์ ไปจนถึงภาษาธรรมชาติ และอื่น ๆ ซึ่งท้ายที่สุดเป็นการช่วยสร้างโมเดล AI ที่มีประสิทธิภาพ มีความสามารถในการตอบสนอง และเจาะจงตามการใช้งานได้มากขึ้น
RHEL AI
RHEL AI เป็นแพลตฟอร์มโมเดลพื้นฐาน ในกลุ่มผลิตภัณฑ์ด้าน AI ของเร้ดแฮท แพลตฟอร์มนี้ใช้สำหรับการพัฒนา ทดสอบ และรัน LLMs เพื่อสนับสนุนแอปพลิเคชันระดับองค์กรได้อย่างสม่ำเสมอต่อเนื่อง ทั้งนี้ RHEL AI มอบโมเดล Granite LLMs และเครื่องมือปรับโมเดลให้สอดคล้องกันจาก InstructLab แพ็ครวมเป็น Red Hat Enterprise Linux server image ที่บูตได้ และสามารถนำไปใช้บนไฮบริดคลาวด์ใดก็ได้
RHEL 1.4 เปิดตัวเมื่อเดือนกุมภาพันธ์ 2568 มาพร้อมการเพิ่มประสิทธิภาพใหม่หลายรายการ รวมถึง
- รองรับโมเดล Granite 3.1 8B ซึ่งเป็นรุ่นล่าสุดของตระกูลโมเดล Granite ที่เปิดเป็นโอเพ่นซอร์ส โมเดลนี้รองรับภาษาหลายภาษา เพื่อการอนุมานและการปรับแต่งอนุกรมวิธาน/ความรู้ (พรีวิวสำหรับนักพัฒนา) มาพร้อมความยาวบริบทขนาด 128kเพื่อเพิ่มประสิทธิภาพผลลัพธ์ในการทำสรุป และงานการสร้างแบบเสริมการเรียกค้นต่าง ๆ (RAG)
- อินเทอร์เฟซกราฟิกสำหรับผู้ใช้งานแบบใหม่ เพื่อมีส่วนร่วมสนับสนุนทักษะและความรู้ พร้อมให้นักพัฒนาได้ใช้งานในขั้นพรีวิว เพื่อลดความซับซ้อนในการนำเข้าและรวมข้อมูล รวมถึงวิธีที่ผู้ใช้เพิ่มทักษะให้กับตนเอง และมีส่วนร่วมสนับสนุนโมเดล AI
- Document Knowledge-bench (DK-bench) สำหรับเปรียบเทียบการปรับแต่งโมเดล AI ด้วยข้อมูลส่วนตัวที่เกี่ยวข้องกันได้อย่างไม่ยุ่งยาก ด้วยประสิทธิภาพเดียวกับโมเดลพื้นฐานที่ยังไม่ได้รับการปรับแต่ง
Red Hat AI InstructLab on IBM Cloud
องค์กรต่างมองหาโซลูชัน AI ที่ให้ความสำคัญกับความแม่นยำและความปลอดภัยของข้อมูลมากขึ้นเรื่อย ๆ ในขณะเดียวกันยังคงต้องควบคุมค่าใช้จ่าย และลดความซับซ้อน ให้เหลือต่ำที่สุดเท่าที่จะทำได้ Red Hat AI InstructLab เป็นบริการบน IBM Cloud ได้รับการออกแบบมาให้ใช้งานง่าย ปรับขนาดได้ และช่วยเพิ่มประสิทธิภาพด้านความปลอดภัยในการเทรนและพัฒนาโมเดล AI ต่าง ๆ การลดความซับซ้อนของการปรับแต่งโมเดลบน InstructLab ช่วยให้องค์กรสามารถสร้างโมเดลที่มีประสิทธิภาพมากขึ้นและปรับให้ตรงกับความต้องการเฉพาะของแต่ละองค์กร และยังคงอำนาจควบคุมข้อมูลของตนไว้ได้
การอบรมด้าน AI Foundations โดยไม่มีค่าใช้จ่าย
AI คือโอกาสในการทรานส์ฟอร์มที่สามารถเปลี่ยนโฉมวิธีการทำงานและการแข่งขันขององค์กรต่าง ๆ เร้ดแฮทนำเสนอคอร์สการอบรมด้าน AI Foundations ออนไลน์ โดยไม่มีค่าใช้จ่าย เพื่อสนับสนุนองค์กรต่าง ๆ ในบริบทที่เปลี่ยนแปลงตลอดเวลาในปัจจุบัน
เร้ดแฮท มอบใบรับรองการเรียนหลักสูตรด้าน AI สองรายการ คือ สำหรับผู้นำอาวุโสที่มีประสบการณ์ และสำหรับมือใหม่ด้าน AI โดยให้ความรู้แก่ผู้ใช้ทุกระดับว่า AI สามารถช่วยทรานส์ฟอร์มการดำเนินงานทางธุรกิจได้อย่างไร สามารถเพิ่มประสิทธิภาพในการตัดสินใจและขับเคลื่อนนวัตกรรมได้อย่างไร โดยการอบรม AI Foundations นี้จะแนะนำผู้ใช้ว่าจะสามารถนำความรู้ที่ได้จากการอบรมนี้ไปใช้อย่างไรเมื่อใช้ Red Hat AI
การวางจำหน่าย
Red Hat OpenShift AI 2.18 และ Red Hat Enterprise Linux AI 1.4 วางจำหน่ายแล้ว สามารถดูข้อมูลเพิ่มเติมเกี่ยวกับฟีเจอร์เพิ่มเติม การเพิ่มประสิทธิภาพด้านต่าง ๆ การแก้ไขจุดบกพร่อง และวิธีการอัปเกรดเป็นเวอร์ชันล่าสุดของ Red Hat OpenShift AI ได้ที่นี่และเวอร์ชันล่าสุดของ RHEL AI ได้ที่นี่
Red Hat AI InstructLab on IBM Cloud จะวางตลาดเร็ว ๆ นี้ ส่วนการอบรม AI Foundations จากเร้ดแฮทพร้อมให้บริการลูกค้าแล้ว
