Đón nhận ứng dụng thông minh và Generative AI
Trí tuệ nhân tạo (AI), học máy (Machine learning – ML) và học sâu (Deep learning – DL) đang có tác động sâu rộng đến nỗ lực hiện đại hóa ứng dụng trong nhiều doanh nghiệp và nhiều ngành công nghiệp. Nhu cầu đổi mới, khai thác giá trị chiến lược cũng như tìm ra các nhận thức mới từ dữ liệu đang thúc đẩy việc sử dụng ngày càng nhiều các ứng dụng cloud nativeđược hỗ trợ bởi AI và các phương pháp MLOps. AI và ML cũng gây ảnh hưởng đến mọi người từ nhà phát triển, nhà khoa học dữ liệu cho đến nhân viên vận hành. Việc đưa AI/ML vào vận hành không hề đơn giản—thường mất hàng tháng trong khi các đổi mới từ Generative AI (gen AI) tiến bộ từng ngày. Sự chênh lệch này có thể dẫn đến thất bại của các dự án, đẩy doanh nghiệp vào rủi ro giữa vô số thách thức:
- Theo kịp tốc độ tiến bộ của AI là một nhiệm vụ đầy thách thức, từ việc cập nhật và duy trì tính nhất quán của các công cụ và dịch vụ ứng dụng đang phát triển nhanh chóng, đến việc cung cấp tài nguyên phần cứng như GPU và mở rộng quy mô các ứng dụng được tích hợp AI.
- Các doanh nghiệp phải giảm thiểu rủi ro khi đầu tư vào AI nhưng vẫn thu được giá trị, đặc biệt là khi sử dụng dữ liệu nhạy cảm để đào tạo mô hình và ứng dụng.
- Việc duy trì các nền tảng khác nhau cho nhóm phát triển ứng dụng và nhóm data scientist có thể làm việc hợp tác trở nên phức tạp và cản trở tốc độ phát triển.
- Việc triển khai ứng dụng hỗ trợ AI cần được thực hiện ở quy mô lớn và gần các điểm dữ liệu được tạo ra.
Được xây dựng trên Red Hat® OpenShift®, nền tảng ứng dụng hybrid cloud hàng đầu, Red Hat® OpenShift® AI mang đến cho các nhà khoa học dữ liệu và nhà phát triển một nền tảng AI/ML mạnh mẽ để xây dựng và triển khai các ứng dụng thông minh. Các doanh nghiệp có thể thử nghiệm với nhiều công cụ tùy chọn, hợp tác và rút ngắn thời gian đưa sản phẩm ra thị trường — trên một nền tảng thống nhất. Red Hat OpenShift AI kết hợp môi trường self-service cho các nhà khoa học dữ liệu và nhà phát triển với hạ tầng ổn định cho các các doanh nghiệp.
Red Hat OpenShift AI cung cấp một nền tảng mạnh mẽ, một hệ sinh thái rộng lớn với các công cụ phổ biến, và các quy trình làm việc quen thuộc để triển khai mô hình vào môi trường production. Với những lợi thế này, các nhóm có thể hợp tác dễ dàng hơn và đưa các ứng dụng hỗ trợ AI ra thị trường một cách hiệu quả hơn, từ đó mang lại giá trị lớn hơn cho doanh nghiệp.
Phát triển, đào tạo, thử nghiệm và triển khai nhanh chóng
Red Hat OpenShift AI (trước đây là Red Hat OpenShift Data Science) là một nền tảng MLOps linh hoạt và dễ dàng mở rộng. Red Hat OpenShift AI cung cấp các công cụ để xây dựng, triển khai và quản lý các ứng dụng có AI tích hợp. Được xây dựng dựa trên các công nghệ mã nguồn mở, nền tảng Red Hat OpenShift AI cung cấp các khả năng đáng tin cậy, nhất quán về vận hành để giúp các nhóm thử nghiệm, triển khai mô hình và tạo ra các ứng dụng đổi mới. Red Hat OpenShift AI đẩy nhanh việc triển khai các ứng dụng thông minh, giúp các mô hình ML chuyển từ giai đoạn thử nghiệm ban đầu thành các ứng dụng thông minh nhanh hơn—tất cả trên một nền tảng chung và nhất quán.
Red Hat OpenShift AI mang đến trải nghiệm giao diện người dùng (UI) tích hợp với các công cụ xây dựng, đào tạo, tuning, triển khai và giám sát các mô hình predictive AI cũng như generative AI. Doanh nghiệp có thể triển khai các mô hình trong môi trường hybrid cloud, tận dụng sự linh hoạt để chạy workload ở bất cứ nơi nào cần thiết mà không bị ràng buộc bởi bất kỳ nhà cung cấp dịch vụ cloud nào. Red Hat OpenShift AI dựa trên dự án cộng đồng Open Data Hub và các dự án mã nguồn mở phổ biến như Jupyter, PyTorch và Kubeflow.
Đơn giản hóa việc áp dụng AI
Là một add-on của Red Hat OpenShift, Red Hat OpenShift AI cung cấp một nền tảng được thiết kế để tăng cường việc áp dụng AI và nâng cao niềm tin vào các sáng kiến AI. Nền tảng Red Hat OpenShift AI kết hợp nguồn lực từ các cộng đồng mã nguồn mở với một hệ sinh thái AI mạnh mẽ, tăng cường sự linh hoạt và tự do lựa chọn bằng cách cho phép người dùng sử dụng các công nghệ AI/ML phù hợp cho trải nghiệm end-to-end. Doanh nghiệpcó thể tự xây dựng các mô hình dự đoán hoặc bắt đầu với một mô hình Generative AI từ bên ngoài. Sau đó, doanh nghiệp có thể tinh chỉnh hoặc nâng cao mô hình của mình bằng cách sử dụng phương pháp retrieval-augmented generation (RAG) để suy diễn (inference) bằng các máy chủ chạy mô hình.
Các nhà khoa học dữ liệu có thể sử dụng các công cụ và framework quen thuộc hoặc truy cập hệ sinh thái đối tác công nghệ để có thêm chuyên môn AI/ML sâu hơn—mà không bị áp lực bởi một chuỗi công cụ cứng nhắc. Thay vì chờ đợi đội ngũ IT cung cấp tài nguyên cần thiết, data scientist có thể tạo được cơ sở hạ tầng theo yêu cầu chỉ với một cú nhấp chuột, thay vì phải gửi yêu cầu thông qua IT.
Cải thiện sự nhất quán vận hành giữa các nhóm
Red Hat OpenShift AI cung cấp trải nghiệm người dùng nhất quán, giúp các nhà khoa học dữ liệu, kỹ sư dữ liệu, kỹ sư ứng dụng và nhóm DevOps cộng tác hiệu quả để triển khai các giải pháp AI kịp thời. Nền tảng này cung cấp khả năng tự phục vụ (self-service) cho các luồng công việc để hợp tác và tăng tốc thông qua việc sử dụng GPU và tinh giản các hoạt động vận hành. Các doanh nghiệp có thể triển khai các giải pháp AI nhất quán ở quy mô lớn trên các môi trường hybrid cloud cũng như edge.
Vì Red Hat OpenShift AI là một add-on của Red Hat OpenShift, nhóm vận hành IT có thể cung cấp cấu hình đơn giản hơn cho các nhà khoa học dữ liệu và nhà phát triển ứng dụng trên một nền tảng ổn định và đã được kiểm chứng, và có thể mở rộng hoặc thu hẹp tài nguyên dễ dàng. Nhờ vậy, IT giảm bớt lo ngại về quản trị và bảo mật, không cần phải đối phó với các tài khoản cloud không được quản lý.
Tăng cường tính linh hoạt trong môi trường hybrid cloud
Red Hat OpenShift AI cho phép đào tạo, triển khai và giám sát workload AI/ML trong môi trường đám cloud, trung tâm dữ liệu on-prem hoặc tại edge, gần với nơi dữ liệu được tạo ra hoặc được lưu trữ. Tính linh hoạt này cho phép các chiến lược AI dể dàng được thay đổi, di chuyển hệ thống lên cloud hoặc đến biên mạng tùy theo yêu cầu kinh doanh. Các doanh nghiệp có thể đào tạo và triển khai các mô hình cũng như ứng dụng hỗ trợ AI ở bất cứ đâu để đáp ứng các yêu cầu về quy định, bảo mật và dữ liệu liên quan, bao gồm cả các môi trường bị cô lập hoàn toàn (air-gap) hoặc không kết nối internet.
Red Hat OpenShift AI
Hình: Vòng đời vận hành mô hình tích hợp Red Hat OpenShift AI làm một nền tảng chung, mở rộng các khả năng của Red Hat OpenShift.
Red Hat OpenShift AI cũng cho phép mở rộng khả năng AI thông qua hợp tác với hệ sinh thái phong phú gồm hàng chục đối tác phần mềm AI và phần mềm dưới dạng dịch vụ (SaaS). Tính linh hoạt và khả năng kết hợp của Red Hat OpenShift AI cho phép khách hàng xây dựng một nền tảng AI/ML end-to-end phù hợp với nhu cầu cụ thể của từng doanh nghiệp.
Với những doanh nghiệp mới bắt đầu với các mô hình Generative AI, Red Hat OpenShift AI bao gồm các thành phần của Red Hat Enterprise Linux® AI—một nền tảng mô hình cơ bản giúp phát triển, thử nghiệm và chạy mượt mà các mô hình ngôn ngữ lớn (LLMs) thuộc dòng Granite cho các ứng dụng doanh nghiệp. Bên cạnh các mô hình Granite đi kèm với Red Hat OpenShift AI, framework này còn hỗ trợ các mô hình từ HuggingFace, Stability AI và các model repository khác.
Red Hat OpenShift AI là một thành phần cốt lõi trong IBM watsonx.ai, cung cấp các công cụ và dịch vụ AI nền tảng cho các workload Generative AI.
Red Hat OpenShift và Red Hat OpenShift AI là các điều kiện tiên quyết kỹ thuật quan trọng được tích hợp sẵn trong phần mềm Watsonx, đảm bảo hỗ trợ đầy đủ cho các workload Generative AI.
Các công cụ và khả năng cốt lõi của Red Hat OpenShift AI cung cấp một nền tảng vững chắc:
- Xây dựng và tinh chỉnh mô hình:
Các nhà khoa học dữ liệu có thể thực hiện các tác vụ khoa học dữ liệu thăm dò trong giao diện JupyterLab, với các notebook image có sẵn bao gồm các thư viện và gói Python phổ biến như TensorFlow, PyTorch, và CUDA. Ngoài ra, các doanh nghiệp có thể cung cấp notebook image tùy chỉnh, cho phép tạo và cộng tác trên các notebook, đồng thời phân bổ công việc theo dự án và workbenches. - Triển khai mô hình:
Red Hat OpenShift AI cung cấp nhiều framework cho triển khai mô hình, giúp đơn giản hóa việc đưa các mô hình dự đoán hoặc mô hình nền tảng (foundation model) vào môi trường production. OpenShift AI cũng cho phép khách hàng sử dụng các runtime mà khách hàng quen thuộc. - Data science Pipeline:
Red Hat OpenShift AI tích hợp một thành phần data science pipeline, cho phép doanh nghiệp và xây dựng các pipeline từ các tác vụ khoa học dữ liệu thông qua giao diện đồ họa. Các doanh nghiệp có thể kết nối các quy trình như chuẩn bị dữ liệu, xây dựng mô hình và triển khai mô hình. - Giám sát mô hình:
Red Hat OpenShift AI giúp người dùng có định hướng vận hành theo dõi hoạt động và các số liệu hiệu suất của các máy chủ mô hình và các mô hình đã triển khai. Các nhà khoa học dữ liệu có thể sử dụng hình ảnh hóa có sẵn để phân tích hiệu suất hoặc tích hợp dữ liệu với các dịch vụ quan sát khác. - Phân phối workload:
Việc phân phối workload giúp các nhóm tăng tốc xử lý dữ liệu, đồng thời hỗ trợ đào tạo, tinh chỉnh và triển khai mô hình. Tính năng này cho phép ưu tiên và phân bổ công việc một cách tối ưu trên các node. Hỗ trợ GPU tiên tiến giúp đáp ứng nhu cầu workload của các mô hình nền tảng.
Các công cụ hỗ trợ toàn bộ vòng đời AI
Red Hat OpenShift cung cấp các dịch vụ và phần mềm giúp các tổ chức đào tạo, triển khai mô hình và đưa chúng vào môi trường sản xuất thành công (Hình 2). Bên cạnh Red Hat OpenShift AI, quy trình này còn được tích hợp với Red Hat Application Foundations, bao gồm:
- Streams for Apache Kafka: Cung cấp khả năng xử lý dữ liệu và truyền sự kiện theo thời gian thực.
- 3scale: Hỗ trợ quản lý API một cách hiệu quả.
- Red Hat build of Apache Camel: Đáp ứng nhu cầu tích hợp dữ liệu mạnh mẽ.
Bảng điều khiển Red Hat OpenShift AI cung cấp một trung tâm duy nhất để khám phá và truy cập tất cả các ứng dụng và tài liệu, giúp việc áp dụng trở nên dễ dàng hơn.
Các hướng dẫn Smart Start tutorials cung cấp hướng dẫn thực hành tốt nhất cho các thành phần phổ biến và phần mềm tích hợp từ các đối tác công nghệ, có thể truy cập trực tiếp từ bảng điều khiển. Điều này giúp các nhà khoa học dữ liệu học hỏi và bắt đầu công việc trong thời gian ngắn hơn.
Kết luận
Với Red Hat OpenShift AI, các doanh nghiệp có thể thử nghiệm, cộng tác và tăng tốc hành trình xây dựng ứng dụng thông minh của mình. Các nhà khoa học dữ liệu có thể sử dụng Red Hat OpenShift AI như một dịch vụ bổ sung trên đám mây được Red Hat quản lý hoặc như một phần mềm tự quản lý, giúp đơn giản hóa công việc bất kể nơi họ xây dựng mô hình.
Các nhóm vận hành IT được hưởng lợi từ khả năng MLOps, cho phép mô hình nhanh chóng đi vào sản xuất. Tính năng tự phục vụ cho các nhà phát triển và nhà khoa học dữ liệu thúc đẩy đổi mới trên một nền tảng ứng dụng đã được doanh nghiệp tin cậy. Khác với các cách tiếp cận cạnh tranh, Red Hat OpenShift AI cho phép lựa chọn công cụ linh hoạt, không bị giới hạn bởi một chuỗi công cụ cố định, mang lại những hiểu biết dữ liệu mới mà không áp đặt các rào cản không cần thiết.
