Red Hat이 시스템 관리자의 삶을 더 쉽게 만들기 위해 AI를 수용하는 방법

오픈소스 거대 기업의 AI 작업은 전체 Red Hat 소프트웨어 제품군을 스마트하고 관리하기 쉬운 스택에 통합하는 것입니다. 각 기능이 수행하는 작업과 함께 작동하는 방법은 다음과 같습니다.

모든 기술이나 비즈니스 보도 자료가 더 이상 "이제 AI로!"로 시작되지 않는다면 정말 기쁠 것입니다. 대부분 립서비스일 뿐이다. Red Hat은 조금 다릅니다. 회사는 제품 라인 전체에 AI를 통합하고 있습니다. 여기에는 Red Hat Enterprise Linux AI(RHEL AI), Red Hat OpenShift AI 및 Red Hat Ansible Automation이 포함됩니다. 각 기능이 수행하는 작업과 함께 작동하는 방법은 다음과 같습니다.

Red Hat은 최근 발표가 쇄도하기 훨씬 전부터 AI와 협력하고 있었습니다. Red Hat의 첫 번째 진지한 AI 작업은 자동화 전용 기반 모델을 갖춘 생성적 AI 서비스인 Red Hat Lightspeed를 사용하는 것이었습니다. 자연어 처리(NLP)를 사용하여 프롬프트를 코드로 변환하는 Lightspeed는 Ansible DevOps 프로그램에 처음 등장하여 복잡한 시스템 관리 작업을 단순화하는 데 도움이 되었습니다. 특히, Ansible 플레이북 생성 과정을 쉽게 이해할 수 있도록 설계되었습니다.

앞으로 RHEL AI는 Red Hat의 기본 AI 플랫폼입니다. 현재 개발자 프리뷰 단계에 있는 RHEL AI는 생성 AI 모델 개발, 테스트 및 배포를 간소화하도록 설계되었습니다. 이 새로운 플랫폼은 IBM Research의 오픈 소스 라이센스 Granite LLM(대형 언어 모델) 제품군, LAB 방법론 기반 InstructLab 정렬 도구, InstructLab 프로젝트를 통한 모델 개발에 대한 협업 접근 방식을 융합합니다.

IBM Research는 비용이 많이 드는 수동 작업 없이 AI/ML 모델을 정렬하기 위해 합성 데이터 생성 및 다단계 조정을 사용하는 LAB 방법론을 개척했습니다. InstructLab 커뮤니티를 통해 개선된 LAB 접근 방식을 통해 개발자는 오픈 소스 프로젝트에서와 마찬가지로 LLM을 구축하고 기여할 수 있습니다.

InstructLab의 출시와 함께 IBM은 Apache 라이센스에 따라 선별된 Granite 영어 언어 및 코드 모델을 출시하여 교육 및 커뮤니티 기여를 위한 투명한 데이터 세트를 제공했습니다. 이제 Granite 7B 영어 언어 모델이 InstructLab에 통합되어 사용자가 공동으로 기능을 향상할 수 있습니다.

RHEL AI는 하이브리드 클라우드 환경 전반에 걸쳐 서버 배포를 위해 완전히 최적화되고 부팅 가능한 RHEL 이미지를 제공하여 전사적 도입을 단순화하기 위한 것입니다. 이러한 최적화된 부팅 가능 모델 런타임 인스턴스는 Granite 모델 및 InstructLab 도구 패키지와 함께 작동합니다. 여기에는 최적화된 Pytorch 런타임 라이브러리와 AMD Instinct MI300X, Intel 및 NVIDIA GPU, NeMo 프레임워크용 GPU 가속기가 포함되어 있습니다.

RHEL AI는 Red Hat의 MLOps(기계 학습 운영) 플랫폼인 OpenShift AI에도 통합되어 분산 클러스터에서 대규모 모델 구현이 가능합니다.

RHEL AI는 또한 Lightspeed를 사용하여 RHEL 인스턴스를 배포, 관리 및 유지하는 데 도움을 줍니다. 예를 들어 Red Hat Summit에서 Red Hat은 CVE(Common Vulnerability and Exploit) 보안 패치를 확인하는 방법을 시연한 다음 시스템에 패치를 구현하도록 지시할 수 있습니다.

다음 단계: RHEL AI가 포함된 OpenShift AI를 통해 기업은 Kubernetes 기반 MLOps를 통해 워크플로를 확장하고 모델을 관리할 수 있습니다. IBM의 watsonx.ai 엔터프라이즈 스튜디오 사용자는 향상된 모델 거버넌스 및 가격 책정에 액세스함으로써 이러한 통합의 이점을 누릴 수 있습니다.

RHEL AI와 마찬가지로 이 새로운 AI 친화적인 OpenShift 버전(Red Hat Kubernetes distro)에는 OpenShift를 더 쉽게 사용할 수 있도록 Lightspeed가 포함되어 있습니다. 예를 들어, 새로운 애플리케이션을 배포하는 방법, 자동 크기 조정을 사용할 시기, 클라우드 인스턴스에 적합한 크기를 추천합니다. 또한 귀하의 애플리케이션을 모니터링합니다. 앱이 한동안 실행된 후 용량 요구 사항이 예상보다 낮을 경우 Lightspeed는 앱의 리소스를 자동으로 축소합니다.

간단히 말해서 Red Hat의 수석 부사장이자 최고 제품 책임자인 Ashesh Badani는 "Red Hat Lightspeed는 가장 혁신을 더 빠르게 제공할 수 있는 사용자, 즉 IT 조직의 손에 프로덕션 지원 AI를 제공합니다."라고 말했습니다.

마지막으로 Red Hat은 Ansible에서 "코드로서의 정책"을 추가했습니다. 왜? Ansible의 부사장이자 총괄 관리자인 Sathish Balakrishnan은 AI가 개별 시스템의 기능을 우리가 관리할 수 있는 수준 이상으로 확장함에 따라 IT 인프라를 유지 관리하는 과제가 더욱 커졌다고 설명했습니다.

Balakrishnan의 입장에서 "AI는 자동화 채택 여정의 마지막 단계입니다. 엔터프라이즈 IT 운영의 맥락에서 AI는 기계가 프로세스를 자동화하고, 인프라와 도구를 연결하여 효율성을 높이고, 복원력을 향상하고 비용을 절감하기 위한 결정을 내리는 것을 의미합니다. ."

Red Hat은 AI를 사용하여 코드형 정책(Policy as Code)을 자동화함으로써 새로운 Ansibile이 새로운 IT 프로젝트 시작 시 내부 및 외부에서 규정된 정책을 효율적으로 시행하고 규모에 맞게 운영을 관리할 수 있다고 보고 있습니다.

여기에 모든 프로그램을 통합하는 단일 테마가 있다는 생각이 든다면 당신 말이 맞습니다. Red Hat은 AI를 사용하여 시스템 관리 업무를 더욱 쉽게 만들고 있습니다. 예, RHEL 및 OpenShift에서 AI 프로그램을 구축할 수 있지만 단기적으로 Red Hat AI는 전체 Red Hat 소프트웨어 제품군을 관리하기 쉽고 스마트한 소프트웨어 스택으로 통합하는 것입니다. 고객.