AI옵스(AIOps)란?

클라우드 플랫폼, 매니지드 서비스 제공업체, 디지털 트랜스포메이션을 추진하는 기업이 새로운 IT 트렌드, AI옵스(AlOps)의 이점을 누리기 시작하고 있다. 

 

AI옵스는 부정적 영향을 미칠 수 있는 운영 중단 등의 문제를 사전 예측해준다. 더 나아가 향상된 AI옵스는 장애를 선제적으로 파악 및 예측하는 것뿐만 아니라 자동화와 지능화를 구현해 장애에 대응할 수 있게 해준다. 

AI옵스란? 

AI옵스는 IT 운영 관리에 인공지능을 적용한 것이다. 인프라, 네트워크, 애플리케이션을 지능적으로 관리할 수 있다. AI옵스는 문제 발생 시 실행되는 경보 시스템과 수동으로 처리하는 기존 방식을 AI와 ML 시스템으로 전환한다. 이를 통해 IT 운영 관리를 좀 더 효율화하는 것은 물론 부정적인 영향을 미칠 수 있는 사건·사고를 미연에 예측할 수 있게 해준다.

"미국 의류회사 칼하트의 CIO 존 힐은 AI옵스를 3가지 주요 영역, 서비스 관리/성능 관리/IT 자동화에서 활용한다고 말했다. 그는 지능적인 모니터링 덕분에 이제 장애를 사전에 발견할 수 있다고 밝혔다. 힐은 AI옵스에 대해 기업 환경을 모니터링하고 현황을 파악하며, 이러한 지표를 바탕으로 대응하는 전체적인 과정이라고 설명했다. 이어서 그는 “이전이었다면 대응이 필요하다고 판단하였을 때가 이미 운영 및 작동 중단이 발생한 이후일 것이다. 기업이 알아차리기 전에 그러한 사건·사고는 고객 경험을 악화시켰을 가능성이 크다”라고 덧붙였다. "

미국 최대 쇼핑 행사인 블랙 프라이데이와 사이버 먼데이 동안 불거졌던 칼하트 웹사이트의 성능 문제도 AI옵스의 필요성을 강하게 제기했다고 힐은 언급했다. 그는 홈페이지 장애가 발견됐을 때 이미 고객들은 큰 서비스 불편을 겪은 이후였다고 말했다. 

2017년 칼하트가 앱다이내믹스 솔루션을 도입한 이후, 블랙 프라이데이와 사이버 먼데이 기간의 사용량 급증에도 다운타임이 제로였다. 힐은 “그해에 기록적인 매출을 올렸다. 어떤 가동 중단이나 성능 저하도 없었으며, 매출이 평균 2배 이상 급증했다”라고 전했다.

이후 2019년 칼하트는 온프레미스와 클라우드 환경의 리소스 관리를 위해 터보노믹을 도입했다. 힐은 해당 툴로 인해 리소스 활용률이 70%에서 92%로 증가했다면서, “그 덕분에 인프라 비용의 25%를 절감한 것으로 분석된다”라고 밝혔다. 

AI옵스 도입률

가트너는 2023년까지 기업의 40%가 AI옵스를 애플리케이션 및 인프라 모니터링에 사용하리라 전망했다. 그러나 누가 봐도 AI옵스 도입은 아직 초기 단계에 불과하다. 보스턴 컨설팅 그룹의 전무 아카시 바티아는 AI옵스 도입을 저해하는 한 가지 이유로 ‘시장에 공급업체가 많아도 너무 많다’는 점을 꼽았다. 

룸시스템은 보고서를 통해 59%의 기업이 AI옵스를 검토하는 단계에 있지만, 이 솔루션이 정확히 무엇을 제공하는지 고객들이 파악하기가 여전히 어렵다고 진단했다. 

바티아는 많은 공급업체가 애플리케이션 성능 모니터링, 인프라 관리 또는 네트워크 성능 모니터링 및 진단과 같은 AI옵스의 한 부분에서만 영업을 하고 있다고 지적했다. 그러나 기술이 성숙해지면서 시장이 통합될 조짐을 보인다고 그는 덧붙였다. 

IDC는 AI옵스 시장이 2018년 29억 달러에서 2023년 45억 달러로 성장할 것으로 관측했다. 또한 서비스형 AI옵스가 시장 성장의 주된 요인일 것으로 내다봤다. IDC의 AI옵스 애널리스트 겸 프로그램 부사장인 스티븐 엘리엇은 AI옵스가 종종 엔터프라이즈 소프트웨어 플랫폼이나 클라우드 서비스와 함께 제공되지만, 대기업들이 AI옵스에 독립적으로 투자하기 시작했다고 언급했다.

수익 창출 도구가 되는 AI옵스 

신시내티 벨(Cincinatti Bell)의 자회사 CBTS는 기업 고객을 대상으로 기술 컨설팅서비스를 제공한다. CBTS의 최고 혁신 책임자 조 퍼트닉은 AI 도입이 대응 시간을 개선하는 데 중요한 역할을 했지만, 이제는 새로운 비즈니스 기회의 원천이 되었다고 말했다. 

그는 CBTS가 AI옵스를 도입하기 전에는 고객 장비를 CBTS 모니터링, 관리 및 청구 시스템에 가져오는 데 몇 시간이나 며칠이 걸리거나 또는 아예 가지고 오지 못했다며, 이제는 프로비저닝 시간이 5시간에서 2분으로 단축됐다고 설명했다. 

또한 CBTS는 사용 패턴 분석과 대응 자동화에도 AI옵스를 활용하고 있다. 그는 “최대 가동 시간과 최대 고객 만족도를 유지할 수 있도록 용량이 필요한 곳을 예측하기 위해 AI옵스를 적용하고 있다”라고 전했다.

퍼트닉은 "CBTS가 월 40개 미만의 지역에서 월평균 500개 이상의 설치가 가능하도록 성장할 수 있게끔 AI옵스가 도왔다"라고 말했다. CBTS는 AWS에 내장된 툴, 자체 맞춤형으로 코딩된 서비스나우 내부 앱, 맞춤형 머신러닝 및 적응형 알고리즘, 사이언스로직의 AI옵스 툴을 조합하여 사용한다. 고객 서비스에도 AI옵스를 활용한다. 예를 들어 CBTS의 챗봇은 AI옵스 시스템에서 나오는 데이터, 분석 및 예측을 사용해 더욱 지능적이고 향상된 대응력을 갖출 수 있다. 

AI옵스와 매니지드 서비스 공급업체(MSP)

AI옵스의 잠재력을 충분히 이해하려면, MSP(Managed Service Provider)에 주목해야 한다. 디지털 서비스 컨설팅 업체인 너더리(Nerdery)의 데이터 과학 부문 이사 저스틴 리치는 “AI옵스가 아마 현재 MSP 시장에서 가장 큰 비중을 차지하고 있을 것이다. MSP는 분명히 AI에 투자하려고 하고 있다. 하드웨어를 제외하면 인적 자본이 가장 큰 비용이라는 것을 MSP는 알고 있다”라고 말했다.

AIO옵스는 MSP에게 효율성 향상, 비용 절감 및 해결 시간 단축을 의미한다. 이는 MSP 시장에서 중요한 경쟁 차별화 요소들이다. MSP 넷인리치(NetEnrich)의 전략 및 운영 부문 부사장 라구 카마쓰는 “해당 요소들은 AI옵스에 대한 자사의 가치 제안 중 절반을 차지한다”라고 밝혔다. 

그에 따르면 넷인리치는 1,000개 이상의 기업 고객들에게 AI옵스를 선보였다. “몇 명의 고객들에게 AI옵스를 구현하는 것부터 시작했으며, 지난 12개월 동안 점차 고객 기반을 확장했다. 현재 고객 50% 이상이 AI옵스 플랫폼을 사용하고 있다”라고 그는 설명했다. 

넷인리치가 제공하는 가장 확실하고 즉각적인 이점 중 하나는 노이즈 감소였다. 잘못된 경보는 직원에게 불필요한 업무를 발생시키고, 고객 대응 시간을 늦춘다.

카마쓰는 “AI옵스를 도입한 이후 장애를 감지하고 조치를 취하기 위한 대응 시간이 개선되고, 이를 해결하는 시간은 최소 30% 더 빨라졌다. AI옵스가 더 성숙해지고 더 많은 추론 모델을 도입함에 따라 대응 시간 역시 계속 개선될 것이다”라고 말했다.

한편 카마쓰는 환경이 동질적일수록 AI옵스를 배치하기가 더 쉽다는 것을 발견했다. 그는 “하지만 다양한 환경을 통합하기 시작하면 훨씬 더 복잡해진다”라고 덧붙였다. 퍼블릭 클라우드 인프라를 사용하는 고객들은 일관적인 환경을 갖추고 있기 때문에 유리하다. 단, 시스템을 개방하는 데 있어 클라우드 공급업체가 때때로 걸림돌이 될 수 있다고 그는 설명했다. 그는 “하지만 이제 퍼블릭 클라우드 공급업체들이 입장을 바꾸고 있다. 2년 전과 현재 액세스하는 데이터의 양을 비교해보면, 훨씬 좋아졌다”라고 말했다.

기존 애플리케이션과 하드웨어에 AI옵스를 활용하는 것은 힘들다고 카마쓰는 말했다. 이어서 그는 “로그가 부족하면 어떤 것도 추론하기가 상당히 어려워진다. 그렇기 때문에 우리는 고객들이 디지털 혁신을 가속화하고 애플리케이션을 현대화하도록 권장하고 있다”라고 전했다.

출처 : 
http://www.ciokorea.com/t/2996/%EB%B9%85%20%EB%8D%B0%EC%9D%B4%ED%84%B0/146214#csidx751ab531ae6d51e9c1c0f43f27414a6