with
클라우드 애플리케이션 이상치 탐지를 위한 AIOps 구축
클라우드 애플리케이션
이상치 탐지를 위한 AIOps 구축
2022-11-30
1
프로젝트 개요
Cloudforet Sub-Project
프로젝트 설명
AIOps
프로젝트 이점
클라우드 애플리케이션 이상치 탐지를 위한 AIOps 구축
클라우드 소프트웨어 스택 전반에 걸쳐 수집된 시계열 데이터를 이용하여 종속성을 분석하는 LSTM 기반 성능 모니터링 시스템 구축
메트릭 간 종속성에 대한 분석 및 가시성 확보
성능 지표로부터 메트릭 인과관계 분석을 통한 예측 정확도 향상
운영 및 관리 측면에서 관측가능성 확보
오류 예측을 통해 신속한 대응
2
1
3
AIOps
Cloudforet Sub-Project
보편적인 로그 포맷, 모니터링 툴, IT 서비스 관리 툴, 애자일 개발 툴, 기타 협업 플랫폼과의 즉각적 통합
02
여러 모니터링 툴로부터 미가공 로그 및 데이터를 취합하는 중앙 데이터 플랫폼
01
현황과 문제를 알리고 자동으로 대응하는 자동화 기능
05
취합된 데이터의 패턴을 인식하는 머신러닝 기능
03
IT 운영팀이 중앙 인터페이스에서 여러 시스템을 확인하고 관리하는 데 도움이 되는 콘솔, 대시보드 및 애널리틱스
04
연구 및 개발 과정에서 Cloudforet 을 활용함으로써
시간 단축, 효율 증가, 능률 상승 및 현 난이도 하락 효과를 기대할 수 있음
Cloudforet
AIOps(Artificial Intelligence for IT Operations) 정의의 5가지 항목
프로젝트 개요
Cloudforet Sub-Project
본 프로젝트는 3개의 모듈과 6단계로 구성된 연구모형을 통하여 추진함
Module 01
수집 데이터의
종속성 분석
Module 02
Module 03
성능 지표 산출
1
종속성 분석
2
현재 상태를 수집한 데이터와
Module02 가 예측한 데이터의 이상치 탐지 알고리즘을 수행하여 미래의 서비스 장애 위협을 예상하는 모델
도출한 종속성 및 인과 / 상관 관계를 바탕으로 데이터의 특성을 고려하여 최적의 예측 모델을 생성
수집 데이터에 대한 성능 지표를 산출하고 이를 바탕으로 종속성을 분석하여 예측 모델 (Module02) 의 정확도 향상
로그 데이터
메트릭 데이터
최적 모델 탐색
3
수집 데이터의 이상치 탐지
6
예측 데이터의 이상치 탐지
7
시계열 데이터 예측
4
분석 데이터의
미래 상태 예측
예측 데이터의
이상치 탐지
APM(Traces)
인과,상관 관계
LSTM(Long Short Term Moermoty)
ARIMA
ACF
TFT
PACF
SVDD
SVDD
2022-11-30
클라우드 애플리케이션
이상치 탐지를 위한 AIOps 구축
2
프로젝트 배경 및 목적
Cloudforet Sub-Project
커져가는 클라우드 마이그레이션 시장과
모니터링 시스템의 중요성
2-1. 클라우드 마이그레이션 서비스 시장의 확대
<Mordor Intelligence
Cloud Migration Market Snapshot>
코로나 19 대응, 비즈니스의 차별적 가치 확보를 위해
많은 기업들이 디지털 전환을 시도하고 있는 추세
앱 운영, 자동화, 인공지능, 컨택 센터 등 많은 인프라를
요구 하는 디지털 신 기술을 도입하고 있으나,
레거시 환경에서 그 한계가 명확함
이에 대한 대응책으로 클라우드 기술이 주목되어
많은 기업들이 클라우드 도입을 서두르고 있음
클라우드 마이그레이션 서비스 시장은
2020년 1,191억 3,000만 달러, 연 평균 성장률은 28.9%
2026년까지 4,483억 4,000만 달러에 이를 것으로 예상
Mordor Intelligence
Cloudforet Sub-Project
커져가는 클라우드 마이그레이션 시장과
모니터링 시스템의 중요성
2-2. 클라우드 마이그레이션의 어려움을 겪는 기업
클라우드 마이그레이션에 대한 높은 시장 전망과 관심에도 불구하고, 실행은 아직 기대에 미치지
못하고 있음
2021년, 글로벌 기업의 18% 미만이 클라우드 마이그레이션을 시도
이 중 13% 미만의 애플리케이션에 대한 마이그레이션 작업을 시작한 수준
Next Pathway
FORRESTER Research
이에 대한 원인으로 인력 부족과 기업 내부의 클라우드 모니터링, 애플리케이션 아키텍처 설계
등의 기술력이 부족하다고 지적
프로젝트 배경 및 목적
Cloudforet Sub-Project
커져가는 클라우드 마이그레이션 시장과
모니터링 시스템의 중요성
2-3. 가트너 2023 10대 전략 기술 트렌드
Gahtner
[ 산업 클라우드 플랫폼 ]
(Industry Cloud Platform)
[ 관찰 가능성 응용 ]
(Applied Observability)
SaaS, PaaS, IaaS를 통합하여 특정 산업의 비즈니스 사용 사례를 지원하는 일련의 모듈식 기능을 제공
관측 가능한 아티팩트를 고도로 조정하고 통합된 접근 방식을 통해 피드백을 제공함으로써 조직의 의사 결정을 가속화
로그, 흔적(trace), API 호출, 체류 시간, 다운로드, 파일 전송 등과 같이 이해관계자가 특정 행동을 취할 경우 나타나는 디지털화된 아티팩트(digitalized artifact)
종속 현상을 방지하고 시장에 민첩성, 혁신 및 시간 절감 효과를 제공
<Gartner Top 10 Strategic Technology Trends 2023>
프로젝트 배경 및 목적
Cloudforet Sub-Project
2-4. 일관되지 않은 수집 데이터의 속성
EMA
기존 모니터링 시스템의 문제점 - 1
수집 데이터의 문제점
성공적인 AI옵스 구축에 있어 데이터 문제는 비용 다음으로 큰 장애물
인공지능 모델은 학습 데이터에 따라 성능이 좌우됨
기업의 레거시 운영 시스템은 성능 데이터를 일관된 방식으로 수집하지 않을 수 있으며,
중요한 측면이 누락되거나 모순된 정보를 보고할 수 있음
각기 다른 환경에서 수집된 데이터는 동일한 형식을 갖고 있지 않을 가능성이 매우 높음
<데이터의 정상성을 판단하기 위한 자기상관함수, 편자기상관함수 분석>
프로젝트 배경 및 목적
Cloudforet Sub-Project
기존 모니터링 시스템의 문제점 - 1
수집 데이터의 문제점
데이터의 연관 관계를 고려하지 않음
대규모 환경에서 데이터 수집 작업이 어려움
이질적이고 불투명하며 동적으로 변화하는 MSA 환경에서 동작하는 머신러닝 모델은 런타임 종속성을 고려할 필요가 있음
대규모로 분산되고 고도화된 네트워크 환경에서 데이터를 수집하기가 매우 어려운 작업임을 지적
인프라로부터 수집되는 각 성능 지표는 상호 관계를 지니고 있음
MSA 기반 분산된 환경의 응용 애플리케이션은 연관 관계 및 종속성을 지니고 있음
프로젝트 배경 및 목적
Cloudforet Sub-Project
“ 마이크로서비스를 사용하는 클라우드 네이티브 애플리케이션은
애플리케이션 성능 모니터링 작업을 훨씬 더 복잡하고 어렵게 만듦 ”
<USENIX에 게재된 네트워크 애플리케이션 종속성 검색 자동화 논문>
프로젝트 배경 및 목적
Cloudforet Sub-Project
기존 모니터링 시스템의 문제점 - 2
모니터링 시스템의 특성에 따른 한계
2-5. 사후 대처의 성격이 강한 모니터링 시스템
모니터링의 목적은 지속적인 감시, 감찰을 통해 대상의 상태나 가용성, 상태 변화 등을
확인하고 대비하는 것
확장성과 유연성을 가진 클라우드 플랫폼에서 지속적인 모니터링을 통해 수집된 데이터를
기반으로 시스템 규모의 확장과 축소를 빠르게 결정해야 하기 때문에 더욱 중요
하지만, 모니터링 시스템의 특성 상 문제가 발생한 뒤 이를 탐지하고 대응하는 후속 대처의
성격이 매우 강함
이는 서비스 지속성에 대한 다운 타임을 유발하여 기업에게 손해를 유발할 염려가 있음
EMC
ITIC
글로벌 기업의 64%가 1년 안에 서비스 중단을 경험했으며 평균 3일 정도의 서비스 중단을 겪음
1,000명 이상의 직원을 보유한 기업을 대상으로 실시한 설문조사 결과, 기업의 98%는
서비스 중단에 따른 손실이 시간당 1억 원을 초과
프로젝트 배경 및 목적
2022-11-30
클라우드 애플리케이션
이상치 탐지를 위한 AIOps 구축
3
연구 방법론
Cloudforet Sub-Project
Model A :
클라우드 애플레이션 간 종속성 분석
3-1. 순환 신경망 네트워크(RNN) 일종인 LSTM
LSTM
클라우드 애플리케이션 소프트웨어 스택의 인프라/플랫폼/애플리케이션 계층에 걸쳐있는
다양한 주요성능 지표의 성능 모니터링에 뛰어나야 함
다변량 시계열 데이터에서 그래프 관계를 포착하기 용이함
시스템 전반적인 의존성을 정확하게 모델링하여 노이즈가 많은 패턴에 안정적이고 강력한 성능을
보임
입력으로 사용되는 특징 벡터를 LSTM으로 확장하는 일반적인 방법으로, 신경모델이 모니터링 메트릭 간의 관심관계를 학습하도록 지시함
LSTM 훈련 단계를 통해 학습된 신경연결의 가중치를 조사하여 학습된 실제 종속성을 밝히는 접근 방식에 대한 개발
Skill 1.
Skill 2.
연구 방법론
Cloudforet Sub-Project
Model A :
클라우드 애플레이션 간 종속성 분석
Step 1.
Step 2.
Step 3.
주어진 메트릭에 대한
가장 강력한
성능 예측 변수 찾기
(초기 성능 지표)
step 1. 에서 찾은
예측 변수를 통해
수집한 데이터에 대한
예측 및
기준선(baselining)
정확도 향상
주어진 데이터로 부터
Lagging / Temporal
관계 포착
2022-11-30
클라우드 애플리케이션
이상치 탐지를 위한 AIOps 구축
4
개발 방법론
Cloudforet Sub-Project
고전적인 구현방식
1
개발 방법론
Cloudforet Sub-Project
Web Server
WSGI
Client
Web APP
AI model
Monitoring server
Infrastructure
NGINX
React
고전적인 구현방식
1
개발 방법론
Cloudforet Sub-Project
Web Server
WSGI
Client
Web APP
AI model
Cloudforet
NGINX
React
Cloudforet 을 적용한 방식 - A
2
개발 방법론
Cloudforet Sub-Project
Client
AI model
Cloudforet
Cloudforet 을 적용한 방식 - B
2
Plugin
- END -