[논문리뷰/번역]Detecting and Mitigating DDoS Attacks with AI: A Survey

이번 포스팅에서 다뤄볼 논문은

Detecting and Mitigating DDoS Attacks with AI: A Survey

입니다. AI를 이용한 DDoS 공격에 대한 탐지 및 완화 방안에 대한 논문입니다.

 

 

 

 

 

https://arxiv.org/abs/2503.17867

Detecting and Mitigating DDoS Attacks with AI: A Survey

위의 링크에서 원문을 확인할 수 있습니다.

 

논문이 40페이지가 넘어가기에 읽어가면서 블로그에 정리해서 한번에 올릴 예정이고, 중간중간 모르는 개념들은 따로 포스팅해서 올릴 예정입니다.

해당 논문을 선택한 이유는 Survey논문이라 전체적인 동향을 파악할 수 있을 것 같고, DDoS 방어에 대해 공부할 때 AI와 함께한 사례들을 보고 싶었기 때문입니다.

 

이번에도 영어 원문을 따로 출력해서 읽었습니다..

 

후기

후기입니다. 이걸 제일 앞에 적는 이유는 글이 너무 길어서 아무도 끝까지 안 내릴 것 같기 때문입니다... 처음으로 서베이 논문을 읽었는데 여태껏 각 기법들에 대한 공부만 하다가 최신 연구 동향이 어떻게 되는지 다 읽으니까 너무 어렵고, 영어 원문이라 해석도 힘들고 여러가지 어려움이 있었네요. 농담아니고 블로그에 정리하면서 읽고 논문 본문에도 요약적으면서 봤더니 한 4일~5일정도 걸린 것 같습니다..ㅎ 제가 AI 머신러닝 기법을 잘 모르는데, 내용에 엄청 많이 나와서 어려운 점이 있었습니다. 그래도 거의 논문 70개정도를 압축해서 본 기분이고, DDoS공격 관련해서 어떠한 연구를 해보고 싶다, 연구 주제를 정하고 싶다할때 정말 도움이 많이 될 것 같습니다. 25년도라 완전 최신!!까지는 아니지만, 공부하고싶은 내용도 조금 생겼고, 현재 DDoS 연구에서 어떤 부족함이 있는지 어떤걸 개선해나가야 하는지, 여태까지 어떤게 연구가 되었고 향후 연구과제가 어떤게 있는지 정말 명확하게 이해가 된 것 같습니다.

앞으로도 특정한 개념을 공부할때 서베이 논문을 좀 찾아봐도 좋을 것 같네요. 금방 읽겠지~ 하고 시작했는데 죽을뻔 하긴 했습니다.

DDoS를 어떻게 탐지하는지도 중요하지만, 완화가 굉장히 중요하다는 것을 깨달았고, 현실적인 데이터셋이 많이 부족하다는  점, AI 그 중 LLM을 이용하려는 시도가 많이 부족했다는걸 알게 되었습니다. DDoS관련해서 관심이 있고 연구해보고 싶은 생각이 들어서 QUIC 프로토콜을 이용한 DDoS를 찾아볼까 했었는데, 이 관련 연구를 하려면 데이터셋이 제일 문제일 것 같네요..ㅎ

다음 포스팅을 어떤걸 할지는 잘 모르겠습니다. QUIC 관련 논문을 더 찾아볼까 싶기도 하고, 서베이 논문에서 좀 흥미로웠던 부분을 더 찾아볼까 싶네요. 아 그리고 논문 읽으면서 찾아봐야지 했던 SDN에 대해서 쓸 예정입니다.

\제가 쓴 글을 끝까지 읽을 사람은 없겠지만.. 두서가 없어도 양해해주시고 어려운 부분이 있다면 댓글 남겨주시면 제가 이해한 만큼 답변 드리겠습니다. 감사합니다.

 

1. 도입부

DDOS는 크게 Volumetric, Protocol, Application으로 3단계로 분류합니다.

Volumetric은 용량기반의 라는 뜻으로, 대용량 트래픽 DDoS를 뜻합니다 (UDP Flood)

Protocol은 프로토콜을 이용한 공격으로, 대상 컴퓨터에 계산 부하를 일으키는 방식입니다.

Volumetric과 Protocol은 둘 다 Refelection과 Amplication을 이용해서 이루어집니다.

Application은 DBMS(데이터베이스 관리서버), 웹 서버를 대상으로 발생하는 공격입니다.

 

기존 문제점으로는 다음 내용들이 있습니다.

• AI 기반 DDoS 탐지를 만들때 보통 이진 분류가 많음. 또한 모델을 학습할 때 쓰는 데이터가 DDoS 전용 데이터가 아니라, IDS/IoT 데이터셋 안에 포함된 DDoS 일부를 가져와서 학습하는 경우가 많고, 대부분 UDP Flood와 웹 공격에 비중이 큼
• 기존 연구의 대부분은 DNS FLoot와 DT만 진행 되었고, 최근에야 LLM을 통해 방화벽 규칙을 자동 생성하려는 연구가 진행되고 있음.

논문에서 다루는 주요 3가지 내용입니다.

1. over-fitted dataset & cross-dataset generalization : 대부분의 연구에서 99% 탐지율이 나오지만 실제 DDoS는 여전히 효과적이고, 데이터셋 과적합 문제가 존재합니다. 앞으로 데이터셋을 어떻게 설계해야 하는지, 또한 cross-dataset generalization을 통해, 한 데이터셋에서 학습한 모델이 다른 데이터셋이나 실제 네트워크 트래픽에서 동작하는지 확인하는 방법에 대해 다룹니다.
2. explainable models : AI 기반으로 방화벽 rule 생성을 한다면, 혹은 특정 패킷을 공격으로 판단했다면 그 공격에 대한 판단 기준을 설명할 수 있는 모델이 필요하다
3. Hybrid models : 속도가 빠른 정적 분석과 복잡한 패턴을 탐지하는 AI가 합쳐진 하이브리드 모델이 필요하다

해당 논문의 순서는 다음과 같습니다.

1. 기존 조사 & 연구 비교
2. 논문 분류체게 그룹화 / 공격 분류
3. 사용가능 데이터셋, 학습 알고리즘 데이터셋과 전처리 기법
4. DDOS 세부 사항
5. 적대적 학습 & 적대적 예제를 통한 알고리즘 개선
6. AI기반 mitigation
7. 향후 연구 과제

출처 : https://arxiv.org/pdf/2503.17867 4p Table 1

해당 논문에서 나오는 약어들 입니다. 상당히 뭐가 많네요.

 

2. 관련 연구

DDoS Survey 논문은 많이 있지만, 대부분은 공격 종류 설명 중심입니다. 탐지 완화 관련 논문은 적고, 특히 AI/ML 기반 접근은 더 적습니다.

해당 논문에서는 Volumetric, Protocol, Application을 넘어 Generative와 Mitigation에 대한 부분들까지 다룹니다.

출처: https://arxiv.org/pdf/2503.17867 5p

거의 대부분은 다른 논문 까는 내용입니다.

핵심적인 비판점을 다루면, DDoS에 다룬 Survey는 많이 있지만, AI 기반 탐지 및 완화를 통합적으로 다룬 연구는 부족하다 입니다.

Limitations에 해당하는 부분을 보면, 특정 DDoS 공격 ( Volumetric )을 다루지 않거나 오직 Application만 다루거나,

혹은 공격에 대해서만 다루고 완화에 대해 다루지 않거나, 

Musa나 Pakmehr 등의 논문은 SDN과 IoT에 대해서 깊게 다루지만, Volumetric, Protocol 등을 한번에 연결해서 보는 시각이 부족하다고 합니다.

AI 기반 연구도, 많은 논문들이 벤치마크 데이터셋 정확도를 높이는데 집중하지만, 실제 환경에서 잘 동작하지 않고, 또 탐지 외에도 완화조치까지 연결하는데에 부족하다고 말합니다.

GAN(적대적 생성 예제)같은 연구도 존재하지만, 일반 IDS나 adversal learning 자체에 초점을 맞추고 있어서 DDoS 전용 연구로 보기엔 범위가 좁아서 아쉽다고도 말합니다.

 

기존 문헌들은 각각 전문적이지만 파편화 되어 있고, 이번 논문에서는 DDoS 공격 분류 , 데이터셋 현실성, AI기반 탐지 및 완화, 적대적 예제, 윤리적인 부분까지 하나의 프레임 워크로 통합해서 정리하겠다는 입장입니다.

 

쪽수가 40장이 넘어가는 이유가 있네요.

We position our survey as a unified AI-based synthesis of the field that provides a single 
coherent framework jointly addressing the diversity of DDoS attacks (Section 3), the realism 
of datasets coupled with the AI-based evaluation and generalization capabilities (Section 4), 
detection across all attack types (Section 5), AIbased mitigation (Section 6), attack generation
(Section 7), together with a discussion regarding ethical considerations and societal impact 
(Section 8). In the next sections of this survey, we will endeavor to address these topics one 
by one

Section 2 마지막의 요약되어 있는 원문입니다. 읽어보면 좋을 것 같습니다.

 

3. DDoS 공격의 분류 및 AI 기반 탐지/완화 솔루션

해당 논문은 2016년~ 2026년 사이의 논문들을 조사하였고, 필요한 경우에만 2016년 이전으로 관련성이 높고 잘 확립된 논문을 가져왔다고 합니다. 또 네트워크 구조를 반영하거나, 탐지 이후 완화까지 연결하거나, IDS같은 실제 솔루션과 통합하는 연구 위주로 봤다고 합니다.

쪼금 신기했던 부분인데, 해당 논문에서는 엄청나게 많은 논문을 인용해서 했는데, 사이버 보안 또는 AI 응용이 자주 나오는 학회와 저널을 대상으로 논문들을 탐색했고, 탐색 논문 범위를 넓히려고 논문들의 참고문헌에서 연구를 찾는 backward search와 인용 링크를 참고해서 후속 연구를 찾는 forward search를 수행했다고 합니다.

또 검색된 논문들에 대해 초록을 검토해서 관련 없는 연구를 제거하고, 주요 기여점들을 검토해서 Survey 적합도를 확인했다고 합니다. 다음과 같은 논문들이 포함되었다고 합니다.

1. DDoS 탐지 문제에서 AI기반 방법을 분석하고 적용한 연구
2. AI기반 DDoS 완화 솔루션을 논의하고 제안한 연구
3. 공격 분류 체계를 명확히 수립한 연구
4. 새로운 DDoS 탐지 dataset을 소개한 연구

이런 논문을 쓰려면 관련 논문을 몇십몇백편을 찾아봐야하는거구나 .. 싶네요 대단합니다.

 

3-1. DDoS 공격 분류

해당 논문은 DDoS를 4가지 범주로 나눴습니다.

Volumetric, Protocol, Reflection/Amplification, Application 입니다.

출처: https://arxiv.org/pdf/2503.17867 9p Fig 1

그림은 4가지 주요 범주에 대한 분류 체계입니다. 공격 패킷엔 프로토콜 이름이 표시되어 있고, 피해자 측에서는 공격의 초점이 되는 네트워크 자원을 빨간색으로 강조하였습니다.

 

이미 포스팅에서 많이 다루었으니 간단하게만 보면 Volumetric은 UDP packets을 대량으로 보내는 방식으로 UDP Flooding attack이 해당 범주에 포함됩니다.

Protocol DDoS는 프로토콜 자체의 약점(주로 TCP/IP/ICMP)같은 네트워크 계층 프로토콜과 소프트웨어적 구현을 타겟으로 한 공격입니다. 하드웨어 자원을 소모시켜, 서비스가 정상적인 요청을 처리할 수 없게 되는 지점에 이르게끔 합니다.

reflection / amplication DDoS는 Volumetric과 Protocol을 강화시키는 방법입니다. 이때 공격자는 UDP의 비연결 특성을 통해서 출발지의 IP주소를 위조한 뒤에 합법적인 UDP 서비스로 보내서 반사를 유도합니다. 이른바 reflector라고 불라는 응답으로 타겟은 

특정 배율만큼 증폭된 패킷들에 의해 마비됩니다.

application DDoS attack은 특정 상위 수준 네트워크 서비스(HTTP,DBMS,웹 애플리케이션 포함)를 타깃으로 합니다. 공격자는 요청을 제대로 처리할 수 없는 네트워크 애플리케이션에, 잘 만들어진 악성 요청을 대량으로 보냅니다. 이는 하드웨어 자원 소비로 증가로 이어져, 애플리케이션이 응답하지 않거나 충돌하게 만듭니다. 해당 시나리오에서는 네트워크 인프라는 대부분 영향을 받지 않으며, 주로 운영체제 위의 애플리케이션 스택이 목표가 됩니다. 

출처 : 논문 10p Table 3

해당 표는 논문에서 각 종류별 공격 방식에 대해 정리된 표입니다.

 Application DDoS는 거의 안다룬거 같긴 하네요.

HTTP Slowloris나 R.U.D.Y 그리고 ReDoS같은 건 포스팅으로 따로 한번 다루겠습니다. 나름 신기한 공격들입니다.

 

3-2. AI기반 DDoS 방어 연구

연구 논문들을 주요 기여에 따라 5가지 그룹으로 분류하였습니다.

1. Detection Algorithm : DDoS 탐지 알고리즘 제안
2. Data and Preprocessing : 데이터 전처리, 데이터 표현 방식 제안
3. Other Optimizations : 최적화
4. System Design and Evalution : 탐지 시스템 설계 (Full mitigation system)
5. Adversarial Training : 적대적 데이터 생성, 학습, 방어

논문 11p Fig 2 Hierarchical grouping of the surveyed article

위의 사진은 아래서 소개할 메인 그룹들과 그 안의 하위 그룹들에 대해 정리된 논문에 첨부된 표입니다.

 

가장 큰 그룹은 DDoS 공격을 탐지하기 위한 알고리즘 부분입니다.

대부분은 deep neural networks에 의존하며, autoencoder 편차와 비정상 패턴을 탐지하는 능력 덕분에 인기가 많은 구조입니다.

(*autoencoder는 비지도학습 신경망으로, 정상 트래픽 데이터만 입력받아 특징을 압축하고 복원하는 방식의 모델입니다)

여러 다른 맞춤형 구조들도 제안되었는데, bidirectional GRU layers with self-attention 방식이 있습니다.

진짜 태어나서 처음들어보는 방식인데, GRU가 RNN(순환 신경망)의 종류로, 순서가 있는 데이터(시간에 따라 변함)를 처리하는 신경만망 계층이라고 합니다.

bidirectional GRU layers with self-attention 방식은 네트워크 트래픽의 시간 흐름을 앞뒤로 읽고, 그 중 중요한 부분에 더 집중해서 DDoS 여부를 판단하는 딥러닝 구조입니다.

이 외에도 Random Forest나 그래프 기반 커널, 휴리스틱 분류 알고리즘 등 다양한 알고리즘이 포함되어 있습ㄴ디ㅏ.

 

두번째 그룹은 실제 분류 단계 이전의 데이터와 전처리와 관련된 논문 그룹들입니다.대표적으로 Wei의 접근법이 있는데, LSTM을 autoencoder와 결합하여 시간에 따라 변동되는 특징들을 추출하고, autoencoder의 복원 오차를 사용해 이상을 식별합니다.(*LSTM은 Long Short-Term Memory)로 시간 흐름에 따른 데이터를 학습할 때 발생하는 기울기 소실 문제를 해결하기 위해 고안된 심층 학습 모델입니다)두번째로는 Das의 방법이 있는데, 일반적으로 사용하는 flow 데이터 되신 포트별 통계만 사용해서 DDoS를 탐지하려는 접근입니다.

 

세번째 그룹은 Other Optimizations 최적화 그룹입니다.해당 그룹에는 DDoS 솔루션의 효율성을 높일 수 있는 최적화에 관련된 그룹입니다.대표적으로 Dimolianis와 Zhao의 공격 시그니처나 방화벽 규칙 통합이 있는데 적은 수의 규칙으로 여러 유형의 공격을 동시에 탐지하고 차단하기 위한 방식입니다.이러한 방식은 새롭고 이전에 보지 못한 변종 공격에 대한 방어도 높일 수 있다고 합니다.적응형 연합 학습 접근법도 제안되었는데, 이는 민감한 정보를 노출할 위험도를 낮추면서 협력을 통해서 DDoS를 탐지한다고 합니다

[68] Dimolianis, M., Pavlidis, A., Maglaris, V.: SYN Flood Attack Detection and
Mitigation using Machine Learning Traffic Classification and Programmable
Data Plane Filtering. In: Proceedings of ICIN, pp. 126–133 (2021). https:
//doi.org/10.1109/ICIN51074.2021.9385540

[69] Zhao, Z., Li, Z., Zhou, Z., Yu, J., Song, Z., Xie, X., Zhang, F., Zhang, R.: DDoS
family: A novel perspective for massive types of DDoS attacks. Computers &
Security 138, 103663 (2024) https://doi.org/10.1016/j.cose.2023.103663

[70] Doriguzzi-Corin, R., Siracusa, D.: FLAD: Adaptive Federated Learning for
DDoS attack detection. Computers & Security 137, 103597 (2024) https:
//doi.org/10.1016/j.cose.2023.103597

 

각각 논문들입니다.이게 말로만 보면 어려운데 쉽게 설명하면,1. 최소한의 규칙으로 여러 공격을 동시에 탐지/차단2. 여러 기관(개별 agent나 각 솔루션)끼리 데이터(로그)를 직접 공유하지 않고, 학습 결과만 공유해서 탐지 성능을 높이기라고 보면 될 것 같습니다.

 

네번째 그룹은 System Design and Evaluation 그룹입니다.

해당 논문들은 단순히 하나의 측면만 고려하는게 아니라 DDoS 탐지 파이프라인의 평가와 관련있는 논문들입니다.

이 그룹에 탐지 초점 논문들과 완화 초점 논문들을 구분했다고 하네요.

 

마지막 그룹은 적대적 데이터 및 적대적 훈련입니다.

해당 논문들도 알고리즘이긴 하지만, GAN 구조와 같은 다른 논문에서 보기 힘든 알고리즘을 다루기에 그룹을 나눴다고 합니다.

해당 논문들의 초점이 적대적 데이터 생성인지, 아니면 적대적 학습 알고리즘인지에 따라 하위 그룹으로 나뉘어져 있습니다.

그리고 하위 분류 중 Defending against Adversarial Attack 이 있는데, 여기는 Zhang 저자의 논문 한편이 포함되며 적대적 공격 대응 전략을 다루고 있습니다.

대부분은 기존 데이터셋에 ML/DL 모델을 적용하지만 소수 논문은 DDoS를 위해 설계된 새로운 알고리즘을 사용하기도 합니다.

 

3-3. AI기반 DDoS 탐지 방법의 수동 및 자동 분류 체계

해당 파트도, 논문 분류에 속합니다.

바로 위에서는 수동적으로 논문을 분류했다면 이번에는 자동화를 통한 논문을 분류 했고,

TF-IDF 벡터를 사용해서 자동 분류를 하였는데, TF는 Term Frequency, IDF는 Inverce Document Frequency입니다.

각각 문서안에서의 특정 단어의 빈도와, 많은 문서에서 나타나는 단어에 중요도를 낮추는 방법입니다,.

이를테면, 논문에서 SYN Flood라는 단어가 많이나오면 가중치가 올라가지만, network나 server와 같은 흔한 단어들에 대한 중요도는 낮추는 방식입니다.

이 TF- IDF를 이용해서 논문을 벡터로 변환하고, 군집화하고, dendrogram을 만든 뒤, 라벨링을 하면 다음과 같이 나옵니다.

이걸 전문가가 수동으로 분류한 위에 부분과 비교했을 때 Detection Cluster에서 유사함이 보이고, 또 Adversarial Training관련 연구도 비슷하게 묶여있었습니다.

즉 탐지 알고리즘과 적대적 훈련에 대한 연구가 뚜렷한 키워드와 연구 방향을 가진다는 것을 확인 가능합니다.

DDoS에 대한 연구를 이해하는데, 하나의 기준보단 기술적 기여 기준(3.2절)과 내용 유사성(3.3절)을 같이 봐야 입체적으로 이해 가능하다~ 머 이런 내용입니다.

 

4. 훈련 데이터 : 흐름, 그래프, 시계열

해당 섹션에서는 AI 기반 DDoS 탐지에서 학습 데이터를 어떻게 구성하고 전처리하는가를 다룹니다.

DDoS 데이터셋이 많지는 않고 그 중에서도, CIC-DDoS 2019를 제외하면 DDoS를 위한 데이터셋은 아닙니다.

KDD를 제외하고는 pcap 형태의 raw data를 제공합니다.

논문 본문 15p Table5

해당 표가 조금 특이해서 가져왔는데, 각 데이터셋에 AI모델이 낸 Precision 성능입니다.

BoT-IoT 데이터셋에 대해서는 전부 99% 이상 정확도를 보이고, 나머지 모델들도 정확도가 높게 나옵니다.

또 특이한 부분이 GAN 을 이용해서 데이터를 증강한다고 정확도가 높게 나오는게 아니라, CIC-DDOS2019나 KDD99에서는 정확도가 50이하로 떨어지는 현상이 있습니다.

이러한 표는 현재 데이터셋이 포화되어 있고, 모델들도 데이터셋 패턴에 과적합됐을 수 있다고 해석이 가능합니다.

 

 또, 중요한 내용을 정리해보면 DDoS 탐지는 네트워크 트래픽을 어떻게 수집하고 저장하느냐가 중요한데, 패킷 단위 데이터는 너무 커서 패킷들을 공통 속성 기준으로 묶은 flow형태로 변환하는게 일반적입니다.

flow 개념이 처음엔 이해가 안됐는데 다음처럼 보면 됩니다.

flow 예시
Flow 1
출발지 IP : A
목적지 IP : B
프로토콜 : TCP
목적지 포트 : 443
시작 시간 : 10:00:00
종료 시간 : 10:00:05
총 패킷 수 : 300개
총 바이트 : 250KB

이렇게 비슷한 패킷끼리 모아서 정리한 흐름을 flow라고 합니다.

이 flow들을 분석하는데에 있어서, 공격 방식에 따라 탐지 방법이 달라지는데,

Volumetric DDoS는 트래픽 양이 중요하므로, 초당 flow 수, 패킷 수,바이트 수,UDP 비율, 특정 dst IP로 몰리는 트래픽 양을 중점적으로 판단하고

Protocol DDoS는 SYN 패킷수, ACK 비율, TTL, TCP Window size, fragmentation 정보 등을 보고

Application DDoS는 HTTP 요청 수, URL/Path 접근 횟수, 세션 수, API 호출 빈도 등 패턴을 확인합니다.

 

이러한 정보들을 AI에게 학습시킬때는 raw data를 그대로 쓰는것이 아닌 3가지 형태로 바꿔서 학습시킵니다.

1. Tabular : 표 형식

flow id	src_ip	dst_ip	protocol	packet_count	byte_count	duration
1	A	B	UDP	4000	800000	2s
2	C	B	TCP	30	12000	5s

 

2. Time series : 시계열 데이터

아래 그림 참조

 

3. 그래프 : 그래프는 IP 주소를 노드로 보고, 통신 관계를 edge로 표현합니다. DDoS는 공격자 IP가 하나의 피해자 IP로 몰리니, 피해자 노드의 입력 연결 수 가 비정상적으로커지는 패턴이 보입니다.

출처 : 논문 본문 18p

다음과 같이 3가지 유형이 있습니다.

결론적으로는, raw packet이나 flow를 그대로 쓰는 것보다, 공격 유형에 맞는 표현 방식과 feature 을 잘 선택해야 탐지 성능이 좋아진다는 게 핵심입니다.

 

5. Detection

AI로 DDoS를 어떻게 탐지하는지를 공격 유형별로 정리하는 챕터입니다

 

5-1. Volumetric DDoS Attack

Volumetric DDoS는 대역폭 소모형 공격입니다. 해당 공격들에 대한 연구는 크게 두가지 접근 방식이 있는데, 

1. DDoS의 발생 여부를 탐지

2. 발생한 DDoS 공격의 종류를 식별

 

연구로 보고된 결과는 DDoS 탐지에서 99%이상의 정확도가 나오지만, 논문 필자는 그 결과가 현실적인 조건에서 발생하는게 아니고, 데이터셋 중심의 결과라고 비판을 하고 있습니다.

연구에 많이 사용하는 CIC-DDoS2019 같은 데이터셋은 Volumetric만 다루지 않고 여러 공격을 다루고, 이런 합성 데이터셋은 단순한 AI 알고리즘만 써도 DDoS 탐지율이 99%넘는경우가 많습니다.

 

중요한 방향성으로 few shot / zero shot 탐지가 언급되는데, 새로운 공격이 계속 등장하기에 모델이 적은 예시나, 본적 없는 공격에 대한 탐지 능력이 중요하다고 언급합니다. 

Shieh의 연구는 human-in-the-loop 방식으로, AI가 새로운 공격 후보를 탐지하면 사람이 검증하고 라벨링해서 시스템에 추가하는 구조를 제안하기도 했습니다.

 

Volumetric DDoS에서는 트래픽을 network flow model로 모델링합니다. 시간에 따라 변하는 네트워크 그래프 모델로 모델링을 하였고, Weisfeiler-Lehman 커널을 사용하였는데, 해당 모델은 실시간 시나리오와 DDoS 공격의 분류에서 더 나은 성능을 보인다고 합니다.

 

또 다른 그래프 기반 접근법에서는 2단계 집계 기법이 제안되었고, packet-level 트래픽과 flow-level에 대한 그래프 모델을 구성하여 CCN을 사용해서 분석하였고, F1 점수 측면에서 최고 수준을 받았다고 합니다.

 

DDoS 공격 탐지는 실제 상황에서 중요한 역할을 하는데, CCTV와 같은 감시 시스템의 경우 DDoS에 의해 마비될 경우 현장 감시를 못하기에 CCTV와 같은 감시 도구의 네트워크 강건성이 중요하다고 말합니다.

Mirsky 등의 연구에서 감시 시스템의 DDoS 강건성에 대해 분석하였으며, 직렬로 연결된 autoencoder에 기반하였습니다. 해당 연구에서는 SYN Flood, SSDP Flood, SSL renegotiation등 사이버 공격들을 포함하는 커스텀 데이터셋을 포함하였으며, 제안된 솔루션은 적용 가능성이 높고, 실용적이라고 합니다.

 

5-2. Protocol DDoS Attack

Protocol 기반 DDoS는 네트워크 프로토콜이나 그 소프트웨어 구현의 특징(TCP, ICMP 등)을 이용합니다.

이러한 공격의 주요 대상은 network stack이지만, 네트워크 하드웨어 인프라도 영향을 받을 수 있습니다.

 

해당 절에서 중요한 내용은, 공격 종류는 달라도 사용되는 feature나 탐지 기법은 공통적이라고 말합니다.

특정한 데이터셋은 89종류의 DDoS 변형을 포함하고 있고, 논문에서 TCP/SYN Flood만 다룬다고 해도, 방법 자체가 해당 공격에 특화되어 있는게 아닌 실험 환경이나 데이터셋 구성때문인 경우가 많습니다.

또 특정  공격만 탐지하는 논문들에 대한 비판도 적혀있는데, 현재 데이터셋이 충분하지 않고, 특정 공격 유형에 대한 전문적인 데이터셋이 부족하므로, 특정 공격 전용 모델을 만들면 일반화되지 않는다고 비판합니다.

결국은 사용하는 dataset이 한정되어 있고, 해당 데이터셋들은 일반적으로 넓은 범위의 DDoS를 다루고 있는게 문제네요.

 

대부분의 연구는 flow에서 특징(패킷 수, byte 수, 지속시간)들을 추출하는 것으로부터 시작하는데, 식별 정보(dest IP, Src IP, Src port ..) 도 주기적인 간격마다 수집되고, 매개변수의 관련성으로 사용됩니다.

Khashab 의 연구는 최근 5초동안 동일 host -> 동일 port로의 flow수를 사용하였고,

Das의 연구는 연속적인 5초 간격에서 패킷 수와 바이트 수의 차이를 이용합니다.

여기서 Das 등의 연구는 flow에서 추출된 특징을 고려하지 않고, 네트워크 인프라의 포트에서 수집된 매개변수만 사용하는게 특징인데, flow-level의 통계는 트래픽에 의존하여서 결과의 일반화(*데이터셋에 과적합되는 경우)에 영향을 미치기 때문입니다.

Zhao의 연구는 0,1초에서 10초 범위의 5개 슬라이딩 시간 윈도우 집합을 사용합니다.

 

위에 언급된 연구들은 수동으로 정의된 feature들을 사용하지만, autoencoder나 feed-forward networks 등 자동 기법들을 사용하여 추출하는 연구들도 있습니다.

대부분의 detection 연구는 지도학습 알고리즘에 기반합니다.(SVM, RF, DT, MLP or CNN 구조 등)

연구마다 성능 차이가 있으며, 최고 모델에 대한 합의는 없습니다.

연구자는 대부분의 연구들이 높은 탐지율을 보고하는데에 비해 신뢰도는 높지 않다고 하지만, 몇개의 논문은 공개 dataset이 아닌 ISP로부터 제공받은 비공개 데이터셋을 사용하여 신뢰도가 높다고 합니다.

 

탐지를 넘어서 Mitigation 단계까지 확장한 연구들도 존재합니다.

그 중 인기있는 주제는 트래픽 필터링에 필요한 규칙 수를 최적화하는 것이 있습니다.

특정 연구에서는 유전 알고리즘 기반 방법이 제안되었고, SYN Flood 한정이지만, 탐지에 사용되는 시그니처 수를 99.99%까지 줄였다고 합니다. 이러한 적은 규칙들은 XDP 지원 방화벽으로 구현되며, 빠른 대응을 위해서는 SYN Cookies 기법이 사용됩니다.

(*XDP가 정확하게 어떤건지 모르겠어서 따로 포스팅으로 작성해보겠습니다.)

또한 DDoS attack Family라는 개념을 도입한 연구도 있습니다. 서로 다른 공격의 signature간 차이를 평가하고, 사이를 그래프로 표현한 뒤, 특정 알고리즘을 사용해 하위 커뮤니티로 분할합니다.

이러한 접근법은 설계 단계에서 마주치지 않았던 새로운 유형의 공격에도 적응할 수 있으며, 저자들의 분석에 따르면 89가지 공격 유형은 단 4개의 그룹으로 나눠서 평가할 수 있다고 합니다.

1. 네트워크 4계층 이상을 대상으로 하는 공격
2. 피해자의 응답이 없는 TCP 공격
3. 피해자의 응답이 있는 TCP 공격
4. 비연결형 공격

해당 솔루션에서 3번, 피해자의 응답이 있는 TCP 공격을 대응하기 위해서는 단 2개의 규칙만 필요하다고 합니다.

 

Doriguzzi-Corin의 연구에서는 데이터 중앙화를 피하면서, 클라이언트의 데이터와 모델을 통합하기 위한 연합 학습 접근법에 대해 다룹니다. 전체적인 연구를 보면 공격을 하나하나 따로 막기보단 비슷한 공격끼리 묶은 뒤, 적은 규칙으로 방어하고 새로운 공격에도 적응하는 것을 다룹니다. 그래프 기반 그룹 분류, 연합 학습, 준지도 학습 등을 다룹니다.

 

대부분의 연구는 특정 공격에 특화되어 있지 않지만, 일부 연구들은 특정한 공격에 특화되어있습니다.

CIC-DDoS2019 데이터셋을 사용하는 논문들은 SYN Flood을 다루고, PoD, BGP, Smurf DDoS 공격에 대해 다룹니다.

 

5-3. Protocol DDoS Attack

RA-DDoS는 반사 및 증폭 공격으로, DNS,NTP와 같은 서비스들과 UDP와 TCP와 같은 전송 프로토콜을 대상으로 수행합니다.

전통적인 RA-DDoS 탐지 및 완화 대책으로 네트워크 구성 매개변수나 대상 서비스를 변경하는 System and Network Hardening 작업을 수행합니다.

최근 연구에서는 현실적인 RA-DDoS 트래픽 데이터를 만드는게 중요하기에 adversarial learning, EAD 등의 기법으로 모델의 성능을 올리거나 일반화 성능을 높이는 방식을 사용합니다.

GAN + GRU 기반 시계열 분석을 이용하는 연구도 있습니다.

탐지 외 완화 대책에 관한 연구도 있는데, 이상 트래픽이 탐지된 시간 구간에서 가장 많은 flow를 받은 IP를 피해자로 보고, 피해자 IP에 트래픽을 보내는 IP를 차단하는 방법이 연구되었습니다.

 

또한 DDoS 탐지에 사용되는 feature 추출 방식이 2가지 있는데,

1. 이미 저장된 flow에서 중요한 feature만 골라 바로 탐지하는 방식

2. 일정 시간동안 모인 packet/flow(time window)를 묶어서  새로운 feature 생성/탐지하는 방식

입니다.

첫번째 방식은 flow가 데이터베이스에 저장되면, 그 중 모델이 필요한 feature만 ㄷ골라서 바로 추론하므로 빠르다는 장점이 있고, 

두번째 방식은 window에 패킷이 쌓여야 하므로 일정 시간 기다려야 하지만, 시간에 따른 공격 패턴 변화를 확인 가능하다는 장점이 있습니다.

 

네트워크 트래픽 모니터링은 시간 의존적이므로 LSTM(순환 신경망 구조)가 성공적으로 사용되었습니다.

sharman은 2가지 접근을 제안했는데,

1. 알려진 공격 Signiture DB와 anomaly-based detector

2. LSTM(장단기 기억 모델) 계층수가 서로 다른 LSTM 기반 네트워크입니다.

해당 방식들은 정상적인 트래픽만 학습한 뒤, 복원 오차가 크면 이상으로 판단하는 방식입니다.

 

5-4. Application-level DDoS Attack

해당 절에서는 애플리케이션 계층 DDoS에 대한 연구 현황과 향후 연구 방향을 제공합니다.

크게 3가지 넓은 유형으로 구분하고, 각각 하위 유형을 가집니다.

HTTP 공격(특히 Flooding), Slow HTTP 공격(Slowloris, R.U.D.Y)의 탐지에 대해 의논한 뒤 Hierarchial DNS server 공격을 다룰 예정입니다.

애플리케이션 DDoS 공격은 피해자의 운영체제, 소프트웨어 스택, 하드웨어 계산 자원을 목표로 하며, 네트워크 인프라도 부담을 받지만, 공격의 주요 대상은 아닙니다.

 

5-4.1. HTTP /2, HTTP/HTTPS flood

HTTP Flood의 요청들은 정상적인 요청이랑 구분이 어렵습니다.

 

Wang의 연구에서는 HTTP Flood를 공격을 다음 2가지 유형으로 나눴습니다.

①Perfect knowledge ② random

perfect knowledge는 공격자가 웹사이트의 구조를 알고 이해하고 있고, 합법 이용자로 모방하는 방법입니다.

random은 웹사이트 구조에 대한 지식 없이 수행하는 공격입니다.

HTTP SoLDiER라는 Solution을 다루는데, 합법 사용자 식별을 위해 요청의 학습 분포를 사용합니다.

공격 중 통계가 오염되는 걸 막기 위해 EWMA라는 보정 알고리즘을 사용합니다.

위 솔루션은 악성 트래픽 탐지율이 Perfect knowledge에 대하여 77.9%, random HTTP Flood에 대하여 99%입니다.

 

위 알고리즘이 정확하게 이해가 안되어서 조금 더 찾아봤습니다.

다음과 같은 네이버 페이지를 생각해 보겠습니다.

만약에 정상적인 사용자라면 naver.com/ -> naver.com/mail -> naver.com/ -> naver.com/cafe 이런식으로 이동할 것입니다.

HTTP SoLDiER은 이런 정상적인 분포를 학습합니다.

만약에 여기서 naver.com/mail -> naver.com/blog/post/ -> naver.com/pay/paylogs 처럼 사이트 구조상 잘 안나오는 요청이나 인기 없는 페이지를 비정상적으로 반복하면 공격 트래픽으로 볼 가능성이 높아집니다.

하지만 이런 솔루션은 단일 페이지 구조와 사용자를 모방에서 공격하는 Perfect knowledge에 대한 방어력이 떨어진다는 단점이 있습니다.

 

anomoly detection을 HTTP Flood 탐색에 활용하는 연구도 있었습니다.

HTTP 요청을 텍스트 문서처럼 보고, URL/리소스 요청 패턴을 단어처럼 분석하여 정상적인 사용자 패턴과 다른 HTTP Flood를 탐지합니다.

 

Sree와 Sreeram의 연구에서는 HTTP Flood 공격지를 찾기 위한 클러스터링 방법으로 Bat Algorithm을 적용한 연구도 존재합니다. 박취가 초음파로 먹이를 찾는 방식을 흉내 낸 알고리즘이고, 이걸 클러스터링에 적용한 방식입니다.

특히 Sree의 연구는 공격원을 찾기 위한 연구로 FCM과 Bat Algorithm을 결합한 fuzzy Bat clustering을 제시하였습니다.

클라우드 서버에서 공격자를 찾는 건데, 

1. 로그를 수집하고
2. 전처리 과정을 거친 뒤
3. 비슷한 패턴을 분석하고 분류한 다음에
4. HTTP Flood 공격원을 찾는 방법입니다.

DDoS 공격을 완화하기 위한 연구도 있었습니다.

DDoS 완화를 ①목적지 level mitigation ②network level mitigation으로 나눕니다.

해당 연구에서는 HTTP Flood 공격을 완화하도록 설계된 아키텍처를 제안하는데, SDN과 웹 서버에 구현된 규칙을 함께 사용합니다. 처음에는 서버 수준에서 공격자를 식별하고, 이후 요청은 웹서버에 도달하기 전 빠르게 처버하므로 공격의 영향을 줄입니다.

하드웨어 구성은 두 개의 OpenFlow 스위치로 이루어지는데, 하나는 공격자와 서버 사이, 다른 하나는 서버 가까이에 배치됩니다.

HDFD라는 SDN 컨트롤러에 연결되고, 서버 수준 탐지 구성 요소가 어떤 요청을 의심스럽다고 분류하면, 연결 정보가 SDN을 ㅗ전달됩니다.

스위치들은 서버 연결을 중단하고, SDN에서 서버 흉내를 내며 유사한 헤더로 응답 해 공격자를 속이고, 만약에 정상 사용자일 경우 연결을 복원합니다.

 

위의 연구는 한국 분들이 쓰신 논문이라 나중에 읽어봐야겠습니다.

https://www.jstage.jst.go.jp/article/transinf/E104.D/9/E104.D_2021EDL8022/_article

HTTP DDoS Flooding Attack Mitigation in Software-Defined Networking

핵심적인 부분은 HTTP 서버에서만 막는 게 아니라, 서버가 공격자를 처음 식별하면 네트워크 앞단에서 차단하여 서버 부하를 줄이는 용도입니다.

 

5-4.2. Low & Slow attacks: R.U.D.Y. and Slowloris

 

R.U.D.Y와 Slowloris는 인터넷이 느린 사용자를 가장하여, 일반적인 요청을 보내는 악성 트래픽입니다.

마찬가지로 정상적인 사용자와 구분이 힘든 부분이 있습니다.

 

Najafabadi는 기본적인 머신러닝 알고리즘을 통한 탐지 연구를 진행하였는데, ISP가 제공해준 SANTA 데이터셋을 화룡하였고, kNN, C4.4D, C4.5N 모델을 ANOVA 분석을 사용해서 비교하였습니다.

 

Vitilii의 연구에서는 시계열 기반 연구 기법을 적용하였는데, 정상사용자의 요청 지연, 패킷 지연, 패턴을 시간 흐름으로 학습한 뒤, 정상&실제 행동과 다르면 의심하는 방식을 이용하였습니다.

여기서 중요한 점은 Slowries 공격은 Flood와 성격이 아예 반대이기 때문에 고려해야하는 parameter가 완전 다릅니다.

(*지연시간, 속도, 시간적 패턴을 주요 사용)

 

Rios는 Slowries 탐지를 위해 FRE 조합형 탐지 방식을 제안하였습니다.

FRE는 FL+RF+ED의 조합입니다. FL은 분류에 RF는 자세한 분석에 ED는 fail-safe 매커니즘으로 3가지 모델 중 2가지 모델의 판단으로 최종 판단을 정합니다.

네트워크 데이터를 직접 수집하였고 9개의 모델들과 비교 분석 하였습니다.

 

5-4.3. DNS server query attacks

 

DNS 서버 공격은 네트워크 인프라를 타겟으로 합니다. root server, top-level 도메인 서버, DNS resolver까지 타겟이 될 수 있습니다. 해당 공격들은 탐지가 매우 어려우며, 관리자나 개발자의 손이 닿지 않는 곳에 위치하기에 궁극적인 공격 타겟이 되기도 합니다.

 

또한 DNS 인프라 자체가 오래되었기에 프로토콜을 바꾸기가 어렵고, 이런 문제들이 DNS 제공자와 기업간의 불화로 이어지기도 합니다. (기업 서비스는 제대로 돌아가는데 DNS 업체쪽에서 문제가 터지는 경우)

기업에서는 DNS 서버 자체를 사설로 구축하는 경우가 있는데 이런 경우 두가지 이점을 가질 수 있습니다.

①test & data 수집 ②기업 상황에 맞는 커스텀 구축

추가로 대부분의 방어 기법들은 DNS와 호환되는 방법들(최적화, 필터링, 부하분산 등)이 연구되었습니다.

 

Lyu의 연구는 계층적 그래프 구조(hierarchical graph structure) 높은 정확도로 공격을 분류합니다.

SDN 스위치에서 트래픽을 복제하기에 네트워크 경계에서 구현 되었습니다.

IP주소, IP 클래스, 발생 구역을 계층적 그래프로 연결해서 공격을 정확하게 탐지하는 방법을 사용합니다.

 

5-5. Detection delays

해당 절에서는 상당히 흥미로운 비판을 담고 있습니다.

Detection delays에 관한 내용을 담았는데, 사실 DDoS 방어에서 제일 중요한 건 탐지 속도라고 말합니다.

하지만 연구 논문들을 보면 탐지 시간에 대해 엄밀하게 비교한 논문이 거의 없고 대부분 논문은 정확도에만 초점을 맞추고 있다고 합니다. 

실제 탐지 시간에 대한 기준도 정확하게 없고, 특정 논문은 초단위, 어떤 논문은 초당 flow 수 등 기준이 안맞아 비교가 어렵다고합니다. 또 대부분의 논문은 정확도가 99% 이상이고 과적합 문제로 이어지는데, 과적합 문제에 대한 부분은 꾸준히 강조하고 있네요.

 

논문 본문 29p Fig 5

오랜만에 보이는 그래프네요..ㅎㅎ 글만 보기가 힘듭니다 ..

논문들에 대해 탐지 시간이 빠른 순서대로 정렬되어 있고, 정확도가 제공된 논문들은 빨간 점 형태로 제공됩니다.

하늘색 그래프는 딥러닝 기반, 초록색은 Shallow learning 기반입니다.

논문 작성자는 대부분의 연구는 정확도가 90% 후반대이고, 큰 차이점이 없으므로, 탐지시간이 빠른 방법이 더 유리할 수 있다고 합니다.

5-6 Existing DDoS detection solutions

현재 사용되는 DDoS 솔루션들을 다룹니다.

상용 솔루션들은 하이브리드 모델이 많이 사용되지만, AI 탐지 방법의 세부 구현은 비공개입니다.

 

Netscout Arbot는 클라우드 및 온프레미스 구현을 제공하고, Volumetric attack을 완화하도록 설계되었습니다. 온프레미스 플랫폼은 대규모 DDoS 공격으로 자체적으로 감당하기 어려운 경우 클라우드 기반 플랫폼과 협력할 수 있는 기능을 가집니다.

Cloudflare는 웹사이트, 네트워크 보호 및 DDoS 완화를 통합하여 제공하며 확장성을 보장합니다.

AWS shield는 AWS에서 실행되는 애플리케이션을 보호하며, AWS 서비스들과 매끄럽게 통합됩니다.

Gatekeeper는 지리적으로 분산된 아키텍처와 중앙집중식 네트워크 트래픽 관리 정책을 갖춘 확장 가능한 설계를 제공하는 오픈소스 소프트웨어입니다.

FastNetMon은 NetFlow, sFlow, SPAN과 같은 프로토콜을 분석할 수 있습니다.

 

6. AI Generated DDoS traffic

여태껏 논문에서 가장 중요한 키워드 중 하나는 데이터 과적합입니다.  DDoS 탐지 관련된 AI는 공격 / 정상 데이터가 필요한데, 실제 데이터를 모으기가 어려워서 가짜 데이터를 생성해서 사용하는 연구도 있습니다(GAN, VAE)

 

침입탐지시스템(IDS)와 DDos 탐지 도구의 정확성을 높이기 위해 autoencoder를 사용합니다. 주로 잡음이 있거나 불완전한 데이터에서 노이즈를 제거해서 판별 할 수 있도록 사용합니다.

 

Hashemi는 잡음 제거를 위해서 denoising autoencoder를 사용하였고, REPO와 REPO+아키텍처를 연구해서 탐지 정확도가 최대 45% 증가한 연구 결과를 제시하였습니다.

Saka는 TVAE를 이용하여 트래픽 샘플을 생성하였습니다. TVAE는 실제 트래픽과 비슷한 합성 데이터를 새로 만들어 모델의 학습에 사용하는 방식입니다. 결과적으로 봤을 때 TVAE 합성 데이터는 실제 분포를 잘 따라 했지만, 분류 정확도는 GAN 기반보다 낮았다고 합니다.

 

autoencoder 기반 방법들은 생성된 데이터의 품질을 개선하는데 초점을 맞추는 반면, GAN 기반 데이터들은 모델의 견고성을 향상시키는 데이터를 생성하는데 초점을 맞췄습니다.

그 중 대표적인게  CTGAN과 CopulaGAN이 있습니다.

CTGAN은 조건을 주고 데이터를 생성합니다 (*ex. UDP Flood 유형 공격을 만들어줘 등 )

CopulaGAN은 변수들 사이의 관계를 더 유지하려는 방식입니다(각 네트워크 데이터의 feature은 독립적이지 않음. 예를 들어 protocol=UDP인 경우 TCP flag값은 의미 x) 그래서 feature간 관계를 유지하면서 실제로 데이터와 비슷한 합성 데이터를 맞추는데 초점을 가졌습니다.

 

GAN의 초기 적용 사례인 SDN-GAN은 고전적인 GAN을 넘어 침입 탐지기라는 새로운 개념을 포함하였습니다.

GAN을 사용해서 트래픽을 생성한 이후, 탐지율은 최저 7%까지 떨어졌다고 합니다.

Abdelaty는 WGAN-GP를 사용하였는데 WGAP-GP를 사용하여 정상 트래픽의 feature 분포를 학습하고, 그 분포를 따르는 합성 트래픽을 만들었습니다. 그리고 정상 트래픽의 일부 feature를 생성된 feature로 바꿔서 학습 데이터를 다양화 했고, 결과적으로 탐지 모델의 f1 score가 0.32 증가하였습니다.

논문 32p의 Fig 6

GAN으로 합성 트래픽을 만들고 IDS탐지 모델을 학습/평가하는 전체적인 흐름입니다.

Tabular 데이터(표 형식)가 먼저 Generative Module로 들어가면 안에서 전통적인 GAN 구조인 generator와 discriminator가 들어갑니다.

여기서 generator는 가짜 트래픽을 만들고, Discriminator은 만들어진 트래픽이 진자인지 가짜인지 구분합니다. 그 후 Perturbation Module에 들어가는데 여기서 변환을 하거나, feature 일부를 교체해서 적대적인 sample을 생성합니다.

이렇게 만들어진 데이터는 Augmented Dataset이 되고 이를 다시 Detection Module에 넣습니다.

이후 이게 DDoS인지 탐지하는 방식을 통해서 IDS가 더 강해질 수 있도록 데이터셋을 보강합니다.

(Discriminator는 Generator에게 feedback을 주어서 더 현실적인 가짜 data를 만들도록 합니다)

 

6.1 Adversarial training for DDoS detection

Adversarial training은 학습 지점에서 신경망을 적대적으로 변형된 데이터에 노출시켜서 모델의 견고성을 높이는 방법입니다.

크게 두가지 방법으로 이루어지는데, dynamic adversarial training과 static adversarial training입니다.

 

먼저 Zhang의 연구에서 볼 수 있는 dynamic adversarial training입니다. 

해당 연구에서는 Tiki-Taka라고 불리는, IDS를 위한 딥러닝 기반 방어 메커니즘을 제안합니다.

기존의 방어방법에 대한 개선 방법을 3가지 제시하는데,

1. model voting ensembling : 여러 분류기의 성능을 결합하여, 공격이 시스템을 들키지 않고 통과할 확률을 줄인다.
2. ensemble adversarial training : 데이터셋을 적대적 예제로 지속적으로 확장하고, 모델들을 다시 학습시킴
3. query detection : 공격이 탐지될 경우 공격자의 IP 주소를 차단함으로써 또 다른 보안 계층을 추가한다.

위의 3가지 방법은 평가에서 더 효율적이며 탐지 정확도가 거의 100%까지 증가했음을 보여줍니다.

 

Nugraha의 연구에서는 static adversarial training을 볼 수 있습니다.

앞의 dynamic adversarial training은 학습 과정 중에 계속 적대적 샘플을 만들고 추가하면서 모델을 갱신하는 방식이었고, static 방식에서는 학습 전에 미리 적대적 샘플을 만들어 놓고, 학습 데이터에 섞어서 학습하는 방식입니다.

Nugraha의 연구에서는 기존 데이터 중 80,000개를 adversarial data로 대체한 경우 99%까지 정확도가 회복했다고 합니다.

 

6.2 Adversarial examples and attacks

트래픽 양이 증가함에 따라 SVM, DT, Bayesian network와 같은 알고리즘은 학습과 테스트에서 효율성이 떨어집니다.

현재 네트워크 IDS 아키텍처는 딥러닝 방식을 선호하는데, 딥러닝이 대량의 데이터로부터 특정한 추상적 표현을 학습함으로써, 네트워크 내 트래픽을 정밀하게 분류할 수 있는 능력을 가지기 때문입니다.

하지만, 머신러닝 알고리즘은 적대적 예제에 취약하고, 많은 모델이 비슷한 데이터셋에서 학습되기 때문에, feature의 변화에 알고리즘 일반화에 실패할 수 있습니다.

침입 탐지 시스템의 속성이 알려지지 않은 black-box 상황에서도, 공격자는 트래픽의 feature 부분 집합을 반복적으로 변경함으로써 적대적 예제를 생성할 수 있습니다. (ex. 연속된 패킷 사이의 간격을 조금씩 바꿈)

 

Peng은 트래픽 feature을 교란하여 적대적 DoS 데이터를 생성하는 공격 방법을 제안하였고, 80.77%의 합성 데이터 성공률을 달성했습니다.

Peng은 합성 적댖거 데이터를 사용하여 IDS의 취약성을 강조한 반면, Huang은 LSTM 기반 모델에 적용 가능한 2가지 적대적 데이터 생성 방법을 제안하였습니다.

①GA 기법 : 유전 알고리즘을 사용하여 원본 데이터로부터 파생된 데이터를 점진적으로 DDoS 적대적 공격으로 진화시키는 방법

②PWPSA : 미리 정의된 함수 기반으로 분류에 영향을 미치는 위치와 패킷을 결정합니다.

전반적으로 GA가 더 결과가 더 좋고 선호도가 높지만 PWPSA는 계산적으로 더 효율적입니다.

 

AI기반 DDoS탐지 시스템을 학습시키는데 어려움 중 하나는 트래픽에 존재하는 클래스 불균형입니다. 실제 환경에서는 정상 트래픽이 공격 샘플보다 훨씬 많으며, 이는 머신 러닝 모델이 다수 클래스 쪽으로 편향되게 만들 수 있습니다. 이를 해결하기 위해 여러 데이터 증강 기법이 제시되었는데, SMOTE와 ADASYN이 있습니다. 

SMOTE는 기존 공격 샘플들 사이의 중간 지점을 만들어서 새로운 공격 샘플처럼 사용하는 방식이고,

ADASYN은 SMOTE의 확장으로, feature space에서 드물게 표현되는 (데이터가 부족한 영역)에 더 집중해서 샘플을 생성합니다.

 

추가로 GAN 공격에 취약한 LSTM 탐지기를 보완하기 위한 연구도 진행되었는데, Mustapha는 LSTM에 적대적 트래픽 탐지 모델을 하나 더 붙인 구조를 제안하였습니다.

Shroff는 WGAN-GP로 정상 트래픽과 DDoS 트래픽을 생성하고, 그 데이터로 분류기 성능을 평가 및 5-layer deep network로 GAN 생성 DDoS를 탐지하였습니다.

 

최근 연구들에서는 IDS에 사용되는 머신러닝 모델들이 탐지를 회피하기 위해 입력 feature를 조작하는 적대적 공격에 취약하다는 것을 보여주었습니다.

DDoS탐지 맥락에서 공격자는 정상 트래픽과 유사한 악성 트래픽 flow를 만들수 있습니다.

이런 적대적 공격은 feature을 수정하고 트래픽 기능을 유지하는 FGSM과 JSMA와 같은 gradient 기반 perturbation이 포함됩니다. 이를 방어하기 위한 대응 방법으로는 아래 3가지가 있습니다.

1. Adversarial training : 적대적 샘플을 학습 데이터에 넣어서 변형 공격도 배우게 함
2. Ensemble learning : 여러 모델을 함께 사용하여, 하나의 모델만 속이는 공격에 덜 취약하게 함
3. Dimensionality reduction : 불안정한 feature을 줄이고, 중요한 feature 중심으로 학습하게 함

마지막 문단에서 저자는 Adversarial attack에 대한 비판을 담고 있습니다. 

FGSM과 JSMA 같은 feature-level 공격이 이론적으로는 IDS를 속일 수 있지만 실제 네트워크 트래픽으로써의 현실성이 부족하고, KDDcup99와 같은 데이터셋은 너무 오래되었습니다. 그리고 black-box 방식은 내부를 모르고 입력을 바꿔가며 반응만 보는 방식이라, 실제 네트워크 트래픽에서는 복잡성이 높아 어렵다는 비판을 담았습니다.

 

7. AI Generated Mitigations

앞서 언급하였든 DDoS 공격은 방어뿐 아니라 빠른 완화 대책이 중요합니다. 이전에는 차단 목록을 작성하고 효율적인 방화벽 정책을 작성하는 데 초점을 두었지만, 최근에는 DT나 LLM을 통해서 rule을 자동으로 생성하려는 시도가 있습니다.

 

초기의 AI 기반 DDoS 완화는 강화학습(RL) 또는 딥 강화학습(DRL)에 기반했습니다. 

초기 연구가 2가지가 있는데 첫번째 연구는 특정 호스트나 플로우에 대해 패킷을 얼마나 drop할 지, drop probability p를 RL이 결정하게 하는 방식입니다.

두번째 연구는, 애플리케이션 요청에 대해 처리할지, 늦출지, 일부만 처리할지 이런 처리를 RL이 고르게 한 방식입니다.

 

이러한 RL기반 완화는 모바일/MEC와 IoT 환경에서도 적용됩니다.

FAST는 MEC 기지국(Multi-access Edge Computing)에서 DDoS 공격을 완화하는 데 사용되었습니다.

IoT 네트워크는 MD-RL이 DDoS 공격을 완화하는데 사용되었고, 이 방법은 AODV를 사용하여 네트워크의 악성 노드를 회피하고 격리합니다. 해당 맥락에서 패킷이나 flow를 drop한다는 뜻이 아니라, 대체 경로를 라우팅한다는 뜻입니다.

 

DRL 기반의 최신 연구들은 실시간 완화 구축과 정교한 학습 모델 활용에 초점을 맞춥니다.

RL-ARL은 탐지된 DDoS 기법의 심각도에 기반하여 트래픽의 rate limit을 실시간으로 동적 조정하여 공격의 영향을 완화합니다.

DosSink 모델은 VAE와 actor-critic DRL을 이용하여 탐지와 완화를 통합하였고, 탐지 메커니즘인 VAE(Variational Autoencoder)에서 flow마다 위험도 점수를 계산하면 actor-critic DRL이 어떤 대응을 할지 고릅니다.

 

또한 LLM을 사용하여 DRL 기반 방식의 한계를 극복하려는 연구도 최근에 일어나고 있습니다

Louro는 기존 LLM을 사용하여 DDoS 완화 작업을 해결하는 작업을 수행하였는데(AI가 snor와 iptables 규칙 생성), 기존 오픈 소스 모델인 Mistral과 LLaMA를 LoRA와 PEFT기법으로 finetuning했을 때 개선이 나타났다고 합니다.

비슷하게 ShieldGPT는 iptables 규칙을 프롬프트 템플릿으로 생성하기 위해 GPT를 fine-tuning했습니다.

 

drLLM은 fine-tuning 을 피하고 CoD(출력 형식 형식화)와 Zero-shot CoT과 같은 기법을 사용한 연구를 진행하였고, gpt, LLaMA, Qwen2, Deepseek와 같은 상용 기본 모델에서도 성공적임을 입증했습니다.

drLLM은 오직 DDoS 탐지만 사용하지만 해당 접근법은 완화 작업으로도 확장 가능합니다.

 

LLM을 보안 담당자를 위한 보조 도구로 사용하려는 연구도 있습니다. ShieldGPT에서 저자들은 담당자에게 설명 제공을 위한 하위 작업인 explanation prompt template을 설계하였습니다.

Paduraru는 fine-tuned LLaMA 모델 기반의 CyberGuardian을 제시하였습니다.

 

DDoS 공격에 대한 AI 생성 완화 방법을 학습하는데 인기 있는 머신러닝 기법은 Decision Tree(DT)입니다.

해당 모델은 해성 가능성이 높아 투명한 판단 결과를 제공하고, 그 결과를 and/or 연산에 기반한 논리 규칙으로 변환이 쉽습니다. 또한 학습 속도가 매우 빠르다는 장점이 있습니다.

논문 필자는 DDoS에 대한 AI 완화 기법은 최근에야 연구되기 시작하였기에 관련 문헌이 많지 않다고 합니다. DDoS 공격 자체가 AI 기법에 의해 강화되고 있기에 몇 년 동안 추가적인 발전이 필요하다고 말합니다.

 

또한 제안된 해결책들에 대한 평가 지표들이 필요합니다. 총 4가지의 지표를 제시합니다.

① TTM : 탐지 후 실제 차단 규칙이 적용되기까지 걸리는 시간

② CD : 차단 규칙때문에 막혀버린 정상 트래픽 비율

③ RC : 규칙이 얼마나 복잡한지를 나타내는 지표

④ RAT : 차단 규칙을 적용했는데도 피해자에게 도달하는 공격 트래픽 비율

 

당연히 AI 기반 완화 기법들은 그 자체의 단점과 위험도 수반합니다.

지나치게 강하거나, 약한 규칙으로 스스로 서비스 중단을 일으키거나, detection pipeline에서 처리시간이 증가하거나, 모델이 잘못된 판단을 내릴 수 있습니다.

 

8. Ethical Considerations and Societal Impact

해당 파트는 간략하게만 다루겠습니다.

1. Adversarial 기법은 공격에도 사용될 수 있으므로, 윤리적 통제와 정책이 필요하다.
2. AI기반 DDoS 탐지의 오탐이 정상 사용자를 차단하는 공정성 문제로 이어질 수 있습니다.
3. 기록되거나 실시간으로 분석되는 실제 트래픽은 어떻게 전처리되고 저장되는지에 따라 개인정보 관련 영향을 가질 수 있습니다.
4. AI 생성 완화 규칙의 안정성이 높지 않기 때문에 LLM이 만든 방화벽 규칙을 그대로 신뢰하면 안됩니다.
   (*중요한 작업일수록 사람의 확인을 거쳐야 함)

9. Conclusions and Future Research

결론 및 향후 연구 과제입니다. 이것도 요약해서 핵심만 리스트 형식으로 적겠습니다.

 

1. Cross-dataset testing: 데이터셋이 많이 부족하고 과적합 된 경우가 있기에, 데이터셋에 대한 교차검증이 필요합니다. 최신 연구에서는 모델 학습에 사용된 데이터셋 외의 데이터셋 사용시 정확도가 5%-10% 하락한다는 연구가 있습니다.
2. Anti-DDoS tailored algorithms : DDoS 맞춤형 알고리즘이 부족, 현재 연구들은 기존 ML/DL 연구 알고리즘을 DDoS 데이터에 적용한 경우가 많고, DDoS는 트래픽 폭증, 시간 패턴 등 중요한 특성들이 있으므로, DDoS 특성에 맞춘 알고리즘 연구가 필요합니다
3. Hybrid models for improved detection : DDoS 공격 유형마다 탐지 방법을 다르게 섞어쓰는 연구가 필요합니다.. volumetric attack은 트래픽 양이 중요한 feature이므로, 복잡한 딥러닝보다 Z-score, EWMA와 같은 통계 기반 탐지가 효율적이고, 다른 공격들은 또 그에 맞는 feature을 추출해서 보는 방식입니다. hard scoring은 여러 탐지기 중 일정 개수 이상이 공격이라고 판단하면 공격으로 보는 방식이고, soft scoring은 각 탐지기의 위험 점수를 합산하거나 가중 평균해서 최종 판단하는 방식입니다.
4. Dynamic data format adaptation : DDoS 공격 대역폭은 다양하고, 일반적인 공격 형태는 작게 시작해서 점점 커지는 형태입니다(봇들의 활성화 및 reflection과 amplification) 현재 연구된 문헌 중에는 이러한 점진적 증가를 어떻게 처리할지, 트래픽 데이터 저장과 처리가 탐지 및 완화에 어떤 영향을 미치는지 다루지 않습니다. 예를 들어 10Gbps의 공격에서 트래픽에 대한 raw data나 flow를 저장하는건 불가능한 작업일 수 있습니다. 이럴 때 공격 규모가 1Gbps이전일댄 raw data를 저장하고, 2Gbps까지는 flow로 저장하고, 그 이후에는 IP Class수준으로 저장하는 등 규모에 따른 방어 시스템을 동적으로 저장해야 한다는 내용입니다. 
5. Detection and mitigation time for algorithm quality assessment : DDoS 공격을 초기에 포착하는 것은 피해 인프라가 계속 동작하도록 할 때 매우 중요합니다. 그럼에도 불구하고 대부분의 논문들은 탐지 시간&완화 시간이 아닌 정확도, F1 스코어 같은 표준 지표만 제공합니다. 완화 관련해서는 DDoS 상황에서 정상 인프라가 어떻게 동작하는지, 그리고 정상 트래픽 처리량이 얼마나 잘 처리되는지(TTM,CD,RC,RAT)와 같은 지표를 중요하게 봐야 합니다.
6. Fuzzy detection : 대부분의 AI 해결책은 트래픽을 정상과 공격 2개의 클래스로 나눕니다. 서비스 가용성을 최대화하기 위해서는 탐지 임계값을 동적으로 조정할 수 있습니다.
   (*예를들어, 서버 부하가 낮을때는 임계값을 낮춰서 false postive를 낮추고, 서버 부하가 높을때는 임계값을 높이는 방식)
7.  Comprehensive DDoS dataset : 더 현실적인 데이터 셋이 필요합니다. 단순 DDoS  공격 유형이 아닌 현실적인 게임, 메세지 서비스, P2P 교환, 블록체인 등과 같은 특이한 정상 트래픽까지 포함하는 전용 데이터셋이 필요하고, 모든 트래픽에 대한 라벨링, 현재 처리량, reflection 및 amplification에 대한 주석도 필요합니다. 또 트래픽 종류 뿐 아니라 다양한 대역폭 형태가 필요한데, 100Mbps에서 10Gbps까지 증가하는 형태, 30분동안 5Gps를 유지하는 형태 등이 필요합니다.
8. Adversarial training : 적대적 훈련을 DDoS 탐지 모델의 일반화 성능을 높이는데 쓸 필요가 있습니다.
9. Robustness aganst adversarial traffic : 적대적인 공격자의 트래픽 조작에 대해 견고해지도록 개선하는데 초점을 맞춰야 합니다. 현재 평가 프로토콜은 정적인 데이터셋에 의존하고, 탐지를 회피하기 위해 트래픽을 조작하는 적응형 공격자을 고려하지 않습니다. AI 기반 DDoS 탐지 모델을 우회하기 위해 시도하는 공격들에 대한 견고성을 확보해야 합니다.
10. Explainable AI : 아직 충분히 연구되지 않은 주제는 설명 가능한 AI 방법의 개발입니다. DDoS 탐지 모델이 왜 공격이라고 판단했는지 설명할 수 있는 능력이 필요합니다.
11. AI mitigation : AI가 생성하는 방화벽 규칙은 초기 연구 주제입니다. 이것이 더 개선되어야 하고, 알고리즘이 단순히 새 방화벽 규칙을 삽입하는 것이 아닌 기존 규칙을 업데이트하거나 병합하고 제거하는 것도 고려해야합니다. 최근 몇몇 연구는 DDoS 공격 탐지 후 LLM을 사용하여 완화 규칙을 자동 생성하는 방법을 연구했습니다. 이러한 접근법은 프롬프트 설계에 크게 의존하는데 CoT와 CoD 프롬프팅이 유효한 전략으로 여겨집니다.

까지해서 진짜진짜로 끝입니다.

제 블로그 인생에서 가장 긴 글 중 하나였네요.

후기를 마지막에 쓰려고 했는데, 아무도 맨 밑까지 안읽을 것 같아서, 맨 위로 올리겠습니다.

혹시 이 글을 끝까지 읽으셨다면 댓글 한번 부탁드립니다....

 

읽어주셔서 너무 감사드립니다.!