search
Contact Us
HOME

  • Crossref logo
  • Crossref Similarity Check logo
Journal Search Engine

to

Search Advanced Search Adode Reader(link)
Download PDF Export Citaion korean bibliography PMC previewer
ISSN : 2005-0461(Print)
ISSN : 2287-7975(Online)
Journal of Society of Korea Industrial and Systems Engineering Vol.48 No.2 pp.155-162
DOI : https://doi.org/10.11627/jksie.2025.48.2.155

Development and Model Compression of CNN-LSTM-Autoencoder Model for Anomaly Detection of UAVs

Sangil Lee†, Hanseob Lee, Dong-Gil Na, Yeong-Woong Yu, Hoon Jung
Digital Convergence Research Laboratory, Air Mobility Research Division, Postal & Logistics Technology Research Center, Electronics and Telecommunications Research Institute
†Corresponding Author : lscall@etri.re.kr
04/06/2025 12/06/2025 12/06/2025

Abstract


Anomaly detection technique for the Unmanned Aerial Vehicles (UAVs) is one of the important techniques for ensuring airframe stability. There have been many researches on anomaly detection techniques using deep learning. However, most of research on the anomaly detection techniques are not consider the limited computational processing power and available energy of UAVs. Deep learning model convert to the model compression has significant advantages in terms of computational and energy efficiency for machine learning and deep learning. Therefore, this paper suggests a real-time anomaly detection model for the UAVs, achieved through model compression. The suggested anomaly detection model has three main layers which are a convolutional neural network (CNN) layer, a long short-term memory model (LSTM) layer, and an autoencoder (AE) layer. The suggested anomaly detection model undergoes model compression to increase computational efficiency. The model compression has same level of accuracy to that of the original model while reducing computational processing time of the UAVs. The proposed model can increase the stability of UAVs from a software perspective and is expected to contribute to improving UAVs efficiency through increased available computational capacity from a hardware perspective.


UAVs(Unmanned Aerial Vehicles) , CNN-LSTM-Autoencoder , Anomaly Detection , Model Compression , Energy Efficiency

무인항공기 이상탐지를 위한 CNN-LSTM-Autoencoder 모델 개발 및 경량화

이상일†, 이한섭, 나동길, 유영웅, 정 훈
한국전자통신연구원 디지털융합연구소 에어모빌리티연구본부 우정․물류기술연구센터

초록

    1. Introduction

    무인항공기(Unmanned Aerial Vehicles; UAVs) 시장과 기 술발전은 매년 성장하고 있으며 AI의 발전에 힘입어 Beyond Visual Line of Sight(BVLOS), Swarm drone, Lidar와 다중센 서 융합을 통한 항법 시스템, 충돌회피 등 많은 기술적 발전 을 이루어왔다[20, 25, 26]. 특히, 충돌회피, 실시간 의사결정, 군집비행, 항법 시스템 등을 활용한 무인항공기의 자율비행, 실시간 경로최적화 기술 등이 무인항공기 발전의 중심에 있다고 해도 과언이 아니다[17]. 하지만, 무인항공기의 적용 분야와 범위가 증가함에 따라 다양한 형태의 환경적·기술적 도전에 직면하고 있으며 그에 따른 크고 작은 사고들이 발생하고 있다[25]. 이러한 맥락에서 무인항공기의 안정성 과 신뢰성을 확보하기 위한 요구가 증가하고 있다. 그에 반해 2013년부터 2024년까지 무인항공기와 Artificial Intelligence(AI)를 키워드로 하는 AI 및 항공분야의 총 논문 은 약 4,118편인데 비하여 동일한 기간동안 무인항공기와 이상탐지에 관한 논문의 수는 약 108편으로 전체 논문 중 약 2.6%에 불과하다[25]. 무인항공기의 이상탐지 기술 관련 연구의 부족의 주요 원인은 AI와 Machine learning(ML) 같은 기술 중심의 연구임에 반해 다양한 센서 데이터 및 실제 비행 데이터 확보의 어려움과 지속적으로 변하는 시계열 데이터에 영향을 주는 외부환경 요소(바람, 위치, 속도 등)로 인한 노이즈 증가, 그리고 무인항공기의 이륙, 순항, 호버링, 하강, 착륙 등 단계별 특성을 모두 반영해야 되는 어려움 등이라고 할 수 있다. 또한, 다양한 형태의 무인항공기 운용 기술에 무인항공기의 연산능력과 배터리 가용량을 할당하 고 있기 때문에 상대적으로 이상탐지 기술에 대한 가용 리소스의 한계로 인하여 실제 적용가능한 연구가 부족한 실정이다. 하지만, 무인항공기의 광범위한 보급과 하드웨어 에 대한 연구 및 기술, 시험 비행 누적으로 인한 데이터 확보, 다양한 형태의 무인항공기 시뮬레이터를 통한 비행 데이터 확보를 통해서 데이터 부족으로 인한 문제점은 어느 정도 해소가 되었다고 할 수 있다. 하지만, 무인항공기의 제한된 연산처리능력과 가용 에너지량은 최신의 딥러닝 기 법을 활용한 이상탐지 기술을 100% 활용하지 못하거나, 실시간 이상탐지를 어렵게 하는 제약사항이 되고 있다.

    따라서, 본 논문에서는 무인항공기의 이상탐지모델과 경량화된 모델을 제안한다. 제안된 이상탐지 모델은 데이 터의 특징 추출을 위한 CNN 계층과 데이터의 시계열 처 리를 위한 LSTM 계층, 마지막으로 이상탐지를 위한 Autoencoder(AE)층으로 구성되어 있다. 제안된 이상탐지 모델은 무인항공기에서 가용 에너지량과 연산처리능력 소 모 최소화를 위해서 모델의 경량화를 수행한다. 경량화된 이상탐지 모델은 기존의 모델과 동일한 수준의 정확성을 가지고 있으면서 모델 자체의 연산량을 줄이며, 연산처리 시간의 감소를 통하여 무인항공기의 연산효율성과 에너지 가용량 효율성을 높일 수 있다.

    본 논문에서 제안한 경량화된 이상탐지 모델은 일반모델 대비 추론시간은 99.92%, 모델 크기는 36.0%, 메모리 사용량 은 34.38% 감소하였으나 모델 자체의 정확도는 동일한 수준 을 유지하였다. 본 논문에서 제안한 경량화된 이상탐지 모델 을 활용하여 가용연산능력과 에너지 효율성 증가를 통한 무인항공기 효율성 향상에 도움이 될 것으로 기대한다.

    2. Literature Review

    2.1 Anomaly detection

    이상탐지(Anomaly detection)란 데이터 또는 행동 패턴 을 분석하여 정상 상태와 다른 잠재적인 이상상태를 데이 터로 식별하는 것을 의미한다[23]. 따라서, 이상탐지는 일 반적으로 데이터의 이상치 또는 데이터의 패턴에서 정상 과 비정상을 구분하게 된다. 비슷한 개념 중에 결함탐지 (Fault detection)는 시스템 또는 장치 내부의 결함을 식별 하고 탐지하는 것이며 주로 센서 데이터나 운용 시 발생하 는 데이터를 분석하여 결함 패턴을 찾는 것을 목표로 한다 [21]. 따라서, 이상탐지 또는 결함탐지 기법은 일반적으로 정상상태의 데이터를 분석하여 정상상태 데이터에 대한 임계점(Threshold)을 구한 뒤 임계점을 통하여 정상과 이 상을 판단한다[3, 21]. 이상치 탐지에는 주로 K-means[3], K-nearest neighbors[1], Kalman filter[8], Bayesian networks[18], Random forest[13], Mahalanobis distance[11], Support vector machine[15] 등과 같은 통계기법을 기반으 로 하여 머신러닝을 활용하여 임계점을 판단하는 방법론 이 주로 쓰이고 있다. 하지만, 무인항공기의 데이터가 높 은 비선형성, 복잡성, 동적성을 가지고 있기 때문에 이를 처리하는데 보다 효율적인 CNN, LSTM, AE 등과 같은 딥 러닝 모델을 활용해서 데이터의 이상상태를 판별하는 연 구가 활발히 진행 중이다[2, 4, 7, 12, 14, 19]. 딥러닝을 활 용한 무인항공기의 이상탐지는 종단 간 학습(End-to-end learning)을 통해서 데이터의 특성공학(Feature engineering) 에 대한 의존도를 줄일 수 있으며 데이터 패턴 탐지에 보다 유연하게 접근이 가능하도록 하여 다양한 형태의 이 상탐지도 가능하도록 한다.

    2.2 Model compression

    딥러닝 모델 경량화(Model compression)는 프루닝 (Pruning), 저차원분해(Low-rank decomposition), 지식 증류 (Knowledge distillation) 등과 같은 다양한 압축방법을 사용 하고 있으며 모델 경량화를 통해서 대규모 모델의 효율적 인 배포가 가능한 장점을 가지고 있다[10]. 딥러닝 모델의 압축기법은 네트워크 프루닝, 희소 표현, 비트 정밀도, 지 식 증류 등의 대표적인 압축방법으로 사용되고 있으며 이 를 통하여 IoT, 엣지 컴퓨팅(Edge computing) 등과 같은 자원 제약적인 환경에서 딥러닝 모델의 배포와 활용에 많 은 도움을 주고 있다[16]. Ren et al.[22]은 노드의 연관성 트리를 사용하여 노드간 구조적 관계 파악을 통해 프루닝 을 수행하며 트리 수준 평가 방법을 도입해서 프루닝 성능 을 향상시켰다. Denton et al.[5]은 CNN 필터의 필요계산량 을 줄이고 근사치를 도출하여 합성곱 레이어의 속도를 2배 높이고 정확도의 손실을 1% 이내로 유지하는 방법론을 제 안하였다. Han et al.[9]은 신경망 구조에서 중요하지 않은 연결을 제거하고 남은 연결의 가중치를 미세 조정하는 방 법론 제안하여 이미지 데이터 셋을 활용한 AlexNet, VGG-16과 같은 딥러닝 모델에서 정확도의 손실없이 파라 미터의 수를 90% 가까이 줄였다. Francy and Singh[6]는 구조적/비구조적 프루닝 방법을 활용하여 모델의 크기를 줄이면서 정확도의 손실을 최소화하고자 하였으며, 구조적 프루닝 기법을 ConvNeXt 모델에 적용하여 정확도 손실 없 이 최대 75%로 모델 크기를 감소시켰다. Wang et al.[6]는 유니버셜 프루닝 파이프라인을 구축하고 그룹의 수준별 중 요도를 추정하여 모델의 크기를 60% 감소시키면서 정확도 의 손실은 0.9% 미만으로 달성하였다. 또한 그래프 최적화 를 통하여 중복노드제거, 데이터 형식변환 등을 통하여 연 산 효율성을 최소 15%에서 70%까지 올릴 수 있는 다양한 방법들이 제안되고 있다[24].

    3. Anomaly Detection Model for Power Unit of UAVs

    3.1 CNN-LSTM-AE model for anomaly detection

    본 논문에서 제안한 이상탐지모델은 CNN-LSTM-AE을 기반으로 설계 및 구현을 진행하였다. 무인항공기 이상탐 지는 다양하고 보다 정밀한 방법론이 다수 존재하지만 방 법론 선정을 위해서 몇 가지 사항을 고려하였다.

    첫 번째는 데이터의 획득과정과 데이터 획득 시 데이터 클래스 분류에 대한 사항으로 한 번의 비행으로 정상 비행 데이터와 비정상 비행데이터를 모두 획득이 가능한지 여 부와 만약 데이터 획득이 가능하다면 Data annotation이 완 벽하게 가능한지를 살펴보는 것이다. 정상/비정상 비행데 이터의 동시 획득과 Annotation이 가능하다면 Support Vector Classifier(SVC), Random Forest, K-nearest Neighbor (KNN), Decision Tree, XGBoost, Deep Neural Network (DNN) 등과 같은 지도학습기반의 방법론을 적용할 수 있 어 상대적으로 높은 정확도를 가지는 모델을 만들 수 있 다. 두 번째는 Multi class로 전환과 데이터 전처리 최소화 이다. 하나의 이상탐지 모델에서 Multi class를 지원하거나 적용이 가능하고 최소화된 하나의 데이터 전처리 모듈을 활용해야 연산능력과 에너지 소모량을 효율적으로 관리할 수 있다. 마지막 고려사항은 시계열성 반영과 실시간 탐지 가능성이다. 무인항공기의 특성상 이상탐지 결과는 즉각 적이고 정확하게 도출되어야 한다.

    언급한 고려사항 중 데이터 획득과 Data annotation은 충 족하는 조건을 찾기 힘들기 때문에 K-means, Deep belief network, Autoencoder, Self-classifier, Semantic Clustering by Adopting Nearest neighbor(SCAN) 등의 비지도학습 또는 자가학습 기반의 방법론을 선택해야 한다. Multi class와 데이터 전처리 과정 최소화는 무인항공기 내부의 한정적인 리소스 가용능력을 고려해야 하기 때문에 데이터의 특징 분류를 모델에서 수행할 수 있거나 계산 복잡도가 낮은 모델을 활용해야 한다. 마지막 고려사항인 시계열 데이터와 실시간 탐지 가능성은 무인항공기의 시계열 시그널 데이터 를 통한 실시간 탐지가 가능한 모델을 활용해야 한다. 위의 고려사항을 종합해보면, 비지도학습기반의 모델 자체에서 Feature extraction이 가능한 시계열 모델이 되어야 한다. 따 라서, 본 논문에서는 이러한 조건에 모두 부합하는 CNN-LSTM-AE를 활용하여 이상탐지 모델을 설계 및 구현 하였다.

    CNN-LSTM-AE를 활용한 이상탐지 모델의 구조는 <Figure 1>과 같이, Inputs → CNN(Conv1D) → Dropout → LSTM encoder → Dense → RepeatVector → LSTM decoder→ TimeDistributed로 구성되어 있다. CNN 레이어는 1D CNN 레이어이며 무인항공기의 시그널 데이터에 Time window를 적용하고 Convolution kernel을 통해서 각 채널 의 지역적인 Feature mapping을 수행할 수 있도록 하였다. Dropout 레이어는 과적합을 방지하기 위한 것으로 특정 패턴에 강한 의존성을 제거하여 다양한 패턴을 학습할 수 있도록 유도할 수 있도록 하였다. LSTM encoder 레이어는 1D CNN 레이어의 시계열 특징 패턴에서 장기의존성 학 습을 수행함과 동시에 잠재벡터(Latent Vector)로 차원을 축 소하여 무인항공기의 비행데이터를 인코딩하게 된다. Dense bottleneck 레이어는 LSTM encoder 레이어의 출력 을 새롭게 조합하여 요약된 패턴을 생성하며 RepeatVector 레이어는 LSTM decoder가 처리가능한 형태의 텐서를 출 력하게 된다. LSTM decoder 레이어는 Repeat Vector의 텐 서를 받아 출력 데이터를 생성한다. 생성된 출력데이터는 Time distributed 레이어를 통하여 시계열 데이터의 각 시 점에 대한 출력 값을 매핑하고 생성하게 된다. 최종적으로 생성된 출력 값은 재구성 오차(Reconstructions error)와 이 상탐지 임계 값 설정을 통하여 최종적으로 출력 값의 정상 /비정상을 탐지하게 된다.

    3.2 Model compression of anomaly detection model

    본 논문에서 제안한 이상탐지 모델의 경량화는 상수폴 딩(Constant folding), 중복노드 제거(Redundant node eliminations), 의미-보존 노드 융합(Semantics-preserving node fusions), 형태추론 최적화(Graph optimization) 등 크게 4가 지 기법을 통해 모델 경량화를 수행하였다. 상수폴딩은 이 상탐지 모델이 추론을 시작할 때 계산될 필요가 없는 고정 값을 미리 계산하여 그래프에 미리 상수 값을 도입하는 것이다. 미리 계산이 가능한 연산에 대한 출력 값을 상수 로 정해놓기 때문에 모델의 계산 부하를 감소시키는데 효 과적이다. 중복노드 제거는 특징을 추출하기 위한 CNN 레이어의 연산에서 사용되는 Slicing, Unsqueeze와 같은 과정에서 중복되는 중간 노드를 제거 또는 융합하여 계산 부하를 줄이고 추론시간을 단축한다. 의미-보존 노드 융합 은 LSTM 레이어와 같이 다중연산이 필요한 곳에서 의미 가 같은 연산을 단일커널로 통합하여 정확도의 손실을 줄 이고 계산부하를 줄이는데 효과적이다. 형태 추론 최적화 는 동적 형태의 계산을 정적형태로 변환하여 텐서차원의 중간단계를 생략하고 앞서 적용한 상수폴딩, 중복노드 제 거, 의미-보전 노드 융합을 모두 적용하여 최종 모델의 최 적화를 수행하게 된다.

    <Table 1>은 이상탐지 모델 경량화에 사용된 기법과 기 법이 적용된 곳, 주요 타겟이 되는 레이어를 보여주고 있 다. 상수폴딩과 의미-보존 노드 융합은 CNN 레이어의 중 복되는 계산부하를 낮추는데 적용하였으며 중복노드 제거 와 형태추론 최적화는 LSTM-Autoencoder 레이어와 결과 값 출력에 관여하는 Time distributed layer에서 경량화를 수행하였다. 또한, 형태추론 최적화를 통하여 CPU에서 연 산에 최적화가 될 수 있도록 하였다.

    4. Experimental Results and Comparative Study

    4.1 Data acquisition

    이상탐지 모델과 경량화된 모델의 실험을 위한 비행데이 터는 최대이륙중량 40kg급 무인멀티콥터(Quadcopter)를 통 해서 수집하였다. <Table 2>과 같이 비행 데이터는 정상 비행데이터 100분, 이상조건 비행 데이터 100분으로 정상 비행데이터와 이상조건 비행데이터의 비율을 1:1로 하였다. 이상조건은 멀티콥터 중 하나의 프로펠러의 끝단을 10% 절단한 것으로 정상 비행데이터와 동일한 방식으로 비행 중 데이터를 수집하였다. 수집된 Bin 형태의 비행로그데이 터는 Pybinlog library를 통하여 Csv 형태의 파일로 변환하였 으며 획득한 데이터는 크게 Canonical vehicle attitude(ATT), Gathered battery data(BAT), Processed vibration information (VIBE), System power information(POWR), Direction Cosine Matrix Estimator Data(DCM) 등 5가지 카테고리 데 이터와 모든 카테고리에 공통으로 적용되는 시간 속성의 TimeUS 데이터로 구성되어 있다. ATT 카테고리에는 Roll, Pitch, Yaw 등의 축 데이터로 구성되어 있으며, BAT 카테고 리에는 전원부, 배터리 관련 데이터로 구성되어 있다. VIBE 카테고리에는 무인항공기 기체의 떨림에 대한 센서 데이터 로 구성되어 있으며 POWR 카테고리는 기체 전체의 전원 및 기체상태에 대한 코드에 대한 데이터로 구성되어 있다. DCM 카테고리는 Gyro 등을 사용한 기체 자세에 대한 추정 치에 대한 데이터로 구성되어 있다. 모든 카테고리와 공통 데이터를 포함하여 30 종류의 데이터를 수집하였으며 정상/ 이상상태를 나타내는 클래스 labeling 데이터를 포함하면 총 31종류의 데이터가 최종 실험데이터로 선정되었다.

    4.2 Implementation and comparison results

    본 논문에서 제안한 CNN-LSTM-AE를 활용한 이상탐 지 모델은 Windows 11의 WSL 환경에서 Python 3.10.12를 활용하여 구현을 진행하였다. 구현에 활용된 주요 라이브 러리는 Tensorflow 2.14.0, Numpy 1.26.4, Pandas 2.2.3이며 모델의 경량화를 위해서 Onnx 1.14.0, Onnx-simplifier 0.4.36, Onnxruntime 1.18.1 라이브러리를 활용하였다. 무 인항공기의 연산능력 사용을 최소화하기 위해서 측정된 비행데이터의 시간 단위를 초(Second)로 변환 후 데이터 전처리는 결측 값을 평균값으로 대체하고 데이터 정규화 만 수행하였다. 이상탐지를 위한 Time window는 10으로 설정하였으며 Earlystopping의 Patience를 20으로 설정하 여 과적합방지와 베스트 모델을 추론모델로 활용할 수 있 도록 하였다. 이상탐지 모델의 최적화는 Gridsearch를 활 용하여 Filter, Kernel, Hidden dimension, Batch size, Epochs의 수를 최적화하였다. 학습이 완료된 모델은 정확 도와 혼동행렬에 대한 결과는 <Table 3>, <Figure 2>와 같 이 이상탐지 모델 자체 MSE는 0.075059, F1 score는 91.53%로 신뢰할 수 있는 이상탐지 모델이지만, 이상상태 를 정상상태로 인식하는 2종 오류(Type II error)가 13.04% 로 상대적으로 높은 것으로 측정되었다.

    학습이 완료된 이상탐지 모델을 대상으로 모델 경량화 를 수행하였으며 경량화 모델과의 비교 결과는 <Table 4> 와 같다. 경량화를 하지 않은 이상탐지 모델은 1회 추론시 간이 0.250858초이며 평균 메모리 사용량은 320mb로 측 정되었다. 실험에 사용된 Intel Core i9-13900HX(13세대, Raptor Lake-HX)의 평균 소비전력 55W를 활용하여 추정 된 에너지 소모량은 13.797J임에 반해 경량화 모델의 추론 시간은 0.00019초, 메모리사용량은 210mb, 추정 에너지 소모량은 0.01045J로 측정되었다. 경량화를 하지 않은 이 상탐지 모델 대비 경량화를 마친 이상탐지 모델은 1회당 추론시간과 에너지 소모량이 99.92% 감소, 메모리 사용량 34.38% 감소하였음을 알 수 있다.

    각 모델의 추정된 에너지 소모량을 토대로 20V, 3Ah, 6cell 리튬이온 배터리 16개(최대 방전률 25C 적용, 극한조 건 가정)에서 각 이상탐지 모델의 추론당 배터리 소모비율 과 추론 가능횟수는 <Table 5>와 같이 경량화된 모델의 경우 약 3억3000만회가 가능한데 비해 일반 모델은 25만 회 추론이 가능하다. 이상탐지 모델이 1초당 10회, 1분당 600회 정도 탐지를 위한 추론을 수행한다고 가정하고 무 인항공기의 전체 에너지 가용량 중 약 10% 정도를 이상탐 지 모델이 사용한다고 가정하였을 때, 일반 모델은 약 0.7 시간 정도 작동이 가능하며 경량화된 모델은 약 918시간 정도 작동이 가능함을 유추할 수 있다. 무인항공기의 비행 중에는 다수의 시스템과 비행에 많은 양의 에너지 소모가 있기 때문에 일반모델의 경우에는 에너지 소모량 감소를 위해서 실제 초당 추론 수를 줄이거나 무인항공기의 비행 시간을 줄이는 등 많은 제약사항이 따를 것으로 예상할 수 있다.

    5. Conclusion

    본 논문은 무인항공기의 안정성을 확보하고 기체의 이 상을 즉시 탐지하기 위한 딥러닝 기반의 이상탐지 모델과 이를 무인항공기에서 효율적으로 활용하기 위해서 경량화 된 이상탐지 모델을 제안하였다. 제안된 이상탐지 모델은 데이터의 지역적 패턴과 특징을 추출하는 CNN 레이어와 시계열 정보를 처리하는 LSTM 레이어, 그리고 임계 값을 통해 정상 비정상 여부를 판별하는 Autoencoder 레이어로 구성되어 있다. 무인항공기는 연산처리능력과 에너지 가 용량에서 제약사항이 존재하기 때문에 제안된 이상탐지 모델은 이를 고려하여 에너지 소모량과 연산처리능력을 감소시키면서 이상탐지 모델의 정확도의 손실이 없는 모 델 경량화를 수행하였으며 모델의 이상탐지 정확도의 손 실 없이 연산처리능력과 에너지 사용량을 성공적으로 감 소시켰다. 또한, 무인항공기의 배터리 가정을 통해 도출한 배터리 소모량과 추론 가능횟수는 본 논문에서 제안한 경 량화된 이상탐지 모델이 실제 현장에서도 유용한 모델이 라고 할 수 있는 간접적인 증명이라고 할 수 있다.

    본 논문에서 제안한 경량화된 이상탐지 모델은 비교적 단순한 구조와 최소화된 데이터 전처리를 통해 비교적 높 은 정확도를 가지고 있으며 연산처리능력과 에너지 소모 량의 감소율이 높다는데 기존의 이상탐지 방법론과 차별 성이 있다고 할 수 있다.

    하지만, 이상탐지 모델에 사용된 데이터가 아직 충분하 지 않기 때문에 추가 데이터 확보를 통한 모델의 개선 및 이상 패턴의 다양화를 통한 Multi class 이상탐지 모델로 전환, 무인항공기에 실제 적용을 통한 실증 및 개선이 추 후 과제로 남아있다.

    Acknowledgement

    This work was supported by the Technology Innovation Program 2410002438, Development of an NPU-based on-board processing module for multi-copter anomaly detection), funded by the Ministry of Trade, Industry & Energy (MOTIE, Korea).

    Figure

    JKSIE-48-2-155_F1.gif

    Structure of anomaly detection model using CNN-LSTM-AE

    JKSIE-48-2-155_F2.gif

    Confusion matrix of proposed model

    Table

    Model compression techniques implemented in the anomaly detection model

    Data acquisition conditions

    Experiment result of proposed model

    Comparison results of model compression

    * J = Power Consumption (W) × Inference Time(Estimated W = 55W, which is the average power consumption of intel Core i9-13900HX).

    Estimated inference number of each model

    * Total energy = 20V×(3×16)Ah×3600JBattery consumption rate=Total energy / (energy consumption per inference / inference

    Reference

    1. Alos, A. and Dahrouj, Z., Detecting Contextual Faults in Unmanned Aerial Behicles using Dynamic Linear Regression and K-nearest Neighbour Classifier, Gyroscopy and Navigation, 2020, Vol. 11, No. 1, pp. 94-104.
    2. Alos, A. and Dahrouj, Z., Using MLSTM and Multioutput Convolutional LSTM Algorithms for Detecting Anomalous Patterns in Streamed Data of Unmanned Aerial Vehicles, IEEE Aerospace and Electronic Systems Magazine, 2022, Vol. 37, No. 6, pp. 6-15.
    3. Alos, A.M. and Dahrouj, Z., Using the Statistical Features of the Data to Detect Potential Failure of Unmanned Aerial Vehicles, International Journal of Applied Engineering Research, 2019, Vol. 14, No. 20, pp. 3946-3952.
    4. Bae, G. and Joe, I., UAV Anomaly Detection with Distributed Artificial Intelligence based on LSTM-AE and AE, Advanced Multimedia and Ubiquitous Engineering, MUE FutureTech 2019 2019. Lecture Notes in Electrical Engineering, 2019, pp. 305-310.
    5. Denton, E., Zaremba, W., Bruna, J., LeCun, Y., and Fergus, R., Exploiting Linear Structure within Convolutional Networks for Efficient Evaluation, Proceedings of the 28th International Conference on Neural Information Processing Systems - Volume 1 (NIPS'14), 2014, Vol. 1. pp. 1269-1277.
    6. Francy, S. and Singh, R., Edge AI: Evaluation of Model Compression Techniques for Convolutional Neural Networks, arXiv preprint arXiv:2409.02134, 2020,
    7. Guo, K., Wang, N., Liu, D., and Peng, X., Uncertainty- Aware LSTM based Dynamic Flight Fault Detection for UAV Actuator, IEEE Transactions on Instrumentation and Measurement, 2023, Vol. 72, pp. 1-13.
    8. Hajiyev, C. and Soken, H.E., Robust Adaptive Kalman Filter for Estimation of UAV Dynamics in the Presence of Sensor/Actuator Faults, Aerospace Science and Technology, 2013, Vol. 28, No. 1, pp. 376-383.
    9. Han, S., Pool, J., Tran, J., and Dally, W.J., Learning Both Weights and Connections for Efficient Neural Networks, In Proceedings of the 29th International Conference on Neural Information Processing Systems - Volume 1 (NIPS'15), 2015, Vol. 1. pp. 1135-1143. https://arxiv.org/abs/1506.02626
    10. Intelligent Game and Decision Lab (IGDL), A Survey of Model Compression Techniques: Past, Present, and Future, Frontiers in Robotics and AI, 2025, Vol. 12.
    11. Khalastchi, E., Kalech, M., Kaminka, G.A., and Lin, R., Online Data-driven Anomaly Detection in Autonomous Robots, Knowledge and Information Systems, 2015, Vol. 43, No. 3, pp. 657-688.
    12. Kim, J., Kang, H., and Kang, P., Time-series Anomaly Detection with Stacked Transformer Representations and 1D Convolutional Network, Engineering Applications of Artificial Intelligence, 2023, Vol. 120, Art. no. 105964.
    13. Lee, S., Park, W., and Jung, S., Fault Detection of Aircraft System with Random Forest Algorithm and Similarity Measure, The Scientific World Journal, 2014, Vol. 2014, pp. 1-7.
    14. Liu, D., Wang, N., Guo, K., and Wang, B., Ensemble Transfer Learning based Cross-domain UAV Actuator Fault Detection, IEEE Sensors Journal, 2023, Vol. 23, No. 14, pp. 16363-16372.
    15. Liu, L., Guo, Q., Liu, D., and Peng, Y., Data-driven Remaining Useful Life Prediction Considering Sensor Anomaly Detection and Data Recovery, IEEE Access, 2019, Vol. 7, pp. 58336-58345.
    16. Mishra, R., A Survey on Deep Neural Network Compression: Challenges, Overview, and Solutions, arXiv preprint arXiv:2010.03954, 2020.
    17. Morales, V.E., Sanchez, J., Escalera, J., Sharma, V., and Wheeler, B.E., Artificial Intelligence & Aviation: Content Analysis of Research Publications from 2013-2023, Journal of Management & Engineering Integration, 2024, Vol. 17, No. 2, pp. 100-106.
    18. Muniraj, D. and Farhood, M., A Framework for Detection of Sensor Attacks on Small Unmanned Aircraft Systems, In Proceeding of International Conference on Unmanned Aircraft Systems (ICUAS), 2017, pp. 1189-1198.
    19. Park, N., Research Trends on Deep Learning for Anomaly Detection of Aviation Safety, Electronics and Telecommunications Trends, 2021, Vol. 36, No. 5, pp. 82-91.
    20. Phadke, A., Medrano, F.A., Sekharan, C.N., and Chu, T., An Analysis of Trends in UAV Swarm Implementations in Current Research: Simulation Versus Hardware, Drone Systems and Applications, 2024, Vol. 12, pp. 1-10.
    21. Puchalski, R. and Giernacki, W., UAV Fault Detection Methods, State-of-the-art, Drones, 2022, Vol. 6, No. 11, p. 330.
    22. Ren, D., Wang, Y., Zhang, L., Huang, K., Yang, Z., Li, X., and Zhou, J., ONNXPruner: ONNX-based General Model Pruning Adapter, AarXiv preprint arXiv:2404. 08016, 2024. https://arxiv.org/abs/2404.08016
    23. Titouna, C., Naït-Abdesselam, F., and Moungla, H., An Online Anomaly Detection Approach for Unmanned Aerial Vehicles, Proceeding of 2020 International Wireless Communications and Mobile Computing (IWCMC), 2020, pp. 469-474.
    24. Wang, X., Rachwan, J., Günnemann, S., and Charpentier, B., Structurally Prune Anything: Any Architecture, Any Framework, Any Time, arXiv preprint arXiv:2403.18955, 2024. https://arxiv.org/abs/2403.18955
    25. Yang, L., Li, S., Zhang, Y., Zhu, C., and Liao, Z., Deep Learning-Assisted Unmanned Aerial Vehicle Flight Data Anomaly Detection: A Review, IEEE Sensors Journal, 2014, Vol. 24, No. 20, pp. 31681-31695.
    26. Yun, C.Y. and Kang, W., Current Status and Futures of Drones, Proceedings of the Korean Society of Broadcast Engineers Conference, 2015, pp. 310-311.
    Copyright © KOREAN SOCIETY OF INDUSTRIAL AND SYSTEMS ENGINEERING. All rights reserved.
    #425, Anyang trade-center, Simin-daero 161, Dongan-gu, Anyang-si, Gyeonggi-do, 14048, Korea