이화여자대학교 나종걸 교수 연구팀은 연세대학교 화공생명공학과 문일 교수 연구팀과의 공동 연구를 통해 설명가능한 인공지능 기반의 이상 탐지 및 진단 프레임워크를 새롭게 개발했다. 공정 모니터링은 공정 운전의 신뢰성을 보장하고 산업 재해를 예방하는 데 매우 중요하다. 최근에는 머신 러닝, 딥 러닝과 같은 공정에서 얻은 데이터를 이용한 방법들이 이상 탐지 및 진단에 주로 사용되고 있다. 연구팀은 딥 러닝 모델의 정확성과 해석 가능성 사이의 전통적인 트레이드 오프를 깨기 위해 설명 가능한 인공 지능을 사용하여 새로운 결함 진단 방법을 개발하였다. 먼저, 적대적 오토인코더 모델을 구축하여 최고 수준의 이상 탐지 성능을 확보하였다. 다음 SHAP 기법과 모니터링 인덱스를 결합하여 이상의 원인을 분석하였다. SHAP 값을 이용하여 입력 변수의 정상 상태로부터의 이탈에 대한 기여도를 할당하여 진단하였다. 개발한 프레임워크를 두 가지 화학 공정 시스템에 적용하여 기존의 진단 방법과 비교한 결과, 본 프레임워크가 단일 및 다중 이상에 대한 높은 탐지율 및 정확한 진단을 확보하였고, 나아가 다양한 이상 유형의 패턴을 명확히 구별할 수 있음을 확인하였다. 특히 이번 연구의 핵심은 딥러닝 기반 모델을 통해 얻은 결과는 해석하기 어렵고 사용자에게 통찰력을 제공할 수 없다는 기존의 한계를 극복한 것으로 데이터 기반의 공정 모니터링 연구를 가속화시킬 것으로 기대된다.
나종걸 교수는 이번 연구에 교신저자로 기여하였으며, 연구결과는 2022년 1월 (현지시간) JCR 자동화 및 제어 시스템 분야의 상위 3% 저널인 IEEE Transactions on Industrial Informatics (IF 11.648)에 게재되었다. [Link]
Abstract
Process monitoring is important for ensuring operational reliability and preventing occupational accidents. In recent years, data-driven methods such as machine learning and deep learning have been preferred for fault detection and diagnosis. In particular, unsupervised learning algorithms, such as auto-encoders, exhibit good detection performance, even for unlabeled data from complex processes. However, decisions generated from deep-neural-network-based models are difficult to interpret and cannot provide explanatory insight to users. We address this issue by proposing a new fault diagnosis method using explainable artificial intelligence to break the traditional trade-off between the accuracy and interpretability of deep learning model. First, an adversarial auto-encoder model for fault detection is built and then interpreted through the integration of Shapley additive explanations (SHAP) with a combined monitoring index. Using SHAP values, a diagnosis is conducted by allocating credit for detected faults, deviations from a normal state, among its input variables. The proposed diagnosis method can consider not only reconstruction space but also latent space unlike conventional method, which evaluate only reconstruction error. The proposed method was applied to two chemical process systems and compared with conventional diagnosis methods. The results highlight that the proposed method achieves the exact fault diagnosis for single and multiple faults and, also, distinguishes the global pattern of various fault types.
