▲ (사진 왼쪽부터) 인하대 인공지능공학과 김민규 학부생과 김도국 교수
[뉴스앤톡] 인하대학교는 인공지능공학과 김민규 학부생과 김도국 교수가 시간에 따라 변하는 데이터를 예측하는 AI 모델의 내부 작동 원리를 분석했다고 12일 밝혔다.

이번 연구는 주가, 전력 수요, 기상 관측값처럼 시간의 흐름에 따라 쌓이는 ‘시계열 데이터’를 예측하는 모델을 대상으로 했다. 연구팀은 특히 입력된 데이터 사이의 관계를 학습하는 ‘트랜스포머(Transformer)’ 계열 모델이 시간에 따른 패턴을 어떻게 학습하는지 살펴봤다.

연구팀은 모델 내부의 각 단계가 어떤 정보를 학습하는지 확인할 수 있는 15종의 진단 과제를 설계했다. 이를 대표적인 시계열 예측 모델과 데이터셋에 적용해 내부 구성 요소의 역할을 비교·분석했다.

그 결과 시간 패턴을 학습하는 역할이 특정 구성 요소에 고정돼 있지 않다는 사실을 확인했다. 데이터를 작은 단위로 나눠 입력하는 방식인 ‘토큰화’와 모델의 구조가 결합하는 방식에 따라 각 구성 요소의 역할이 달라졌다.

특히 데이터 사이의 관련성을 파악하는 트랜스포머의 핵심 장치인 ‘어텐션’을 완전히 제거하더라도, 일부 조건에서는 시간 패턴을 학습하는 능력이 유지됐다. 연구팀은 데이터 분할 방식과 모델 구조를 함께 살펴봄으로써 그동안 서로 엇갈렸던 선행 연구 결과를 하나의 틀로 설명했다.

이번 연구는 금융, 에너지, 제조 등 시계열 예측이 중요한 산업 분야에서 모델을 구성하는 요소의 역할을 이해하고, 더 효율적이고 신뢰할 수 있는 AI 모델을 설계하는 데 참고 기준을 제시할 것으로 기대된다.

논문 제목은 ‘데이터 분할 방식과 모델 구조가 함께 결정하는 시계열 트랜스포머 구성 요소의 역할’(Tokenization and Architecture Jointly Allocate Component Roles in Time Series Transformers)이다. 김민규 학생이 제1저자, 김도국 교수가 교신저자로 참여했으며, 오는 12월 열리는 NeurIPS 2026에서 발표될 예정이다.

NeurIPS는 h5-index 371로, 전체 엔지니어링과 컴퓨터 과학 분야 중 2위, 인공지능 분야 중 1위를 기록하고 있는 세계 최고 권위의 학회이다. h5-index는 해당 학회가 얼마나 많은 연구자에게 인용됐는지 보여주는 지표로 구글에서 제공하고 있다.

김민규 학생은 김도국 교수의 지도 아래 학부 과정에서 연구에 참여해 이번 성과를 거뒀다. 모델의 내부 작동 원리를 살펴보는 연구를 국제학술대회 논문 채택으로 발전시켰다는 점에서 의미가 있다.

김도국 인하대 인공지능공학과 교수는 “이번 성과는 학부생이 연구 전 과정에 적극적으로 참여해 얻은 결과가 국제학술대회에서 인정받았다는 점에서 의미가 크다”며 “앞으로도 학생들이 학부 과정부터 세계 무대에서 경쟁할 수 있는 연구 경험을 쌓도록 적극 지원하겠다”고 말했다.

[ⓒ 뉴스앤톡. 무단전재-재배포 금지]