표현학습(representation learning)은 데이터의 라벨 정보 없이 사전 단계에서 데이터의 특징을 잘 추출하는 목적으로 학습하는 방법으로 Pretext기법과 Contrastive Learning 방법으로 크게 나뉜다. Computer Vision, NLP, Video 분야에서 좋은 성능과 함께 많은 연구 결과를 내고 있다. 해당 분야에서 사용되는 기법들을 시계열 데이터의 접목하는 시도들이 있지만, 시계열 데이터 특성상 시간에 따라 데이터의 분포나 특성이 바뀌기 때문에 적용 가능하기 어려운 점이 있다. 그래서 이번 세미나에선 기존 사례를 살펴보고 기존 한계점을 개선하며 범용적으로 시계열 데이터의 특징을 잘 추출하기 위한 프레임워크를 제시하는 연구를 소개하고자 한다.
참고문헌
[1] Tonekaboni, S., Eytan, D., & Goldenberg, A. (2021). Unsupervised representation learning for time series with temporal neighborhood coding. arXiv preprint arXiv:2106.00750.
[2] Fan, H., Zhang, F., Wang, R., Huang, X., & Li, Z. (2021, June). Semi-Supervised Time Series Classification by Temporal Relation Prediction. In ICASSP 2021-2021 IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP) (pp. 3545-3549). IEEE.
[3] Zerveas, G., Jayaraman, S., Patel, D., Bhamidipaty, A., & Eickhoff, C. (2021, August). A transformer-based framework for multivariate time series representation learning. In Proceedings of the 27th ACM SIGKDD Conference on Knowledge Discovery & Data Mining (pp. 2114-2124).
[4] Eldele, E., Ragab, M., Chen, Z., Wu, M., Kwoh, C. K., Li, X., & Guan, C. (2021). Time-series representation learning via temporal and contextual contrasting. arXiv preprint arXiv:2106.14112.
[5] Banville, H., Albuquerque, I., Hyvärinen, A., Moffat, G., Engemann, D. A., & Gramfort, A. (2019, October). Self-supervised representation learning from electroencephalography signals. In 2019 IEEE 29th International Workshop on Machine Learning for Signal Processing (MLSP) (pp. 1-6). IEEE.
[6] Mohsenvand, M. N., Izadi, M. R., & Maes, P. (2020, November). Contrastive representation learning for electroencephalogram classification. In Machine Learning for Health (pp. 238-253). PMLR.
[7] Wen, Q., Sun, L., Yang, F., Song, X., Gao, J., Wang, X., & Xu, H. (2020). Time series data augmentation for deep learning: A survey. arXiv preprint arXiv:2002.12478.