[Paper Review] Vq-wav2vec: Self-Supervised Learning of Discrete Speech Representations скачать в хорошем качестве

[Paper Review] Vq-wav2vec: Self-Supervised Learning of Discrete Speech Representations

발표자 : 김정희 발표자료 : http://dsba.korea.ac.kr/seminar/ DSBA 연구실 : http://dsba.korea.ac.kr/​ 1. Topic Self-Supervised Learning of Discrete Speech Representations(VQ-Wav2vec) 2. Overview 이번 세미나에서는 음성 도메인에서 사용 가능한 self-supervised 방법론 중 하나인 VQ-Wav2vec에 대해 설명합니다. 해당 논문에서는 기존 Self-supervised 방법론과는 다르게 Vector Quantization 모듈을 추가하여 Discrete representation을 출력할 수 있도록 아키텍처를 변경합니다. 그리고 추출한 Discrete Representation을 BERT, Transformer와 같은 아키텍처의 입력으로 활용함으로써 음성 Sequence 안에 있는 패턴을 더 잘 학습할 수 있는 방법을 제시합니다. ASR task를 학습하기 위한 복잡한 Pipe-line을 갖고 있기 때문에 재현 가능성에 의문감이 들지만, 실험적으로 Vector Quantization 모듈을 추가한 모델과 논문에서 제시한 복잡한 Pipe Line이 음성인식 성능을 향상시키는데 큰 영향을 미친다는 것을 증명하였습니다.