本帖最后由 shaoheshaohe 于 2019-1-14 20:29 编辑
近年来智能语音进入了快速增长期,语音识别作为语音领域的重要分支获得了广泛的关注,如何提高声学建模能力和如何进行端到端的联合优化是语音识别领域中的重要课题。
由SFFAI18分享嘉宾白烨同学为大家精选出来的关于语音关键词检索方面的论文以及田正坤同学为大家精选出来的关于利用RNN-Transducer进行端到端声学建模的论文,将带你了解语音识别基本方向。你可以先仔细阅读,并带着问题来现场交流哦。
1 推荐理由:此篇文章是第一篇使用深度神经网络,直接将音频序列编码为固定长度向量进行QbE KWS的文章。在这之前的KWS基本上都是基于DTW计算序列之间的距离,而这篇文章首次使用了LSTM对序列进行编码,最后直接计算距离即可,速度快,效果好。基于这种范式,还诞生了关键词检测的应用SnowBoy(内部具体模型可能不一样)。
2.
推荐理由:语音检索(Keyword Search, or Spoken Term Detection)中,如何将语音识别的结果建立倒排索引,快速定位到关键词发生的位置,是语音检索中重要问题。基于加权有限状态转换器的时间因子自动机方法,因为其计算高效(检索时线性复杂度),准确,框架优雅,已经成为了语音检索中的标准方法。在流行的开源语音工具包Kaldi中也已经集成了这一方法。
3.
推荐理由:这是百度硅谷实验室的一篇文章,比较了CTC、RNN-Transducer以及Attention模型在原理以及实验性能上的差异,对于想利用端到端模型进行语音识别建模的同学,具有很好的指导意义。 文章显示没有额外语言模型的注意力模型以及RNN-Transducer模型性能都超过了基线CTC模型。同时文章还研究了怎么样选取编码器结构。
4.
推荐理由:这是Google2018年的一个工作,文章讲述了丰富的细节来帮助我们如何训练好一个RNN-Transducer网络。文章探索了多种模型结构以及如何利用外部数据。文中使用多级CTC来辅助模型训练,获得了很好的效果。
|