深圳信息化语音识别介绍

    DBN），促使了深度神经网络（DNN）研究的复苏。2009年，Hinton将DNN应用于语音的声学建模，在TIMIT上获得了当时比较好的结果。2011年底，微软研究院的俞栋、邓力又把DNN技术应用在了大词汇量连续语音识别任务上，降低了语音识别错误率。从此语音识别进入DNN-HMM时代。DNN-HMM主要是用DNN模型代替原来的GMM模型，对每一个状态进行建模，DNN带来的好处是不再需要对语音数据分布进行假设，将相邻的语音帧拼接又包含了语音的时序结构信息，使得对于状态的分类概率有了明显提升，同时DNN还具有强大环境学习能力，可以提升对噪声和口音的鲁棒性。简单来说，DNN就是给出输入的一串特征所对应的状态概率。由于语音信号是连续的，不仅各个音素、音节以及词之间没有明显的边界，各个发音单位还会受到上下文的影响。虽然拼帧可以增加上下文信息，但对于语音来说还是不够。而递归神经网络（RNN）的出现可以记住更多历史信息，更有利于对语音信号的上下文信息进行建模。由于简单的RNN存在梯度和梯度消散问题，难以训练，无法直接应用于语音信号建模上，因此学者进一步探索，开发出了很多适合语音建模的RNN结构，其中有名的就是LSTM。

语音识别应用包括语音用户界面，例如语音拨号、呼叫路由、多用户设备控制、搜索、简单的数据输入等。深圳信息化语音识别介绍

    DFCNN使用大量的卷积直接对整句语音信号进行建模，主要借鉴了图像识别的网络配置，每个卷积层使用小卷积核，并在多个卷积层之后再加上池化层，通过累积非常多卷积池化层对，从而可以看到更多的历史信息。2018年，阿里提出LFR-DFSMN（LowerFrameRate-DeepFeedforwardSequentialMemoryNetworks）。该模型将低帧率算法和DFSMN算法进行融合，语音识别错误率相比上一代技术降低20%，解码速度提升3倍。FSMN通过在FNN的隐层添加一些可学习的记忆模块，从而可以有效的对语音的长时相关性进行建模。而DFSMN是通过跳转避免深层网络的梯度消失问题，可以训练出更深层的网络结构。2019年，百度提出了流式多级的截断注意力模型SMLTA，该模型是在LSTM和CTC的基础上引入了注意力机制来获取更大范围和更有层次的上下文信息。其中流式表示可以直接对语音进行一个小片段一个小片段的增量解码；多级表示堆叠多层注意力模型；截断则表示利用CTC模型的尖峰信息，把语音切割成一个一个小片段，注意力模型和解码可以在这些小片段上展开。在线语音识别率上，该模型比百度上一代DeepPeak2模型提升相对15%的性能。开源语音识别Kaldi是业界语音识别框架的基石。

    广东语音识别平台语音识别包括两个阶段:训练和识别。

    取距离近的样本所对应的词标注为该语音信号的发音。该方法对解决孤立词识别是有效的，但对于大词汇量、非特定人连续语音识别就无能为力。因此，进入80年代后，研究思路发生了重大变化，从传统的基于模板匹配的技术思路开始转向基于统计模型（HMM）的技术思路。HMM的理论基础在1970年前后就已经由Baum等人建立起来，随后由CMU的Baker和IBM的Jelinek等人将其应用到语音识别当中。HMM模型假定一个音素含有3到5个状态，同一状态的发音相对稳定，不同状态间是可以按照一定概率进行跳转；某一状态的特征分布可以用概率模型来描述，使用的模型是GMM。因此GMM-HMM框架中，HMM描述的是语音的短时平稳的动态性，GMM用来描述HMM每一状态内部的发音特征。基于GMM-HMM框架，研究者提出各种改进方法，如结合上下文信息的动态贝叶斯方法、区分性训练方法、自适应训练方法、HMM/NN混合模型方法等。这些方法都对语音识别研究产生了深远影响，并为下一代语音识别技术的产生做好了准备。自上世纪90年代语音识别声学模型的区分性训练准则和模型自适应方法被提出以后，在很长一段内语音识别的发展比较缓慢，语音识别错误率那条线一直没有明显下降。DNN-HMM时代2006年，Hinton提出深度置信网络。

    多个渠道积累了大量的文本语料或语音语料，这为模型训练提供了基础，使得构建通用的大规模语言模型和声学模型成为可能。在语音识别中，丰富的样本数据是推动系统性能快速提升的重要前提，但是语料的标注需要长期的积累和沉淀，大规模语料资源的积累需要被提高到战略高度。语音识别在移动端和音箱的应用上为火热，语音聊天机器人、语音助手等软件层出不穷。许多人初次接触语音识别可能归功于苹果手机的语音助手Siri。Siri技术来源于美国**部高级研究规划局（DARPA）的CALO计划：初衷是一个让军方简化处理繁重复杂的事务，并具备认知能力进行学习、组织的数字助理，其民用版即为Siri虚拟个人助理。Siri公司成立于2007年，以文字聊天服务为主，之后与大名鼎鼎的语音识别厂商Nuance合作实现了语音识别功能。2010年，Siri被苹果收购。2011年苹果将该技术随同iPhone4S发布，之后对Siri的功能仍在不断提升完善。现在，Siri成为苹果iPhone上的一项语音控制功能，可以让手机变身为一台智能化机器人。通过自然语言的语音输入，可以调用各种APP，如天气预报、地图导航、资料检索等，还能够通过不断学习改善性能，提供对话式的应答服务。语音识别。声学模型和语言模型都是当今基于统计的语音识别算法的重要组成部分。

    即在解码端通过搜索技术寻找优词串的方法。连续语音识别中的搜索，就是寻找一个词模型序列以描述输入语音信号，从而得到词解码序列。搜索所依据的是对公式中的声学模型打分和语言模型打分。在实际使用中，往往要依据经验给语言模型加上一个高权重，并设置一个长词惩罚分数。语音识别本质上是一种模式识别的过程，未知语音的模式与已知语音的参考模式逐一进行比较，佳匹配的参考模式被作为识别结果。当今语音识别技术的主流算法，主要有基于动态时间规整（DTW）算法、基于非参数模型的矢量量化（VQ）方法、基于参数模型的隐马尔可夫模型（HMM）的方法、以及近年来基于深度学习和支持向量机等语音识别方法。站在巨人的肩膀上：开源框架目前开源世界里提供了多种不同的语音识别工具包，为开发者构建应用提供了很大帮助。但这些工具各有优劣，需要根据具体情况选择使用。下表为目前相对流行的工具包间的对比，大多基于传统的HMM和N-Gram语言模型的开源工具包。对于普通用户而言，大多数人都会知道Siri或Cortana这样的产品。而对于研发工程师来说，更灵活、更具专注性的解决方案更符合需求，很多公司都会研发自己的语音识别工具。（1）CMUSphinix是卡内基梅隆大学的研究成果。语音必定将成为未来主要的人机互动接口之一。广东语音识别平台

语音识别的精度和速度取决于实际应用环境。深圳信息化语音识别介绍

   技术和产业之间形成了比较好的正向迭代效应，落地场景越多，得到的真实数据越多，挖掘的用户需求也更准确，这帮助了语音识别技术快速进步，也基本满足了产业需求，解决了很多实际问题，这也是语音识别相对其他AI技术为明显的优势。不过，我们也要看到，语音识别的内涵必须不断扩展，狭义语音识别必须走向广义语音识别，致力于让机器听懂人类语言，这才能将语音识别研究带到更高维度。我们相信，多技术、多学科、多传感的融合化将是未来人工智能发展的主流趋势。在这种趋势下，我们还有很多未来的问题需要探讨，比如键盘、鼠标、触摸屏和语音交互的关系怎么变化？搜索、电商、社交是否再次重构？硬件是否逆袭变得比软件更加重要？产业链中的传感、芯片、操作系统、产品和内容厂商之间的关系又该如何变化？深圳信息化语音识别介绍