2.BilmesJA.AgentletutorialoftheEMalgorithmanditsapplicationtoparameterestimationforGaussianmixtureandhiddenMarkovmodels.InternationalComputerScienceInstitute,1998,4(510):126.详细介绍了用E-M算法训练HMM参数的推导过程，首先讲E-M的基本原理，然后讲解如何应用到GMM的训练，最后讲解如何应用到HMM的训练。
打字太麻烦，怎么用语音转换成文字？
简要给大家介绍一下传统算法语音怎么变文字的吧。需要说明的是，这篇文章为了易读性而牺牲了严谨性，因此文中的很多表述实际上是不准确的。对于有兴趣深入了解的同学，本文的末尾推荐了几份进阶阅读材料。下面我们开始。首先，我们知道声音实际上是一种波。常见的mp3等格式都是压缩格式，必须转成非压缩的纯波形文件来处理，比如Windows PCM文件，也就是俗称的wav文件。
wav文件里存储的除了一个文件头以外，就是声音波形的一个个点了。下图是一个波形的示例。在开始语音识别之前，有时需要把首尾端的静音切除，降低对后续步骤造成的干扰。这个静音切除的操作一般称为VAD，需要用到信号处理的一些技术。要对声音进行分析，需要对声音分帧，也就是把声音切开成一小段一小段，每小段称为一帧。
分帧操作一般不是简单的切开，而是使用移动窗函数来实现，这里不详述。帧与帧之间一般是有交叠的，就像下图这样：图中，每帧的长度为25毫秒，每两帧之间有25-10=15毫秒的交叠。我们称为以帧长25ms、帧移10ms分帧。分帧后，语音就变成了很多小段。但波形在时域上几乎没有描述能力，因此必须将波形作变换。常见的一种变换方法是提取MFCC特征，根据人耳的生理特性，把每一帧波形变成一个多维向量，可以简单地理解为这个向量包含了这帧语音的内容信息。
这个过程叫做声学特征提取。实际应用中，这一步有很多细节，声学特征也不止有MFCC这一种，具体这里不讲。至此，声音就成了一个12行（假设声学特征是12维）、N列的一个矩阵，称之为观察序列，这里N为总帧数。观察序列如下图所示，图中，每一帧都用一个12维的向量表示，色块的颜色深浅表示向量值的大小。接下来就要介绍怎样把这个矩阵变成文本了。
首先要介绍两个概念：音素：单词的发音由音素构成。对英语，一种常用的音素集是卡内基梅隆大学的一套由39个音素构成的音素集，参见The CMU Pronouncing Dictionary。汉语一般直接用全部声母和韵母作为音素集，另外汉语识别还分有调无调，不详述。状态：这里理解成比音素更细致的语音单位就行啦。
通常把一个音素划分成3个状态。语音识别是怎么工作的呢？实际上一点都不神秘，无非是：把帧识别成状态（难点）。把状态组合成音素。把音素组合成单词。如下图所示：图中，每个小竖条代表一帧，若干帧语音对应一个状态，每三个状态组合成一个音素，若干个音素组合成一个单词。也就是说，只要知道每帧语音对应哪个状态了，语音识别的结果也就出来了。
那每帧音素对应哪个状态呢？有个容易想到的办法，看某帧对应哪个状态的概率最大，那这帧就属于哪个状态。比如下面的示意图，这帧在状态S3上的条件概率最大，因此就猜这帧属于状态S3。那这些用到的概率从哪里读取呢？有个叫“声学模型”的东西，里面存了一大堆参数，通过这些参数，就可以知道帧和状态对应的概率。获取这一大堆参数的方法叫做“训练”，需要使用巨大数量的语音数据，训练的方法比较繁琐，这里不讲。
但这样做有一个问题：每一帧都会得到一个状态号，最后整个语音就会得到一堆乱七八糟的状态号。假设语音有1000帧，每帧对应1个状态，每3个状态组合成一个音素，那么大概会组合成300个音素，但这段语音其实根本没有这么多音素。如果真这么做，得到的状态号可能根本无法组合成音素。实际上，相邻帧的状态应该大多数都是相同的才合理，因为每帧很短。
解决这个问题的常用方法就是使用隐马尔可夫模型（Hidden Markov Model，HMM）。这东西听起来好像很高深的样子，实际上用起来很简单：第一步，构建一个状态网络。第二步，从状态网络中寻找与声音最匹配的路径。这样就把结果限制在预先设定的网络中，避免了刚才说到的问题，当然也带来一个局限，比如你设定的网络里只包含了“今天晴天”和“今天下雨”两个句子的状态路径，那么不管说些什么，识别出的结果必然是这两个句子中的一句。
那如果想识别任意文本呢？把这个网络搭得足够大，包含任意文本的路径就可以了。但这个网络越大，想要达到比较好的识别准确率就越难。所以要根据实际任务的需求，合理选择网络大小和结构。搭建状态网络，是由单词级网络展开成音素网络，再展开成状态网络。语音识别过程其实就是在状态网络中搜索一条最佳路径，语音对应这条路径的概率最大，这称之为“解码”。
路径搜索的算法是一种动态规划剪枝的算法，称之为Viterbi算法，用于寻找全局最优路径。这里所说的累积概率，由三部分构成，分别是：观察概率：每帧和每个状态对应的概率转移概率：每个状态转移到自身或转移到下个状态的概率语言概率：根据语言统计规律得到的概率其中，前两种概率从声学模型中获取，最后一种概率从语言模型中获取。
语言模型是使用大量的文本训练出来的，可以利用某门语言本身的统计规律来帮助提升识别正确率。语言模型很重要，如果不使用语言模型，当状态网络较大时，识别出的结果基本是一团乱麻。这样基本上语音识别过程就完成了。以上的文字只是想让大家容易理解，并不追求严谨。事实上，HMM的内涵绝不是上面所说的“无非是个状态网络”，如果希望深入了解，下面给出了几篇阅读材料：1. Rabiner L R. A tutorial on hidden Markov models and selected applications in speech recognition. Proceedings of the IEEE, 1989, 77(2): 257-286.入门必读。
深入浅出地介绍了基于HMM的语音识别的原理，不注重公式的细节推导而是着重阐述公式背后的物理意义。2. Bilmes J A. A gentle tutorial of the EM algorithm and its application to parameter estimation for Gaussian mixture and hidden Markov models. International Computer Science Institute, 1998, 4(510): 126.详细介绍了用E-M算法训练HMM参数的推导过程，首先讲E-M的基本原理，然后讲解如何应用到GMM的训练，最后讲解如何应用到HMM的训练。
3. Young S, Evermann G, Gales M, et al. The HTK book (v3.4). Cambridge University, 2006.HTK Book，开源工具包HTK的文档。虽然现在HTK已经不是最流行的了，但仍然强烈推荐按照书里的第二章流程做一遍，你可以搭建出一个简单的数字串识别系统。
4. Graves A. Supervised Sequence Labelling with Recurrent Neural Networks. Springer Berlin Heidelberg, 2012: 15-35.基于神经网络的语音识别的入门必读。从神经网络的基本结构、BP算法等介绍到 LSTM、CTC。
年薪30万只是中游水平，算法工程师是一种怎样的存在？
算法工程师一直以高薪著称，一般应届毕业生薪资都在20k/月以上。据最新数据显示，2019届硕士应届生的最高年薪已经达到50万，一线城市平均薪资大概在30万左右，二三线城市稍微低一些，但也远超其他专业。那么到底什么是算法工程师呢？它具体又包含哪些岗位呢？作为一名算法工程师，除了必须掌握计算机编程相关知识，熟练使用仿真工具MATLAB等，还必须了解业务背景，像人工智能算法工程师、交通算法工程师、图像处理算法工程师等都需要熟悉公司的业务，有一定业务学习能力。
一般互联网公司的算法工程师，主要涉及这几个领域：推荐算法和协通过滤算法，音频处理，图像处理，深度学习及AI算法，SLAM，VR，AR领域，传统的算法等。1、推荐算法和协通过滤算法，这类工程师主要是解决电商或者与转化率相关问题的工程师。这类工程师需要掌握的就是特征工程、主成分分析、统计学、贝叶斯概率、决策树（GBDT/XGBOOST）、逻辑回归、协同过滤等等围绕着转化概率相关的知识体系。
2、语音信号处理，比如回路噪声抑制什么的，一般用在语音聊天，语音识别的前端检测，像现在做智能音箱的这些公司，多少都需要做一些。3、图像处理，尤其是基于OpenCV的图像处理算法，一般产品里有做美颜，滤镜什么的特别喜欢招这块的人，近一两年有被做深度学习取代的趋势。google出了arcore，所以让不少小公司也能出一些效果很好的换头类应用。
4、SLAM，集中在机器人定位导航上，比如无人车，扫地机器人，这个方向已经很专了，一般需要有好的导师才能带你入门，国内这个方向的团队实验室来来回回就那么几个。5、VR，AR领域，涉及到的包括视频跟踪，SLAM，raytracing，几何投影等等，实际上是一个综合的领域，目前主要是做计算机视觉的转行做这块。
6、深度学习/AI算法工程师，这类工程师说到底要做的事情就是利用深度学习中的卷积网络（CNN）、循环神经网络（LSTM），甚至是深度强化学习（DRL）等新的技术来解决工作中的实际问题。但是方向仍然是前面说的推荐、音视频、自然语言等等。只不过用了深度学习技术以后，很多传统方法解决不了的问题就比较容易解决了，或者有更高的准确率。
