使用HTK语音工具包进行孤立词识别基础教程

来源：互联网发布：pitta mask 知乎编辑：程序博客网时间：2024/04/30 01:04

1.前言

本教程主要介绍使用HTK工具包进行孤立词语音识别系统的搭建，主要参考书籍：HTK BOOK

2.孤立词识别系统

在本系统中我们将要实现三个词的识别系统，词汇集为：{brightness,channel,color}

2.1.搭建步骤

A：创建语料库，brightness,channel,color各录制5次。

B：声学分析，把wavform的声音文件转换为mfcc格式。

C：模型定义，为词典里面的每一个词建立一个HMM原型。

D：模型训练，HMM模型初始化和迭代。

E：问题定义，即语法定义。

F：对测试结合进行识别

G：评测

2.2.工作环境的搭建

创建如下目录结构：

(1) data/: 存储训练和测试数据（语音文件、语音标签、特征矢量文件）。

子目录：

data/train/lab

data/train/wav

data/train/mfcc

data/test/lab

data/test/wav

data/test/mfcc

(2) analysis/: 存储声学分析步骤的文件

(3) training/: 存储初始化和训练步骤的文件

(4) model/: 存储识别系统的模型(HMMs)的相关文件。子目录：model/proto

(5) def/: 存储任务定义的相关文件

(6) test:/ 存储测试相关文件

2.3.标准HTK工具选项

一些标准选项对于每个HTK工具都是通用的。

(1) -A: 显示命令行参数

(2) -D: 显示配置设置

(3) -T 1: 显示算法动作的相关信息

完整的选项列表请参见：HTK BOOK

3.语料库的准备

我们来录制{brightness,channel,color}这个三个词的读音。同时每个录音都要进行标注，也就是有一个文本文件与其对应描述它的内容。

3.1.1录音

我们将上述三个词各录制5次，保存为wav格式。

并存放在：

data/train/wav/brightness

data/train/wav/channel

3.2.标注

我们可以用相关的语音处理软件进行标注。

并把标注的文件放到:

data/train/lab/brightness

data/train/lab/channel

data/train/lab/color

标注.lab文件的格式如下：

4.声学分析

从原始的声音文件转换为特征矢量文件：

需要创建的文件：

(1) analysis.conf

创建目录：training/

说明：配置文件，说明了特征矢量的特性

内容：

注：参数意义详见：htkbook

(1) targetlist_train.txt

创建目录：training/

说明：列出源文件和目的的文件的位置，即声音文件和特征文件

内容：

指令：Hcopy -A -D -Ctraining/analysis.conf -S training/targetlist_train.txt

运行结果：

我们会看到：

5.定义HMM

需要创建的文件：

hmm_brightness

hmm_channel

hmm_color

hmm_silb

hmm_sile

创建目录：model/proto

说明：用来定义单词的HMM模型

内容：

hmm_channel:

~o <VecSize> 39 <MFCC_0_D_A>

~h "channel"

<NumStates> 12

<State> 2

<Mean> 39

0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.00.0 0.0

<Variance> 39

1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.01.0 1.0

<State> 3

<Mean> 39

0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.00.0 0.0

<Variance> 39

1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.01.0 1.0

<State> 4

<Mean> 39

0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.00.0 0.0

<Variance> 39

1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.01.0 1.0

<State> 5

<Mean> 39

0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.00.0 0.0

<Variance> 39

1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.01.0 1.0

<State> 6

<Mean> 39

0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.00.0 0.0

<Variance> 39

1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.01.0 1.0

<State> 7

<Mean> 39

0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.00.0 0.0

<Variance> 39

1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.01.0 1.0

<State> 8

<Mean> 39

0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.00.0 0.0

<Variance> 39

1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.01.0 1.0

<State> 9

<Mean> 39

0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.00.0 0.0

<Variance> 39

1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.01.0 1.0

<State> 10

<Mean> 39

0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.00.0 0.0

<Variance> 39

1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.01.0 1.0

<State> 11

<Mean> 39

0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.00.0 0.0

<Variance> 39

1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.01.0 1.0

<TransP> 12

0.0 1.0 0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.00.0

0.0 0.5 0.5 0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.00.0

0.0 0.0 0.5 0.5 0.0 0.0 0.0 0.0 0.0 0.0 0.00.0

0.0 0.0 0.0 0.5 0.5 0.0 0.0 0.0 0.0 0.0 0.00.0

0.0 0.0 0.0 0.0 0.5 0.5 0.0 0.0 0.0 0.0 0.00.0

0.0 0.0 0.0 0.0 0.0 0.5 0.5 0.0 0.0 0.0 0.00.0

0.0 0.0 0.0 0.0 0.0 0.0 0.5 0.5 0.0 0.0 0.00.0

0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.5 0.5 0.0 0.00.0

0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.5 0.5 0.00.0

0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.5 0.50.0

0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.50.5

注：hmm_brightness hmm_color定义方法同channel类似，不过最上面的名字要分别换成channel和color同时状态数目根据每个音素分配2~3个状态，具体可参考：HTKBOOK

hmm_silb:

~o <VecSize> 39 <MFCC_0_D_A>

~h "silb"

<NumStates> 3

<State> 2

<Mean> 39

0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.0 0.00.0 0.0

<Variance> 39

1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.0 1.01.0 1.0

<TransP> 3

0.0 1.0 0.0

0.0 0.5 0.5

0.0 0.0 0.0

注：hmm_sile同hmm_silb，只修改名字就好。

6.HMM 训练

6.1.初始化

需要创建的文件：

(1) trainlist_brightness.txttrainlist_channel.txt trainlist_color.txt trainlist_silb.txt trainlist_sile.txt

创建目录：training/

说明：特征矢量文件路径

内容：

(2) hmm0目录

创建目录：model/

说明：初始化后的HMM模型存放的位置

指令：

Hinit -A -D -T 1 -S training/trainlist_brightness.txt -M model/hmm0 -Hmodel/proto/hmm_brightness -l brightness -L data/train/lab/brightnessbrightness

Hinit -A -D -T 1 -S training/trainlist_channel.txt -M model/hmm0 -Hmodel/proto/hmm_channel -l channel -L data/train/lab/channel channel

Hinit -A -D -T 1 -S training/trainlist_color.txt -M model/hmm0 -Hmodel/proto/hmm_color -l color -L data/train/lab/color color

Hinit -A -D -T 1 -S training/trainlist_silb.txt -M model/hmm0 -Hmodel/proto/hmm_silb -l silb -L data/train/lab/brightness silb

Hinit -A -D -T 1 -S training/trainlist_sile.txt -M model/hmm0 -Hmodel/proto/hmm_sile -l sile -L data/train/lab/brightness sile

初始化之后我们可以再hmm0文件夹中看到：

6.2.训练

需要创建的目录：

hmm1

hmm2

hmm3

创建位置： model/

每次，HRest迭代（即当前再估计迭代中的迭代）显示在屏幕上，通过change

量度标示收敛性。一旦这个量度值不再从一个HRest迭代到下个迭代减少（绝对值），过程就该停止了，迭代一般2-3次就可以了。

指令：

HRest -A -D -T 1 -S training/trainlist_brightness.txt -M model/hmm1 -Hmodel/hmm0/hmm_brightness -lbrightness -L data/train/lab/brightnessbrightness

HRest -A -D -T 1 -S training/trainlist_brightness.txt -M model/hmm2 -Hmodel/hmm1/hmm_brightness -lbrightness -L data/train/lab/brightnessbrightness

HRest -A -D -T 1 -S training/trainlist_brightness.txt -M model/hmm3 -Hmodel/hmm2/hmm_brightness -lbrightness -L data/train/lab/brightnessbrightness

HRest -A -D -T 1 -S training/trainlist_channel.txt -M model/hmm1 -Hmodel/hmm0/hmm_channel -l channel -L data/train/lab/channel channel

HRest -A -D -T 1 -S training/trainlist_channel.txt -M model/hmm2 -Hmodel/hmm1/hmm_channel -l channel -L data/train/lab/channel channel

HRest -A -D -T 1 -S training/trainlist_channel.txt -M model/hmm3 -Hmodel/hmm2/hmm_channel -l channel -L data/train/lab/channel channel

HRest -A -D -T 1 -S training/trainlist_color.txt -M model/hmm1 -Hmodel/hmm0/hmm_color -l color -L data/train/lab/color color

HRest -A -D -T 1 -S training/trainlist_color.txt -M model/hmm2 -Hmodel/hmm1/hmm_color -l color -L data/train/lab/color color

HRest -A -D -T 1 -S training/trainlist_color.txt -M model/hmm3 -Hmodel/hmm2/hmm_color -l color -L data/train/lab/color color

HRest -A -D -T 1 -S training/trainlist_silb.txt -M model/hmm1 -Hmodel/hmm0/hmm_silb -l silb -L data/train/lab/brightness silb

HRest -A -D -T 1 -S training/trainlist_silb.txt -M model/hmm2 -Hmodel/hmm1/hmm_silb -l silb -L data/train/lab/brightness silb

HRest -A -D -T 1 -S training/trainlist_silb.txt -M model/hmm3 -Hmodel/hmm2/hmm_silb -l silb -L data/train/lab/brightness silb

HRest -A -D -T 1 -S training/trainlist_sile.txt -M model/hmm1 -Hmodel/hmm0/hmm_sile -l sile -L data/train/lab/brightness sile

HRest -A -D -T 1 -S training/trainlist_sile.txt -M model/hmm2 -Hmodel/hmm1/hmm_sile -l sile -L data/train/lab/brightness sile

HRest -A -D -T 1 -S training/trainlist_sile.txt -M model/hmm3 -Hmodel/hmm2/hmm_sile -l sile -L data/train/lab/brightness sile

7.任务定义

7.1 建立语法规则和字典

需要创建的文件：

(1) gram.txt

创建的目录：def

说明：在使用我们的单词模型之前，要定义识别器的基本结构（任务语法）。我们首先定义最简单的语法：开始停顿、接着简单单词（这里指brightness,channel, color）、结束停顿。

内容：

注：用括号{}括住START_SIL和END_SIL表示其可不存在或者重复多次（允许在单词之前或之后长时间的停顿，或者根本没有停顿）。括号[]括住$WORD表示零个或一次出现（如果没有单词，可能只是识别停顿）。

(2) dict.txt

创建的目录：def

说明：系统要知道HMM模型与语法变量BRIGHTNESS、CHANNEL、COLOR、START_SIL和END_SIL的对应关系。这种信息存储在文本文件中，命名为任务字典。

内容：

7.2.网络

建立任务网络：

生成的文件：net.slf

命令：Hparse -A -D -T 1def/gram.txt def/net.slf

运行结果：

8.识别

8.1.准备测试数据

需要准备的文件：

(1) hmmlist.txt

创建的目录：test/

说明：列出了要使用的模型的名字(brightness,channel,color,silb,sile) ，每个一行，最后要加一个空行。

内容：

(2) targetlist_test.txt

创建的目录：test/

内容：

命令：

Hcopy -A -D -C test/analysis.conf -S test/targetlist_test.txt

8.2.识别

基本方法：

需要创建的文件：

(1) result文件夹

(2) reco.mlf

创建的目录：result/

初始内容：

#!MLF!#

(3) hmmsdef.mmf

创建的目录：test

命令等同于：

-H model/hmm3/hmm_brightness -H model/hmm3/hmm_channel -H model/hmm3/hmm_color -H model/hmm_silb -H model/hmm3/hmm_sile

内容：hmm3中的所有文件的内容一起粘贴。

注意：只保留一个"~O"

命令：

Hvite -A -D -T 1 -H test/hmmsdef.mmf -i result/reco.mlf -w def/net.slfdef/dict.txt test/hmmlist.txt data/test/mfcc/brightness/brightness1.mfcc

结果会在reco.mlf中显示：

交互方式：

需要创建的文件：

directin.conf

创建的目录：test

说明：是Hvite的配置文件，允许使用直接音频输入，为了允许从输入信号中直接提取声学系数，这个文件必须包含前面训练数据使用的声学分析配置参数。

内容：

指令：

Hvite -A -D -T 1 -C test/directin.conf -g -H test/hmmsdef.mmf -wdef/net.slf def/dict.txt test/hmmlist.txt

9.性能测试

9.1.主标签文件

在性能评测之前，我们需要创建两个文件，命名为主标签文件，扩展名是.mlf：

·第一个文件包含整个训练集的正确副本，即是通过手工标注的副本。把ref.mlf记作参考副本。

·第二个文件包含整个测试集的识别副本，即识别器产生的假设副本。把reco.mlf记为识别副本。

通过比较每项数据的参考副本和识别假设，进行性能评测。

内容：

ref.mlf

需要创建的文件：testlist.txt

说明：测试路径

内容：

命令：

Hvite -A -D -T 1 -S test/testlist.txt -H test/hmmsdef.mmf -iresult/reco.mlf -w def/net.slf def/dict.txt test/hmmlist.txt

运行之后会看到：

reco.mlf中：

9.2.错误率

需要创建的文件：

labellist.txt

说明：出现在副本文件中的标签列表

创建的目录：result

内容：

results.txt

创建的目录：result

说明：存放错误率结果

命令：

HResults -A -D -T 1 -e ??? sil -I result/ref.mlf result/labellist.txt result/reco.mlf > result/results.txt

最后显示结果为：

注：由于选取的数据集很小只有9个词，非常有限，所以识别率是100%。

第一行（SENT）给出句子的识别率（%Correct=100.00），第二行（WORD）给出的是单词的识别率（%Corr=100.00）。上图中，这两个比率是相同的，这是因为我们的任务语法仅使用一个单词（除了停顿之外）作为句子。这是孤立词识别任务。这里只要考虑第一行（SENT）就够了。H=9 给出的是测试数据被正确识别的数量，S=0，表示识别相反的数量。N=0表示测试数据总数。

10.总结

以上就是利用HTK来进行孤立词识别的搭建过程。希望能够对大家有所帮助，另外具体的各个细节还需要参考HTK BOOK仔细的斟酌和考虑。

1 0