如何训练Tesseract 4.0

原文：https://github.com/tesseract-ocr/tesseract/wiki/TrainingTesseract-4.00

tesseract 4.0之后开始使用机器学习来进行字符识别，其训练模型的方法与以前的版本有所不同，现将其官网的手册翻译如下

（未完成）

一、引言

Tesseract 4.0中包含了一个新的基于神经元网络的识别引擎，使得识别的精度比以前的版本大大提高了，相应的，对机器的计算能力要求也有了一个显著的提高。当然对于复杂的语言，它实际上比基本Tesseract要运行得更快

和基本的Tesseract相比，神经元网络要求大量的训练数据，训练速度也慢了很多。对于拉丁语系的语言，版本中提供的训练好的模型是在400000个文本行，4500种字体上训练得到的。对于 其他语言，可能没有这么多 的字体，但它们训练的文本行数是差不多的。Tesseract的训练将需要几天到2周的时间，而不是几分钟到几个小时。即使使用了这么多的训练数据，你可能还是发现，它并不适合你特定的问题，因此你还需要重新训练模型

训练有几个可选项：

• Fine tune：从一个已经训练过的语言开始，训练你特定的数据。对那种和已有训练数据很接近、但在一些细微的地方有差别，如特定的不常用的字体的场景，这种方式是一种好的选择。即使只有少量的训练数据，这种方式也可以运行得很好
• 去掉网络的最上层（或任意层）重新训练一个新的最上层，并使用新的数据。如果fine tuning不能很好地工作，这可能是一个最好选项。对于训练一个全新的语言，如果你从一种看上去相似的语言开始的话，去掉网络的最上层仍然可以工作。
• 从零开始训练。这是一个艰巨的任务，除非你有非常充分的理由和大量的训练集。如果不是，你可能最终得到一个过拟合的网络模型，它在训练数据上表现得很好，但在实际数据上表现很差

上面几个选项看上去很不一样，实际上训练步骤几乎是一样的，除了命令行有一些不同。所以几种选项都试一下是相当容易的，考虑到时间或硬件的话，可以让它们并行执行

对于4.00版本，老的识别引擎仍然保留，也可以被训练，但它是过时了的，除非有正当的理由，以后发布的版本中可能会删除它

二、开始之前

为了训练tesseract4.0，你不需要任何神经元网络的背景知识，但这些知识可以帮助理解不同训练选项之间的差异。在深陷训练过程之前 ，请先阅读“实现简介”和tesseract3.04版本训练过程中的一些注意事项

重要提示：在你花时间和精力去训练tesseract之前，强烈推荐你阅读“质量改进”页

三、训练要求的额外库

从3.03版本开始，训练工具需要以下一些额外的库：

sudo apt-get install libicu-dev

sudo apt-get install libpango1.0-dev

sudo apt-get install libcairo2-dev

四、构建训练工具

从3.03开始，如果你从源代码编译Tesseract，那你需要使用单独的命令来创建和安装训练工具。安装好上面的额外库后，就可以在Tessercat源代码目录下运行下面的命令来生成训练 工具：

make make training sudo make training-install

下面两条命令是用来生成ScrollView.jar的，这个不是必须的（用来查看训练过程中的结果）

make ScrollView.jar export SCROLLVIEW_PATH=$PWD/java

五、软/硬件要求

在写这篇文章的时候，训练只能在小端字节序（little-endian）机器（如intel）的linux上运行。为了训练tesseract 4.0，最好是使用多核的机器（最好是4核），支持OpenMP和intel的SSE/AVX指令扩展。基本上只要有足够的内存它就可以运行，但是你的处理器越高端，它运行得更快。GPU目前还不支持。内存的使用可以使用--max_image_MB命令行参数来控制，除操作系统占用部分，你可能至少还需要1GB内存

六、训练文本要求：

对于拉丁语系的语言而言，现在版本中提供的训练好的模型数据，是经过了400000个文本行，在4500种字体训练而来，对于 其它的语言，可能没有这么多的字体，但他们也已经训练了同样多的文本行

拥有更多的训练文本、生成更多的页将是有益的，虽然神经元网络并不总是能很好的泛化，并且需要和他们运行时遇到的东西相类似的东西来进行训练。如果目标领域是一个非常限制的领域，那么所有需要大量数据的告警都可以忽略，但神经元网络配置可能需要调整

七、训练过程概述

整体的训练过程和3.04是一样的，都包括以下几步：

1. 准备训练数据

2. 渲染文本成图像+box文件（或者为已经存在的图像文件手工创建box文件）

3. 创建unicharset文件

4. （可选）创建字典数据

5. 运行tesseract来处理图像+box文件来创建训练数据集

6. 在训练集上训练

7. 合并数据文件

主要的不同是：

1. box只在文本行这一级需要，因此当从已经存在的图片数据进行训练时，它更加容易

2. .tr文件已经被.lstmf文件代替

3. 字体可以，也应该被自由地混合，而不需要分开

4. 原来的多步（mf训练，cn训练，形状簇），现在改成一个单一的lstm训练

训练还不能像3.04版本那样自动化，原因如下：

1. 慢速训练过程如果停止，它很难从中间重新开始，很难自动地告诉他什么时候停止训练

2. 在如何训练一个网络时，有很多的选项（参见下文）

3. 训练模型和unicharset可以是不同的，来自基本的tesseract，但并不是必须如此

4. 理论上，对于同一种语言来说，神经元网络版的tesseract并不需要一个基本的tesseract，但是当前如果没有基本版本的tesseract，神经元网络版的tesseract不能被加载

创建训练数据的过程已经写在下面了，后面是lstm训练的指南，介绍了训练主体过程。在Linux上，你可以拷贝-粘贴这些命令到你的终端上。为了让tesstrain.sh脚本能工作，你必须 设置你的PATH到你本地的training和api路径，或者使用make install

八、创建训练数据

和基本tesseract一样，你可以从字体中渲染合成训练数据，也可以对已有的图片（如古人的手稿）进行标注。两种情况下都要求tiff/box文件对

有两种可能的方法来格式化一个box文件

1. box文件格式——选项一

在这种格式中，box文件的每一行匹配tiff图片中的一个字符

在行的结尾处，需要插入一个特殊的行来标识一行的结束

2. box文件格式——选项二（还没有实现）

在这种格式下box只需要覆盖一行文件，而不是覆盖一个单独的字符

WordStr <left> <bottom> <right> <top> <page> #<text for line including spaces>

WordStr是一个标识字符串，它指示box文件分析器从这一行的后部，#之后获取实际的文本字符串

如，文件行”What a nice sunny day!“，应该被写成

#W h a t a n i c e s u n n y d a y !

原来的单词之间的空格被省略

需要注意的是，在任何情况下，即使是像阿拉伯语这种从右向左的语言，文本的抄写（代表着box序列或者一个WordStr字符串）也应该是从左到右的顺序。换句话说，网络将从左到右来进行学习，无论哪种语言，从右到左/双向 处理将在tesseract的更高层进行

这些说明仅仅覆盖了从字体文件中渲染的情况，所以需要安装必须的字体

运行tesstrain.sh的设置和基本tesseract一样，使用--linedata_only选项来进行LSTM训练

运行如下的tesstrain.sh命令将创建训练数据，注意你的字体路径可能需要调整：

training/tesstrain.sh --fonts_dir /usr/share/fonts --lang eng --linedata_only \

--noextract_font_properties --langdata_dir ../langdata \

--tessdata_dir ./tessdata --output_dir ~/tesstutorial/engtrain

上面的命令创建LSTM训练数据，相当于训练基本tesseract时英语数据。为了创建通用目的的基于LSTM的OCR引擎，它还远远不够，但是这是一个很好的演示教程

现在试着为Impack字体创建验证数据：

training/tesstrain.sh --fonts_dir /usr/share/fonts --lang eng --linedata_only \

--noextract_font_properties --langdata_dir ../langdata \

--tessdata_dir ./tessdata \

--fontlist "Impact Condensed" --output_dir ~/tesstutorial/engeval

我们将在在后面的优化演示时使用这些数据

九、lstmtraining使用指南

1. lstmtraining命令行

lstmtraining是一个多任务的训练神经元网络工具，下面列出了它的命令行参数：

标志类型默认值说明Ustring无指向到unicharset的路径script_dirstring无指向langdata路径，用来获取unicharset和基本笔画表net_specstring无指定网络拓扑结构model_outputstring无输出文件/检查点的输出的基本路径max_image_MBint6000缓冲图像时使用的最大内存learning_ratedouble1e-4SGD算法的初始学习率train_modeint80训练模型，64为压缩的unicharset，16用于循环训练net_modeint192网络模型perfect_sample_delayint4当网络变好，仅仅反向传播一个好的样本在很多不好的样本被看到之后，从上一个好的样本允许通过debug_intervalint0如果不为0，则每过这么多轮后显示调试信息weight_rangedouble0.1初始权重的随机数取值范围momentumdouble0.9alpha平滑梯度时的动量值max_iterationsint0经过这么多轮训练后停止target_error_ratedouble0.01如果平均错误率低于此值，则停止训练continue_fromstringnone指向之前的检查点以便继续训练或fine tunestop_trainingboolfalse转换训练中的检查点到一个识别模型append_indexint-1去掉网络的上面几层，追加上--net_spec指定的网张来代替train_listfilestringnone训练数据文件的列表文件eval_listfilestringnone验证数据文件的列表文件，用来独立于训练数据对模型进行评估

多数flags使用默认值就可以工作，有几个是在特殊操作时要求的，但是有几个选项需要特别说明一下：

1.1 unicode字符集压缩和train_mode

LSTM在学习序列时非常好，但是当状态数变得太大时会大幅减慢。有一个经验性建议是：让LSTM学习一个长序列，要比学习许多类的短序列要好，所以对于复杂的语言（如汉语，韩语，印度语），对每个符号重新编码成一个短的序列码，比一个少数的类大类集的效果要好。--train_mode 使用64将打开这个功能开关，它也包含在默认值中。它将每一个汉字字符编码成一个3code的序列，韩文使用Jamo编码，印度文使用syllables作为他们的unicode序列。对于字符集更小的语言（如拉丁文），这些被折叠进不同的单引号形状到一个类，而双引号到一个不同的类

1.2 随机化训练数据和train_mode

为了让随机梯度下降算法能顺利工作，训练数据要求所有的样本文件可以随机打乱组合，所以训练器可以轮流读取每个文件，当到到尾时可以返回到从头开始 。这和基本tesseract训练是完全不同的

如果使用渲染代码（通过tesstrain.sh），它将打乱每个样本文件中的文本行，但你可以得到一组文件，每个包含了单一字体的训练样本。为了增加一个更多混合，你应该使用train_mode 16，即使你不想uncicharset压缩

1.3 模型输出

训练器周期性保存checkpoints文件，使用--model_output作为一个基本名字。因此它可以在任何点上停止训练，并且重新开始，使用相同的命令行，它将继续。为了强制重新开始，使用一个不同的--model_output，或者删除这个目录下的所有文件

1.4 网络模型及优化

128打开Adam优化，这似乎比平坦动量优化会更好一点。代码称它为Adagrad，但并不是说Adagrad就不用动量优化，动量优化还在。没有动量优化的平坦Adagrad完全不能工作

使用64将自动化每层的学习率，当处理过程中，训练器独立地检查每一层是否应该减少学习率，可能更小或更大的学习率来继续学习

1.5 完善采样延迟（？）

在容易的样本上训练并不是一个好主意，它只是在浪费时间，但网络并不能因此不能处理他们，所以可能会丢弃一些训练样本如果样本出现过于频繁。--perfect_sample_delay参数丢弃完好的样本，如果没有发现许多不完好的样本

1.6 调试间隔（？）

--debug_interval，默认值为0，训练器输出每100轮输出一个进展报告

如果--debug_interval -1，训练器将每轮都会输出详细的调试信息

如果--debug_interval 大于0，训练器显示几个窗口的，显示这一层的调试信息。特别的，当--debug_interval 1时，它每进入下一轮之前需要LSTMForward窗口点击一次，但在其它情况下，它将继续并且按要求的频率显示信息

注意：--debug_interval大于0时，你必须构建了ScrollView.jar，还有其它训练工具，详细参见”Building the Training Tools“

2. 从零开始训练

下面的例子是从头开始训练的命令，使用上面的命令行创建的数据

mkdir -p ~/tesstutorial/engoutput

training/lstmtraining -U ~/tesstutorial/engtrain/eng.unicharset \

--script_dir ../langdata --debug_interval 100 \

--net_spec '[1,36,0,1 Ct5,5,16 Mp3,3 Lfys64 Lfx128 Lrx128 Lfx256 O1c105]' \

--model_output ~/tesstutorial/engoutput/base \

--train_listfile ~/tesstutorial/engtrain/eng.training_files.txt \

--eval_listfile ~/tesstutorial/engeval/eng.training_files.txt \

--max_iterations 5000 &>~/tesstutorial/engoutput/basetrain.log

可以打开另外一个窗口监控日志输出：

tail -f ~/tesstutorial/engoutput/basetrain.log

你应该可以观察 到，每500轮，空白将开始在CTC输出窗口，而800轮绿线将出现在LSTMForward窗口中，那有空格在图片上

到600轮时，有一个的非空格的碰撞在CTC输出中。注意这个CTC目标，它开始以同样 的高度现在高度发生变化，因为空白的输出。同时，字符和绿线的位置在LSTMTraining窗口也不精确像他们普通的那样，因为从这个网络的特殊输出，弄乱了CTC算法（CTC假定在不同的x-坐标统计独立 ，但们们很清楚不是独立 的）

到2000轮，它应该是很清楚在输出窗口中：一些微弱的黄色标志将出现，表示有一些正在成长的输出对非空和非空格，并且字符正在开始出现 在LSTMForward窗口中

到3200轮，字符错误率跌入50以下到5000轮到18%

注意，这个引擎训练部分数据与基础Tesseract使用的训练数据是相同的，但是它们的精度在其它字体上是很差的。它在训练5000轮之后停止（目前高端的机器上大约需要半个小时），此时它的字符错误率大约是25%。使用下面的命令可以运行一个单独的测试

training/lstmeval --model ~/tesstutorial/engoutput/base_checkpoint \

--eval_listfile ~/tesstutorial/engeval/eng.training_files.txt

76%的字符错误率？不太好

现在基础Tesseract在Impact字体上做的并不太好，但是它包含了4500多种字体，所以如果你从eng.traineddata中抽取出eng.lstm文件的话，你可以比较一下：

mkdir -p ~/tesstutorial/impact_from_full

training/combine_tessdata -e tessdata/eng.traineddata \

~/tesstutorial/impact_from_full/eng.lstm

training/lstmeval --model ~/tesstutorial/impact_from_full/eng.lstm \

--eval_listfile ~/tesstutorial/engeval/eng.training_files.txt

1.7%的字符错误率？非常好

为了下一节引用，我们在训练集上也运行了一个全模型集的测试

training/lstmeval --model ~/tesstutorial/impact_from_full/eng.lstm \

--eval_listfile ~/tesstutorial/engtrain/eng.training_files.txt

字符错误率是0.047221785，单词错误率是0.24679659

你可以再训练5000轮，可以得到一个更低的错误率，但这对Impact字体并没有多少帮助

mkdir -p ~/tesstutorial/engoutput

training/lstmtraining -U ~/tesstutorial/engtrain/eng.unicharset \

--script_dir ../langdata \

--net_spec '[1,36,0,1 Ct5,5,16 Mp3,3 Lfys64 Lfx128 Lrx128 Lfx256 O1c105]' \

--model_output ~/tesstutorial/engoutput/base \

--train_listfile ~/tesstutorial/engtrain/eng.training_files.txt \

--eval_listfile ~/tesstutorial/engeval/eng.training_files.txt \

--max_iterations 10000 &>>~/tesstutorial/engoutput/basetrain.log

Impact字体的字符错误率还是75%，即使当训练集的错误率已经达到字符错误率为0.86%/单词错误率为3.1%

training/lstmeval --model ~/tesstutorial/engoutput/base_checkpoint \

--eval_listfile ~/tesstutorial/engeval/eng.training_files.txt

training/lstmeval --model ~/tesstutorial/engoutput/base_checkpoint \

--eval_listfile ~/tesstutorial/engtrain/eng.training_files.txt

总的来说，从头开始训练需要一个非常限制的问题，大量的训练数据，或你需要减小网络的结构使用--net_spec。否则你应该用微调方式

3. Fine Tuning

Fine Tuning就是在不改变任何网络结构、字符集的情况下，使用新的数据训练一个已有模型的过程。不需要一个unicharset，script_dir或net_spec，因为它们都可以从已有的模型中得到

training/lstmtraining --model_output /path/to/output [--max_image_MB 6000] \

--continue_from /path/to/existing/model \

[--perfect_sample_delay 4] [--debug_interval 0] \

[--max_iterations 0] [--target_error_rate 0.01] \

--train_listfile /path/to/list/of/filenames.txt

注意：--continue_from参数可以指向一个训练中的checkpoint，也可以是一个识别模型，即使文件格式不同。训练中的checkpoint文件是参model_output 开头、以checkpoint或lstm结尾的文件，像我们上面做的。让我们在上面创建的模型上开始fine tuning，来看看我们能否在Impact上工作得更好：

mkdir -p ~/tesstutorial/impact_from_small

training/lstmtraining --model_output ~/tesstutorial/impact_from_small/impact \

--continue_from ~/tesstutorial/engoutput/base_checkpoint \

--train_listfile ~/tesstutorial/engeval/eng.training_files.txt \

--max_iterations 1200

这一次训练100轮后，字符/单词的错误率达到27%/56.2%，1200轮后达到了1.4%/4.8%。现在我们做一个单独的测试：

training/lstmeval --model ~/tesstutorial/impact_from_small/impact_checkpoint \

--eval_listfile ~/tesstutorial/engeval/eng.training_files.txt

数据显示出一个更低的字符/单词的错误率：0.18%/0.92%，因为训练 器平均超过1000轮了，它已经改进了。这不是Impact这种字体特有的结果，我们是在整个训练集上进行测试

这是一个很有趣的例子。fine tuning是真的可以应用到全训练模型中的一个

mkdir -p ~/tesstutorial/impact_from_full

training/lstmtraining --model_output ~/tesstutorial/impact_from_full/impact \

--continue_from ~/tesstutorial/impact_from_full/eng.lstm \

--train_listfile ~/tesstutorial/engeval/eng.training_files.txt \

--max_iterations 1200

在100轮之后 ，它已经达到 了1.26%/3.98%的字符/单词错误率，在1200轮时更是达到了0.31%/1，18%的错误率。再一次，全单独的测试给出了更好的结果

training/lstmeval --model ~/tesstutorial/impact_from_full/impact_checkpoint \

--eval_listfile ~/tesstutorial/engeval/eng.training_files.txt

字符错误率0.2%，单词错误率0.7%。更有趣的是其它字体的影响，所以运行一个测试在之前我们用的基础训练 集上

training/lstmeval --model ~/tesstutorial/impact_from_full/impact_checkpoint \

--eval_listfile ~/tesstutorial/engtrain/eng.training_files.tx

字符错误率是0.04552459，单词错误率是0.22928254

似乎在那个数据集的结果更好。这可能是因为最初的模型已经被训练在人工降级的图片上，为了使它能学习降级的文本

总的来说，预训练好的模型可以被fine-tuned或适匹到小的数据集上，不需要做大的损害对它的一般精度

4. 只训练几层

如果你不打算修改字符集，Fine-tuning是非常好的选择。但是如果你想增加一个新的字符到一个语言中，或者你想训练克林贡语，你不太可能有大量的训练数据而且它也不太像别的东西，这时你该怎么办？你可以删除掉已有网络模型中上面的若干层，用新的随机层来代替他们，并且训练你的数据。这个命令行几乎与“从零开始训练”节中介绍的一致，只是你必须提供一个unicharset和net_spec，你也可以提供一个模型给--continue_from和--append_index参数

--append_index参数告诉训练器它将删除掉给定的索引值以上的层（从0开始，在最外层），附加的层通过--net_spec参数哪些将保存。虽然这些索引系统并不是完美地引用网络层的方式，它是一个网络规范刘品言大大简化后的结果。这个构建器将输出一个字符串代表它生成的网络，使它可以很容易地检查索引引用到想要的层

作为参考，4.0alpha版本中，chi_sim, chi_tra, guj, hin, jpn, mal, mar, pan, tel这些语言是这样训练的：

--learning_rate 10e-5

--net_spec '[1,0,0,1 Ct5,5,16 Mp3,3 Lfys64 Lfx128 Lrx128 Lfx384 O1c1]'

--net_mode 192

--perfect_sample_delay 19

其它的语言使用下面的参数训练：

--learning_rate 10e-5

--net_spec '[1,0,0,1 Ct5,5,16 Mp3,3 Lfys64 Lfx128 Lrx128 Lfx256 O1c1]'

--net_mode 192

--perfect_sample_delay 19

这两者唯一的不同是最外一个LSTM层的大小。因此在这些模型中，--append_index将保存与相关联的最外层，并且附加 上

Index layer

0 input

1 ct5,5,16

2 mp3,3

3 lfys64

4 lfx128

5 lrx128

6 lfx256/384

已有模型剩下部分的权重开始并不修改，但是允许被新的训练数据修改

例如，让我们将一个已经存在的chi_sim模型转成eng。我们将删除最外一个LSTM层（它在chi_sim模型中比在eng模型中更大）和softmax，换成一个更小的LSTM层和一个新的softmax

mkdir -p ~/tesstutorial/eng_from_chi

training/combine_tessdata -e tessdata/chi_sim.traineddata \

~/tesstutorial/eng_from_chi/eng.lstm

training/lstmtraining -U ~/tesstutorial/engtrain/eng.unicharset \

--script_dir ../langdata --debug_interval 100 \

--continue_from ~/tesstutorial/eng_from_chi/eng.lstm \

--append_index 5 --net_spec '[Lfx256 O1c105]' \

--model_output ~/tesstutorial/eng_from_chi/base \

--train_listfile ~/tesstutorial/engtrain/eng.training_files.txt \

--eval_listfile ~/tesstutorial/engeval/eng.training_files.txt \

--max_iterations 5000 &>~/tesstutorial/eng_from_chi/basetrain.log

因为低层已经训练过了，这个学习比从零开始 训练要快。到400轮，已经有一些空格被输出，到500轮，一些正确的字符被输出，到1000轮，已经所有的字符几乎都正确了。到这时，它就完成了，它应该是2.6%的字符错误率和8.6%的单词错误率

试着使用全训练数据进行一个独立 测试在IMpact字体：

training/lstmeval --model ~/tesstutorial/eng_from_chi/base_checkpoint \

--eval_listfile ~/tesstutorial/engtrain/eng.training_files.txt

training/lstmeval --model ~/tesstutorial/eng_from_chi/base_checkpoint \

--eval_listfile ~/tesstutorial/engeval/eng.training_files.txt

在全训练集，我们得到2.24%/7.36%，而在Impact上23.9%/59.3%，这已经比从头开始训练要好很多了，但是它还是过拟合了

总的来说，删除掉一个已有网络的上面几层是可以的，和从零开始 训练一样，但是需要大师的训练数据作准备，而剩余的是保留下来避免过拟合的

5. 训练过程中的错误信息

训练过程中会出现 几种错误消息，其中有些是比较重要的，而其它的则不太重要

Encoding of string failed! 当训练图像中的文本字符串不能用给定的字符集进行编码时，产生此错误。可能的原因是

1）文本中有一个不可表达的字符，如一个英镑的符号，而你的字符集中没有

2）对文本中的不可打印字符（如表格或控制字符）出现错误

3）文本中有一个不可表达的印度语字母

无论哪种原因，训练器都将训练图片忽略掉。如果这个错误不是很频繁，那它是无关紧要的，但可能指示，对于你正在训练的语言来说，你的字符集是不够的

unichar xxx is too long to encode!!（只在印度语时出现）。为了简化LSTM引擎，编码器对于unicode字符的长度有一个上限。它会把这个字母排除在可识别集之外然后继续，但是如果有很多这个的错误，那你就麻烦了

Bad box coordinates in boxfile string! LSTM训练器只需要一个完整文本行的边界信息，而不需要每个字符的，如果你在box字符串中间放入了空格，像下面这样：

<text for line including spaces> <left> <bottom> <right> <top> <page>

分析器将被弄糊涂，于是给出错误提示。对这个的boxfile字符串有一个不同的格式要求：

WordStr <left> <bottom> <right> <top> <page> #<text for line including spaces>

当训练输入不是以LSTM格式或文件不可读，并行化头就会失败。检查你的文件列表文件，看看它是否包含一个有效的文件名

No block overlapping textline: 对给定的训练数据进行布局分析，来进行分段，如果失败，将出现这个提示。这个文本行将被删除。如果它出现的不多那没什么问题，但是如果有很多，那应该是训练文本或渲染出了问题

<undecodable>出在在ALIGNED_TRUTH or OCR TEXT输出早期在训练中。它是字符集进行压缩和CTC训练的结果（参看上面的字符集压缩和训练模式）。这应该是无害的可以忽略。它出现 的频率应该随着训练的进行而越来越少

十、合并输出文件

lstmtraining程序输出两种类型的checkpoint文件：

<model_base>_checkpoint：是最终的模型文件

<model_base><char_error>_<iteration>.lstm文件会定期地被输出，以最好的训练结果。这个lstm的后缀是一个误导，好像文件格式和识别模式文件格式不同。它和checkpoint文件一样是训练的输出 ，但它更小，因为它并没有一个模型备份，如果训练运行到一个分支时将需要这个备份

这些文件都可以转化为一个识别模型：

training/lstmtraining --model_output ~/tesstutorial/eng_from_chi/eng.lstm \

--continue_from ~/tesstutorial/eng_from_chi/base_checkpoint \

--stop_training

最后，将你的新模型文件和语言模型文件合并成一个数据文件：

training/combine_tessdata -o tessdata/eng.traineddata \

~/tesstutorial/eng_from_chi/eng.lstm \

~/tesstutorial/engtrain/eng.lstm-number-dawg \

~/tesstutorial/engtrain/eng.lstm-punc-dawg \

~/tesstutorial/engtrain/eng.lstm-word-dawg

dawg文件是可选的，没有它们也可以正常工作，但它们通常提供了一些精度 上的改进

注意：Tesseract 4.00将和一个包含了lang.lstm文件的traineddata文件工作得很好。lstm-*-dawgs是可选的，如果没有这些文件，则ocr引擎模式要求使用OEM_LSTM_ONLY 模式，不需要bigrams, chichar ambigs或其它的一些文件，有这些文件甚至没有任何影响

当增加到一个已经存在的Tessearcat traineddata文件中，LSTM字符集并不要求必须与Tesseract中的字符集匹配，但是在训练LSTM和构建lstm-*-dawgs文件时则要求必须使用同样的字符集