keras实现Bi-LSTM+CRF
来源:互联网 发布:外贸邮箱软件 编辑:程序博客网 时间:2024/04/29 04:06
keras官方版目前还没有实现CRF层,但是网上有大牛实现的扩展包戳这里,取用之。
安装方法1
git clone https://www.github.com/farizrahman4u/keras-contrib.gitcd keras-contribpython setup.py install
安装方法2
pip install git+https://www.github.com/farizrahman4u/keras-contrib.git
我自己在使用方法1的时候一直出错,google了好久也没解决,故改用方法2。
安装完之后就可以直接使用了,上面给出的链接里有example,很容易上手。
代码
下面这部分代码是之前做实验搭baseline写的。
input_layer = Input(shape = (max_len, ))embedding_layer = Embedding(len(vocabulary) + 1, output_dim = embedding_dim, mask_zero = True)bi_lstm_layer = Bidirectional(LSTM(64, return_sequences = True))bi_lstm_drop_layer = Dropout(0.5)dense_layer = TimeDistributed(Dense(len(tag_list)))crf_layer = CRF(len(tag_list), sparse_target = True)input = input_layerembedding = embedding_layer(input)bi_lstm = bi_lstm_layer(embedding)bi_lstm_drop = bi_lstm_drop_layer(bi_lstm)dense = dense_layer(bi_lstm_drop)crf = crf_layer(dense)model = Model(input = [input], output = [crf])model.summary()optmr = optimizers.Adam(lr = 0.001, beta_1 = 0.5)model.compile(optimizer = optmr, loss = crf_layer.loss_function, metrics = [crf_layer.accuracy])check_pointer = ModelCheckpoint(filepath = 'best_model.hdf5', verbose = 1, save_best_only = True)hist = model.fit(train_x, train_y, batch_size = 32, epochs = 20, verbose = 2, validation_data = [val_x, val_y], callbacks = [check_pointer])model.load_weights('best_model.hdf5')test_y_pred = model.predict(test_x).argmax(-1)test_y_true = test_y[:, :, 0]
注意
keras-contrib在linux python2.7 theano后端的情况下不work!
虽然不知道原因,总之后端改成tensorflow就没有任何问题。
阅读全文
0 0
- keras实现Bi-LSTM+CRF
- 词法分析之Bi-LSTM-CRF框架
- Keras实现LSTM
- 基于深度学习的命名实体识别bi-lstm+crf
- lstm+crf实现命名实体识别
- keras + LSTM
- Keras框架下LSTM的一种实现
- LSTM梳理,理解,和keras实现
- LSTM梳理、理解和Keras实现
- 论文笔记:[ACL2016]End-to-end Sequence Labeling via Bi-directional LSTM-CNNs-CRF
- 97.5%准确率的深度学习中文分词(字嵌入+Bi-LSTM+CRF)
- End to End Sequence Labeling via Bi-directional LSTM CNNs CRF
- 97.5%准确率的深度学习中文分词(字嵌入+Bi-LSTM+CRF)
- LSTM+CRF介绍
- TensorFlow (RNN)深度学习下 双向LSTM(BiLSTM)+CRF 实现 sequence labeling 双向LSTM+CRF跑序列标注问题
- keras实现BiLSTM+CNN+CRF文字标记NER
- 利用 TensorFlow 高级 API Keras 实现 MLP,CNN,LSTM
- Keras 实现 LSTM在20_newsgroup新闻数据集
- SpringBoot入门-11(springboot配置jsp模板)
- Angularjs购物车计算价格例子
- python3 文件操作
- 动态点分治系列(幻想乡战略游戏、开店、小清新数据结构题)
- Hadoop YARN配置参数剖析(4)—Fair Scheduler相关参数
- keras实现Bi-LSTM+CRF
- IntelliJ IDEA2017.3 激活
- CppPrimer自学(1)
- CNN网络结构进化概述
- 寻找若干个字符串的最长公共前缀
- 关于引用easyui在谷歌浏览器报错
- J2EE框架(三)Reflect
- 三十二、面向对象
- 仿今日头条——主页面F1+频道管理