基于SoftLexicon和对抗训练的中文医疗命名实体识别

潘世鹏, 吐尔地·托合提, 梁毅, 艾斯卡尔·艾木都拉

PDF(1451 KB)
PDF(1451 KB)
山西大学学报(自然科学版) ›› 2024, Vol. 47 ›› Issue (02) : 260-268. DOI: 10.13451/j.sxu.ns.2023165

基于SoftLexicon和对抗训练的中文医疗命名实体识别

  • 潘世鹏, 吐尔地·托合提, 梁毅, 艾斯卡尔·艾木都拉
作者信息 +
History +

摘要

现有的医疗实体识别模型当中,多数模型不能充分提取和利用文本序列当中词汇信息,且模型结构复杂,使得模型在面临医疗领域的文本时存在实体边界识别不准、鲁棒性较差等问题,并且多数基于字粒度的命名实体识别(Named Entity Recognition, NER)方法对信息遗漏此类问题解决不够完善。针对此类问题,本文提出了一种基于字词融合和对抗训练的命名实体识别模型。模型使用预训练模型BERT(Bidirectional Encoder Representation from Transformers)获取文本序列的字向量;然后使用SoftLexicon引入词典信息并在字向量中添加对抗训练生成的扰动样本;最后使用BiLSTM-CRF(Bi-Long Short-Term Memory-Condition Random Field)进行特征提取并获取序列标注结果。所提出模型在数据集CCKS2019和CCKS2020上进行实验,F1值分别到达了85.07%和90.39%。实验结果表明,与基准模型相比,该模型的F1值提升了2.31%和2.88%,说明字词融合方法和对抗训练相结合能够有效识别医疗实体。

关键词

命名实体识别 / 字词融合 / 对抗训练 / PGD

中图分类号

TP391.1 / R-05

引用本文

导出引用
潘世鹏, 吐尔地·托合提, 梁毅, 艾斯卡尔·艾木都拉. 基于SoftLexicon和对抗训练的中文医疗命名实体识别. 山西大学学报(自然科学版). 2024, 47(02): 260-268 https://doi.org/10.13451/j.sxu.ns.2023165

基金

国家自然科学基金(62166042;U2003207); 新疆维吾尔自治区自然科学基金(2021D01C076); 国防科技基金加强计划(2021-JCJQ-JJ-0059)

评论

PDF(1451 KB)

Accesses

Citation

Detail

段落导航
相关文章

/