基于多头自注意力机制和对抗训练的实体关系联合抽取

甘雨金, 李红军, 唐小川, 王子怡, 甘晨灼, 胡正浩

PDF(665 KB)
PDF(665 KB)
成都理工大学学报(自然科学版) ›› 2024, Vol. 51 ›› Issue (03) : 513-521.

基于多头自注意力机制和对抗训练的实体关系联合抽取

  • 甘雨金, 李红军, 唐小川, 王子怡, 甘晨灼, 胡正浩
作者信息 +
History +

摘要

实体关系联合抽取是构建知识图谱的重要阶段,旨在抽取文本中存在语义关系的实体对。针对已有的实体关系联合抽取方法在抽取过程中存在的冗余关系预测、实体关系重叠以及上下文潜在语义信息捕捉不足的问题,提出联合多头自注意力机制和对抗训练的方法进行实体关系的抽取。该方法利用多头自注意力机制捕获潜在语义特征,以提升模型对上下文语义信息的感知能力;将对抗训练引入模型的训练阶段,以增强模型的泛化能力和鲁棒性。实验结果表明:与现有主流模型对比,提出的模型在NYT和WebNLG两个公共数据集上都取得了更优的F1值,在处理实体关系重叠问题以及不定数量三元组抽取上都能保持稳定的性能表现,验证了模型的有效性。

关键词

实体关系联合抽取 / 对抗训练 / 多头自注意力 / 知识图谱

中图分类号

TP391.1

引用本文

导出引用
甘雨金, 李红军, 唐小川, 王子怡, 甘晨灼, 胡正浩. 基于多头自注意力机制和对抗训练的实体关系联合抽取. 成都理工大学学报(自然科学版). 2024, 51(03): 513-521

基金

国家自然科学基金(42050104); 自然资源部深时地理环境重建与应用重点实验室开放基金项目(DGERA20221102)

评论

PDF(665 KB)

Accesses

Citation

Detail

段落导航
相关文章

/