做好当下,一切随缘吧

做好当下,一切随缘吧

问题背景

还是在于方法的创新,虽然是数据增强,但玩出了新花样呀。

标注数据集少,所以,在实体识别时,人们开始使用一些领域词典对齐生成伪标注数据集,但在一些情况下,字典也是不可得的,所以,如何解决呢?

一、论文核心

知识问答的形式,生成数据集,用于NER任务
(1)采用提示学习的范式,生成question
(2)采用phrase retrieval model 用于answer 这些问题
(3)在生成的数据上,测试model performance。

二、文章内容

(1) 查询表述:NER的需求首先被表述为简单的自然语言问题。

(2) 检索:我们使用一个开放领域的QA模型来检索相关的短语(即实体)以及要注释的句子。

(3) 词典匹配:检索到的句子由规范化的短语来注释。生成train数据集。

(4) 自我训练:我们使用自我训练(self training),纯粹在我们生成的数据集上训练NER模型。更多细节见第3节。

数据增强:Simple Questions Generate Named Entity Recognition Datasets-LMLPHP

三、experiments

  1. 在rich-resource和few or zero shot条件下,测试模型的性能。
  2. 在fine-gain的实体类型上,测试模型的性能。
  3. 在消融实验中,研究了question template,一些normalization rules(规范化规则),self
    training 的影响。

总结

未来可能的方向:更好的QA模型;多种类型的NER任务(每种类型下,包含的可能实体数量是否有影响,比如美国州和运动员,后者实体量显然大于前者);


新的技术策略,解决旧的问题。
方法可不新颖,但是思路起码要OK。

11-28 07:25