@Richard88888
Peng Xia 暂无简介
这个存储库包含了利用完形填空问题进行few-shot文本分类和自然语言推理的代码,重要的不仅仅是大小:小语言模型也是few-shot学习者。这篇论文介绍了模式开发训练(PET),这是一种半监督的训练过程,将输入示例重新表述为完形填空式短语。在低资源环境下,PET和iPET显著优于常规监督训练、各种半监督基线,甚至GPT-3,尽管所需参数减少了99.9%。PET (iPET)的迭代变体训练了多代模型