提出了基于因果结构的反事实数据增强方法，以提升文本分类器在关键领域的泛化性能。
原文标题：【NeurIPS2023】基于因果结构的文本增强用于文本的分布外泛化
原文作者：数据派THU
冷月清谈：
本文介绍了一种基于因果结构知识的反事实数据增强方法，旨在解决文本分类过程中伪特征依赖所导致的泛化性能下降问题。随着医疗健康领域对文本分类技术依赖的加深，这种问题引发了广泛关注。文章中，作者通过模拟对伪特征的干预来学习更鲁棒的文本分类器，尤其在标签与属性伪相关的预测问题上提出了有效的策略。研究表明，该方法在真实场景中的应用表现出比传统不变学习算法更高的分布外（OOD）准确性，尤其是在医疗叙述与临床诊断的预测任务中，展现了其潜在的实用价值。
怜星夜思：
1、反事实数据增强的实际应用是否会对文本分类的准确性产生持久影响？
2、在医疗领域中，如何确保使用的模型在数据增强方面的可靠性？
3、除了医疗领域，哪些其他领域可以借助反事实数据增强技术？
2、在医疗领域中，如何确保使用的模型在数据增强方面的可靠性？
3、除了医疗领域，哪些其他领域可以借助反事实数据增强技术？
原文内容
来源：专知本文为论文介绍，建议阅读5分钟
在这项工作中，我们提议使用基于数据的因果结构知识的反事实数据增强，来模拟对伪特征的干预，并学习更鲁棒的文本分类器。
文本分类器对伪相关的依赖可能导致在部署时的泛化性能下降，这引发了对其在像医疗健康这样的关键安全领域使用的担忧。在这项工作中，我们提议使用基于数据的因果结构知识的反事实数据增强，来模拟对伪特征的干预，并学习更鲁棒的文本分类器。我们展示了这种策略在标签与属性伪相关的预测问题中是适当的。在这类问题的假设下，我们讨论了反事实数据增强相对于重要性重新加权的有利样本复杂性。从实用角度，我们使用基于差异-差异方法的辅助数据匹配示例，并使用大型语言模型（LLM）来表示文本的条件概率。通过在学习从医疗叙述中预测临床诊断的照料者不变预测器以及在半合成数据上的广泛实验，我们证明了我们的干预模拟方法比基线不变学习算法有更好的分布外（OOD）准确性。
