计算机研究与发展

作者：刘壮,刘畅,WayneLin,赵军,

关键词：BERT, 金融文本挖掘, 多任务学习, 预训练, 迁移学习, 金融科技,

近年来，机器学习，尤其是深度神经网络方法促进了金融文本挖掘研究的发展，在金融科技(Fintech)领域起着越来越重要的作用.如何从金融大数据中提取有价值的信息已经成为学术界和工业界一个非常有挑战的研究.由于深度神经网络需要大量标注数据，但是金融领域缺乏训练数据，因此，将深度学习应用于金融大数据挖掘并没有取得很好效果.为了更好地解决该问题，利用自监督学习和多任务学习等深度学习领域最新的思想和技术，提出了基于BERT模型架构的开源金融预训练语言模型F-BERT.F-BERT是一种针对特定领域(金融文本数据)的预训练语言模型，它通过在大型金融语料库上进行无监督训练得到.基于BERT架构，F-BERT可以有效地自动将知识从金融大数据中提取出并记忆在模型中，而无需进行特定于金融任务的模型结构修改，从而可以直接将其应用于下游各种金融领域任务，包括股票涨跌预测、金融情绪分类、金融智能客服等.在金融关系提取、金融情绪分类、金融智能问答任务上的大量实验表明了F-BERT模型的有效性和鲁棒性.同时，F-BERT在这3个有代表性的金融文本挖掘任务上均取得了很高的模型准确率，进一步验证了模型的性能.

来源：2021年第8期

《计算机研究与发展》期刊编辑部

查看计算机研究与发展杂志2021年第8期