Bayesian Network Fusion of Large Language Models for Sentiment Analysis

文章主要内容与创新点总结一、主要内容本文针对大型语言模型（LLMs）在金融情感分析中存在的透明度不足、微调成本高、提示工程依赖强、跨领域结果不一致及计算能耗大等问题，提出了贝叶斯网络LLM融合（BNLF）框架。该框架通过概率建模整合FinBERT、RoBERTa和BERTweet三种LLM的情感预测结果，采用后期融合策略，将各模型预测作为贝叶斯网络中的概率节点，建模节点间的依赖关系以实现可解释的情感分类。实验基于三个具有不同语言和语境特征的人工标注金融语料库（Financial PhraseBank、TFNS、FIQA）展开，对比了BNLF与单个LLM、外部基准模型（DistilRoBERTa-financial-sentiment）及传统集成方法（多数投票、概率平均）的性能。结果显示，BNLF在准确率上比基准LLM提升约6%，在不同数据集上表现出稳健性，且通过推理分析和影响力强度分析，揭示了各LLM及数据集特征对最终预测的贡献机制。二、创新点提出了一种新颖的BNLF框架，通过贝叶斯网络的概率建模整合多个LLM的预测结果，兼具模块化、可扩展性和可解释性，解决了传统LLM情感分析中透明度不足的问题。采用轻量化设计，基于中等规模LLM（110M-135M参数），无需额外微调或大规模GPU资源，适用于仅推理场景，降低了计算成本和能耗。提供了透明的模型行为分析机制，通过推理分析和影响力强度分析，量化了各LLM及数据集来源对预测结果的影响，支持因果推理，符合可信AI的可解释性原则。实证验证了不同LLM在跨数据集