Lou, W.*, Tang, W. & Gao, Y. (2027) Sequential and Parallel Prompt Engineering on Research Article Topic Mining. Information Processing and Management, 64(1), 105110. https://doi.org/10.1016/j.ipm.2026.105110
随着科研文献数量持续增长,如何从大规模文本中提取清晰、可解释的研究主题,成为知识发现与科学计量研究关注的问题。传统主题模型如LDA、BERTopic等虽被广泛使用,但其结果常受统计假设、词袋表示或嵌入聚类方式的限制,在语义深度和概念清晰度上存在不足。近年来,大语言模型(LLMs)为话题挖掘提供了新的生成式路径,但相关研究多把模型当作黑箱使用,对于提示策略和输入形式如何影响主题质量,缺乏系统的方法论讨论。
本研究以图书馆与信息科学(LIS)领域的22,000篇研究论文为数据,设计了一个2×2实验,考察两种提示策略(并行策略与序列策略)和两种输入粒度(结构化元数据与叙事性摘要)对LLM生成主题质量的影响。研究采用语义一致性(Cv、Umass)、主题多样性(TU)以及三位独立领域专家的人工评价进行综合评估,并与LDA、BERTopic、Top2Vec在默认配置和超参数优化配置下的结果进行比较。
研究发现,并行策略在多数自动指标和人工评价中优于序列策略,且运行间方差更小,表现出更高的稳定性。结构化元数据在序列策略下产生较高一致性,而叙事性摘要在并行策略下获得更好的一致性与多样性,说明并行策略对输入复杂性具有较强适应能力。与基线模型相比,并行策略结合结构化元数据在多个评价维度上具有竞争力。基于这些结果,研究提出了面向LLM科学计量分析的目标导向参数选择框架,并讨论了该框架在LIS领域的适用边界与局限。
总体而言,本研究把LLM提示工程从经验性操作提升为结构化方法,为大规模、可复现的主题挖掘提供了设计依据,也为科研人员在不同分析目标下选择提示策略与输入形式提供了参考。

