由于监控场景覆盖面积大、侵限异物相对尺寸小、背景干扰较多等，现有铁路侵限监控系统检测精度较低，且达不到实时检测要求，为此提出一种基于改进YOLOv8的铁路异物检测算法。首先，引用FasterNet中部分卷积的设计思想，在颈部网络采用FasterC2f模块替代原C2f模块，以降低模型参数量和运算量，同时提升模型的特征融合能力；其次，对快速空间金字塔池化(SPPF)模块进行改进，引入大型可分离核注意力(LSKA)机制，提出一种SPPF＿LSKA模块结构，以在特征提取时减少复杂背景的干扰，加强对小目标的检测能力；最后，采用WIoU损失函数替代原CIoU损失函数，以降低低质量、小目标样本带来的不良梯度影响。实验结果表明：与原YOLOv8模型相比，改进YOLOv8模型检测的平均精度均值(mAP@0.5)达到92.9%,提升了2.09%,模型权重降低了3.28%,浮点运算量降低了6.17%,在检测精度和效率之间达到了较好的平衡，能够满足实际检测需求。