基于PMU实测信号的低频振荡模式在线辨识是阻尼控制的基础，有效去除PMU实测信号中的非线性趋势才能保证模式辨识的精度。提出了基于平滑先验法的PMU实测信号非线性去趋方法。在分析平滑先验法基本原理基础上，为适应低频振荡模式辨识中信号非线性去趋要求，对其频率响应特性进行研究，确定平滑先验法的正则化参数。采用IEEE-39节点系统时域仿真信号和某电网的PMU实测信号对所提方法进行测试，并与经验模态分解法和数字滤波法进行了比较，表明该方法能够更有效地去除信号中的非线性趋势，较大幅度地提高计算速度，同时也能提高低频振荡模式辨识精度，具有较高的实际应用价值。