回归分析与抗差卡尔曼滤波协同下大型边坡短期变形的预测方法_熊迪.pdf

回归分析与抗差卡尔曼滤波协同下大型边坡短期 变形的预测方法 熊迪 1 吴浩 1， 2 杨剑 3 郭世泰 1 （1. 武汉理工大学资源与环境工程学院， 湖北 武汉430070； 2. 香港理工大学土地测量与地理资讯学系， 香港 999077； 3. 武汉理工大学土木工程与建筑学院， 湖北 武汉 430070） 摘要由于边坡滑移影响因素众多， 无法建立精确的动力学模型， 因此利用传统抗差卡尔曼滤波模型进行边 坡短期变形预测十分困难， 无法满足大型边坡高精度的预警需求。建立回归分析与抗差卡尔曼滤波协同下大型边 坡短期变形预测模型， 利用拟合值代替含粗差数据进行滤波预测运算， 解决了卡尔曼滤波缺乏对粗差的抗干扰性问 题。利用金堆城露天钼矿大型边坡监测数据开展工程案例研究， 结果表明2种预测模型都是有效的， 但回归分析与 抗差卡尔曼滤波协同下大型边坡短期变形预测模型精度和抗差性2个指标都优于传统抗差卡尔曼滤波模型。 关键词大型边坡变形预测粗差回归分析抗差卡尔曼滤波 中图分类号TD854.6， P228.41文献标志码A文章编号1001-1250 （2019） -04-163-05 DOI10.19614/ki.jsks.201904030 Forecast of Short-term Deation of Large-scale Slope Based on Regression Analysis and Robust Kalman Filter Xiong Di1Wu Hao1， 2Yang Jian3Guo Shitai12 （1. School of Resource and Environment Engineering， Wuhan University of Technology， Wuhan 430070， China； 2. Department of Land Surveying and Geo-inatics， Hongkong Polytechnic University， Hongkong 999077， China； 3. School of Civil Engineering and Architecture， Wuhan University of Technology， Wuhan 430070， China） AbstractDue to many factors affecting the landslide， it is difficult to create an accurate kinetic model，and also it is hard to predict the short-term deation of large-scale slope by using the traditional dynamic model to meet the demand for high-precision early warning of large-scale slopes. The short-term deation prediction model for large-scale slope was es- tablished under the cooperation of regression analysis and robust Kalman filter. Fitting value was adopted to replace the data containing gross errors for filtering and prediction operation， which solves the problem of Kalman filter lacking for anti-inter- ference to gross errors. The engineering case based on monitoring data of large-scale slope in Jinduicheng Open-pit Molybde- num Mine showed that both of the prediction models are effective， but the precision and robustness of the short-term dea- tion prediction model of large-scale slope under the cooperation of regression analysis and robust Kalman filter are better than the traditional robust Kalman filter model. KeywordsLarge-scale slope， Deation forecast， Gross error， Regression analysis， Robust Kalman filter 收稿日期2019-02-15 基金项目武汉理工大学研究生优秀学位论文培育项目 （编号 2016-YS-059） 。 作者简介熊迪 （1993） ， 男， 硕士研究生。 滑坡是一种危害性严重的自然灾害， 威胁着人 民的生命财产安全， 并有可能产生巨大的经济损 失。边坡形变是表征边坡变化的最显著的参数， 最 能体现边坡的变化状况和发展趋势。如果能够准确 地监测出边坡的位移、 变形程度并对变形的发展趋 势进行较准确的预报， 就可以尽早采取减灾防灾的 措施和对策， 使这类灾害造成的损失减少到最低程 度 ［1］。因此进行边坡位移监测和预测具有十分重要 的现实意义。 边坡岩体由初始变化发展到破坏性滑坡， 是一 个极其复杂的发展演变过程， 且受不断变化的环境 工程地质条件的影响， 可将其看作动态系统 ［2］， 而且 总第 514 期 2019 年第 4 期 金属矿山 METAL MINE Series No. 514 April 2019 163 ChaoXing 对于描述边坡形变规律而言， 随着时间不断变化的 状态估计将更符合边坡的实际变形情况并有利于分 析其动态特性。卡尔曼滤波是当前广泛应用的一种 动态的数据处理方法， 它利用状态方程和观测方程 对动态系统进行描述， 利用观测向量来更新随时间 不断变化的状态向量， 无需储存各个不同时期的观 测数据， 可以随时利用新的观测数据求解出下时刻 的预测值 ［3］， 目前卡尔曼滤波已广泛应用于矿山边坡 的变形预测。 但在实际应用中， 由于受到复杂外界因素和偶 然因素的影响， 边坡变形数据中容易存在大量粗 差。而由于卡尔曼滤波缺乏对粗差的抗干扰性 ［5］， 所 以经常会出现效果不理想， 甚至滤波器发散等问 题。针对这个问题国内外许多学者进行了相关研 究， 提出了抗差卡尔曼滤波模型 ［6-9］， 抗差卡尔曼滤波 与标准卡尔曼滤波在递推形式上完全一致， 两者的 差异仅体现在抗差卡尔曼滤波中量测噪音的方差采 用等价方差进行替换， 目前最常用的等价权函数为 IGGⅢ方案 ［10］， 这种方案根据预测残差统计量将测量 数据分为3类 有效数据、 可用数据、 有害数据 （指含 粗差的数据） 。对于这3种数据分别采用保护权、 降 权、 权函数置0这3种处理方式 ［11］。通过这种改进， 抗差卡尔曼滤波可以有效地抑制观测异常， 提高滤 波的精度和可靠性。但这种滤波模型在处理含粗差 的数据时将其权函数取零， 即更新后的滤波值完全 等于动力学模型的预测值。这种处理方案在边坡变 形预测中效果并不理想， 因为边坡变形受不断变化 的环境工程地质条件等复杂因素的影响， 建立的动 力学模型并不能十分精确地描述边坡变形每个时刻 的运动状态。所以在这种情况下完全相信动力学模 型会产生很大误差， 使预测结果出现偏差， 甚至导致 滤波器发散。 本研究针对这个问题， 提出了回归分析与抗差 卡尔曼滤波协同预测方法。这种方法在监测数据出 现含粗差数据时利用回归分析法对以前的数据进行 分析然后对此时的监测值进行拟合， 将拟合值代替 含粗差数据进行滤波预测运算。此方法利用拟合值 对动力学模型预测值进行更新， 使得在监测值含粗 差时也能对边坡变形的趋势进行准确的预测， 增强 了卡尔曼滤波的抗差性。 1抗差卡尔曼滤波模型 变形监测系统是由处于运动之中的一组监测点 所构成， 这些监测点的位置可看作时间K的函数。为 了预测监测点的运动状态， 通常以监测点的位置和 它们的速率为状态向量。设监测点i在K时刻的高程 为HiK， 其瞬时速率为ViK， 而将瞬时加速度WiK看做一 种随机干扰。 卡尔曼递推方程［12］为 XK1/KΦK/K-1XK-1ΓK-1Wk，（1） DK/K-1ΦK/K-1DK-1ΦTK/K-1ΓK/K-1QK-1ΓK/K-1，（2） XKXK/K-1KKLK-HKXK/K-1，（3） DKI-KKHKDK/K-1，（4） KKDK/K-1H T KHKDK/K-1H T KPK -1, （5） 式中，XK/K-1为K时刻状态预测值；XK为K时刻的状态 更新值；ΦK/K-1为K-1时刻到K时刻的状态转移矩阵； DK/K-1为K时 刻 的 协 方 差 矩 阵 预 测 值 ； QK-1EWKWKT；DK为K时刻的协方差矩阵更新值； ΓK/K-1为干扰矩阵；HK ［0 1］ 为观察矩阵；LK为K时刻 的观测向量；PK为量测噪音协方差矩阵。 抗差卡尔曼滤波与标准卡尔曼滤波在递推形式 上完全一致， 两者的差异仅体现在观测模型中量测 噪音的方差采用等价方差进行替换， 目前最常用的 等价权函数为IGGⅢ方案， 其等价权 ［13-14］可表示为 P ˉK ■ ■ ■ ■ ■ ■ ■ ■ ■ ■ ■ PK,|| v K ≤k0 PK k0 || v K ■ ■ ■■ ■ ■ ■■ k1-|| v K k1-k0 2 , k0＜|| v K ≤k1 0，|| v K ＞k1 ，（6） 式中，PK为观测值LK对应的权；k0、k1分别为正常界和 淘汰界的取值， 一般取k01.0～1.5，k12.0～3.0；|| v K为预 测残差统计量。 || v K ■ ■ ■ ■ ■ ■ ■ ■ vT KvK tr ∑vK 1 2 ， （7） 式中，vK为预测残差向量； ∑vK HKDK/K-1H T KPK -1。 2回归分析与抗差卡尔曼滤波协同预测模型 回归分析与抗差卡尔曼滤波协同预测方法在监 测数据含粗差 （即标准化残差大于k1） 时利用回归分 析对此时监测数据进行拟合， 将拟合值代替含粗差 数据进行滤波预测运算。利用拟合值对动力学模型 预测值进行更新， 使得在监测值含粗差时也能对边 坡变形的趋势进行准确的预测， 增强了卡尔曼滤波 的抗差性。回归分析与抗差卡尔曼滤波协同预测方 法流程如图1所示。 本研究最主要的改进就是抗差卡尔曼滤波对于 含粗差数据的处理， 假设第k1个监测数据中含有 粗差， 此时用回归分析法对第k1个监测值进行拟 合， 由于我们对前面的监测值分布形式不了解， 而任 金属矿山2019年第4期总第514期 164 ChaoXing 一段连续函数都可用分段多项式来逼近， 所以采用 多项式回归法来拟合监测值。多项式回归分析法原 理 ［15］如下。 设观察值Y和时间x的回归模型为 Y β0β1xβ2x2...βPxPε，（8） 式中，β0，β1，β2， ....，βP是未知参数；ε服从正态分布N （0， σ2） 。 可采用对P添项增加的建模方法确定P值 从P k1开始， 逐次升高， 每增添一项， 拟合一次多项式， 并 估计出系数βj（j1， 2， 3， ...） 与残差平方和rs （k） ， 2次拟 合作统计检验 rsk-1-rsk rsk/N-k-1～Fα1，N-k-1 . （9） 逐渐增加k， 当新添tk1项不能使残差平方和显著 下降时， 表明拟合的多项式已较优地表达了函数关 系， 取Pk。 由式 （8） 有 EYβ0β1xβ2x2...βPxP.（10） 对变量Y， x进行K次试验观察， 得到K对值 （xi， Yi） ， i1， 2， 3， ...， n。则可以得到正规方程组如下 ■ ■ ■ ■ ■ ■ ■ ■ ■ ■ ■ ■ ■ ■ ■ Kβ0∑ i1 K xiβ1∑ i1 K x2 iβ2...∑ i1 K xP i βP∑ i1 K vi ∑ i1 K xiβ0∑ i1 K x2 iβ1∑ i1 K x3 iβ2...∑ i1 K xP1 i βP∑ i1 K xivi. ⋮ ∑ i1 K x P 1β0∑ i1 K x P1 i β1∑ i1 K x P2 i β2...∑ i1 K x 2P i βP∑ i1 K x P ivi （11） 将K对值代入上述方程组 （11） 中， 通过解此正规 方程组可以得到估计值β0，β1， ...，β。进而可得到回归 方程以及K1时刻的拟合值YK1。 利用回归分析法得到第K1个观测值的拟合值 YK1后， 用YK1代替粗差数据进行迭代运算。 3工程案例 3. 1数据预处理 为了对本研究所提出的回归分析与抗差卡尔曼 滤波协同预测模型进行验证， 以陕西省金堆城露天 钼矿北邦大型边坡地带GPS监测点采集的边坡基础 变形数据为例进行分析。 为了比较2种预测模型面对含粗差数据的抗差 性， 本项目特地采用有突变的监测数据， 数据来源陕 西省金堆城露天钼矿北邦大型边坡地带BB04监测 点2017年6月10日到2017年7月9日的30期Z方向 监测数据， 每组数据间隔为1 d。为了能与预测结果 进行对比， 将监测数据先用 “3σ法则” 进行粗差剔除 然后利用插值法生成参考数据， 其中第3、 16、 20期的 数据利用插值法产生。 3. 2实验结果 将2个模型的预测原理 （步骤） 写成 Matlab 代码， 在Matlab2014R中运算试验， 利用前2期数据计算初 始状态， 然后将监测点的28期实时监测数据输入到 程序当中， 运算并将2个预测模型得到的28期预测 值进行对比分析， 见表1。 3. 3分析与讨论 本研究用t检验分别对抗差卡尔曼滤波模型和 回归分析与抗差卡尔曼滤波协同预测模型的预测结 果与真实值进行了显著性检验， 检验的结果如表2所 示。 由表2可看出， 这2种模型的p值都大于0.05， 所 以2种模型预测值都与真实值不存在显著性差异， 这 说明不管是传统抗差卡尔曼滤波模型还是回归分析 与抗差卡尔曼滤波协同预测模型， 它们的预测值和 真实值都具有统计相关性， 变形预测值都是有效的。 为了比较这2种预测模型的预测精准度和稳定 性， 将2种预测模型各期的预测结果的残差进行比 较， 并将2组预测值的平均残差和残差标准差汇总在 表3中， 2种模型预测残差折线图见图2。 根据表3统计结果， 回归分析与抗差卡尔曼滤波 协同预测结果的残差平均值和残差标准差分别为 5.26和1.27， 传统抗差卡尔曼滤波为7.44和4.51。回 归分析与抗差卡尔曼滤波协同预测结果残差标准差 明显减小， 残差平均值也有减小， 这说明回归分析与 抗差卡尔曼滤波协同预测方法在监测数据含粗差数 据时预测结果离散度小， 结果整体更为稳定， 预测结 果精度高。 熊迪等 回归分析与抗差卡尔曼滤波协同下大型边坡短期变形的预测方法2019年第4期 165 ChaoXing 通过 “3σ法则” 我们知道第3、 16、 20期的监测数 据含有粗差。由图2可看出， 传统抗差卡尔曼滤波预 测模型面对含粗差数据时， 后面几期的预测结果仍 会出现很大偏差， 而回归分析与抗差卡尔曼滤波协 同预测结果则只在后面第1期出现了较小的波动。 这说明回归分析与抗差卡尔曼滤波协同预测模型面 对含粗差数据时预测结果具有更高的精度， 能更好 地抑制滤波器发散， 使其更快的回到正常工作状态， 具有更强的抗差性。 4结论 在大型边坡预测中， 抗差卡尔曼滤波模型在面 对监测值含粗差时处理效果并不理想， 本研究提出 的回归分析与抗差卡尔曼滤波协同预测模型在面对 含粗差数据时利用拟合值对变形动力学模型预测值 进行更新， 增加了预测结果的精度和稳定性。通过 利用金堆城露天钼矿大型边坡监测数据开展工程案 例研究及与抗差卡尔曼滤波的对比， 可以得到以下 几个结论 （1） 通过t检验表明 回归分析与抗差卡尔曼滤 波协同预测值与真实值具有统计意义上的相关性； 同时也表明2种预测模型都是有效的。 （2） 通过对2种模型预测残差值的比较， 说明回 归分析与抗差卡尔曼滤波协同预测模型在监测数据 含粗差时预测精度更高、 具有更强的抗差性。 （3） 尽管取得以上成果， 但还有很多改进之处， 例如工程案例中的监测数据都是连续等间隔的， 但 在实际中， 由于受到复杂环境因素和监测设备性能 影响， 采集到的数据有可能出现大面积的缺失。这 时我们的预测模型的预测结果就存在很大误差， 该 注 RKF表示抗差卡尔曼滤波模型， RARKF表示回归分析与抗差卡尔曼滤波协同预测模型 金属矿山2019年第4期总第514期 166 ChaoXing 如何提高预测模型在这种情况下的适应性， 这问题 还有待解决。 参 考 文 献 陈晓雪.边坡位移监测研究现状述评 ［J］ .地质与勘探， 2008， 44 （2） 110-114． Chen Xiaoxue. Review of current situation of monitoring slope dis- placement ［J］ .Geology and Prospecting， 2008， 44 （2） 110-114． 冯勤生.边坡岩体变形灰色预测研究 ［J］ .内蒙古科技大学学报， 2011， 30 （3） 196-198． Feng Qinsheng.Study of grey forecasting in slope rock mass defor- mation［J］.Journal of Inner Mongolia University of Science and Technology， 2011， 30 （3） 196-198． 齐公玉.基于均方误差最小的卡尔曼滤波实用算法 ［J］ .测绘通 报， 2009 （7） 9-11． Qi Gongyu. Kalman Filter applied algorithm based on mean square error minimum ［J］ . Bulletin of Surveying and Mapping， 2009 （7） 9-11． 李希峰. 抗差卡尔曼滤波在桥梁塔索中的变形监测中的应用 ［D］ .南京 河海大学， 2006． Li Xifeng. The Application of Robust Kalman Filtering in Bridge Cable Tower Deation Monitor［D］ .Nanjing Hehai University， 2006． 高宁.抗野值自适应卡尔曼滤波方法的研究 ［J］ .中国惯性技 术学报.2003， 11 （3） 25-28． Gao Ning. The research of adaptively robust Kalman filtering［J］ . Journal of Chinese Inertial Technology， 2003， 11 （3） 25-28． 杨元喜.动态系统的抗差kalman滤波 ［J］ .测绘科学技术学报， 1997， 14 （2） 79-84． Yang Yuanxi. Robust Kalman filtering of dynamical system［J］ . Journal of Geomatics Science and Technology， 1997， 14 （2） 79-84. 高广为.基于当前加速度模型的抗差自适应 Kalman 滤波 ［J］ .测 绘学报， 2006， 35 （1） 15-18． Gao Guangwei. Adaptive robust Kalman filtering based on the cur- rent statistical model ［J］ .Acta Geodaetica et Cartographica Sinica， 2006， 35 （1） 15-18． Mostafa E .Investigation of adaptive robust Kalman filtering algo- rithms for GPS/DR navigation system filters ［J］ . IOP Conference Se- ries-Materials Science and Engineering， 2017， 187 （1） 12-19 Mahmoud M S.Robust Kalman filtering for continuous time-lag systems with Markovian jump parameter［J］ .Engineering，Electri- cal Electronic， 2003， 50 （1） 98-105 周江文.经典误差理论与抗差估计 ［J］ .测绘学报， 1989， 18 （2） 115-120． Zhou Jiangwen. The classical error theory and robust estimation ［J］ . Acta Geodaetica et Cartographica Sinica， 1989， 18 （2） 115-120． 程明飞.抗差自适应Kalman滤波及其在GNSS测姿系统中的应 用 ［D］ .上海 华东师范大学， 2016． Cheng Mingfei. Robust Adaptive Kalman Filtering and Its Applica- tion in GNSS Attitude Determination ［D］ .Shanghai East China Nor- mal University， 2016． 刘伟诚.基于自适应卡尔曼滤波的沉降变形监测数据估计 ［J］ . 水利与建筑工程学报， 2012， 10 （5） 26-29． Liu Weicheng.Estimation for deation monitoring data based on adaptive Kalman filtering ［J］ .Journal of Water Resources and Architectural Engineering， 2012， 10 （5） 26-29． 杨元喜.抗差估计理论及其应用 ［M］ .北京 解放军出版社， 1993. Yang Yuanxi. Robust Estimation Theory and Its Application［M］ . BeijingPeoples Liberation Army Press， 1993． 张小红.一种改进的抗差Kalman滤波方法在精密单点定位中的 应用 ［J］ .武汉大学学报 信息科学版， 2015， 40 （7） 858-864. Zhang Xiaohong. An improved robust Kalman filtering and its appli- cation in PPP［J］ .Geomatics and Ination Science of Wuhan University， 2015， 40 （7） 858-864． 赵选民.数理统计 ［M］ .北京 科学出版社， 2002 ． Zhao Xuanmin. Mathematical Statistics ［M］ .Beijing Science Press， 2002． （责任编辑石海林） ［1］ ［2］ ［3］ ［4］ ［5］ ［6］ ［7］ ［8］ ［9］ ［10］ ［11］ ［12］ ［13］ ［14］ ［15］ 熊迪等 回归分析与抗差卡尔曼滤波协同下大型边坡短期变形的预测方法2019年第4期 167 ChaoXing