资源描述:
第 49 卷第 11 期煤 炭 科 学 技 术Vol 49 No 11 2021 年11 月Coal Science and Technology Nov.2021 移动扫码阅读 张 超,张旭辉,杜昱阳,等.基于双目视觉的悬臂式掘进机位姿测量技术研究[J].煤炭科学技术,2021,49 (11)225-235 doi10 13199/ j cnki cst 2021 11 029 ZHANG Chao,ZHANG Xuhui,DU Yuyang,et al.Measuring technique of cantilever roadheader position based on bin⁃ ocularstereovision [ J ]. CoalScienceandTechnology, 2021, 49 ( 11 ) 225 - 235 doi 10 13199/ j cnki cst 2021 11 029 基于双目视觉的悬臂式掘进机位姿测量技术研究 张 超1,张旭辉1,2,3,杜昱阳1,2,3,杨文娟1,张楷鑫1 (1.西安科技大学 机械工程学院,陕西 西安 710054;2.陕西省矿山机电装备智能监测重点实验室,陕西 西安 710054; 3.陕西省煤矿机电设备智能检测与控制科技创新团队,陕西 西安 710054) 摘 要煤矿井下巷道掘进过程中,高粉尘、低照度、背景复杂的工况环境导致掘进装备位姿检测困 难,已经严重影响了巷道掘进的自动化、智能化进程,因此提出基于双目立体视觉的悬臂式掘进机位 姿测量方法。 悬臂式掘进机是当前巷道掘进主要装备,其运动特点呈现出移动缓慢、摆动大等特点, 分析了当前掘进机位姿检测研究现状,构建了悬臂式掘进机双目视觉位姿测量方案与测量结构。 说 明了双目立体视觉基本测量原理,相比于单目视觉,双目立体世界可以比较容易地计算出特征深度信 息。 煤矿井下低照度、高粉尘、高水雾的复杂工况下存在着严重的特征信息缺失,红外 LED 光源具有 稳定性和穿透性,可以较好地适应复杂的掘进工况环境,因此将红外 LED 光源组成图像测量标靶人 为构造图像特征来解决特征选取问题。 采用高斯拟合法实现光斑中心点特征的快速精确提取,并在 此基础上提出了基于时域图像序列的特征点环形匹配方法并验证了其有效性,最后采用 3D-3D 运动 估计方法实现了位姿参数求解。 针对双目视觉测量距离有限的情况,设计了双标靶交替移动测量策 略,实现连续不间断测量。 最后搭建试验验证平台,结果表明该测量方法在 X 方向即横向位移的测 量误差在30 mm,航向角的测量误差在1以内,满足煤矿井下巷道掘进的要求。 关键词双目视觉;悬臂式掘进机;位姿测量;高斯拟合法;区域生长算法 中图分类号TD421 文献标志码A 文章编号0253-2336(2021)11-0225-11 Measuring technique of cantilever roadheader position based on binocular stereo vision ZHANG Chao1,ZHANG Xuhui1,2,3,DU Yuyang1,2,3,YANG Wenjuan1,ZHANG Kaixin1 (1.College of Mechanical Engineering,Xi’an University of Science and Technology,Xi’an 710054,China; 2.Shaanxi Key Laboratory of Mine Electromechanical Equipment Intelligent Monitoring,Xi’an 710054,China; 3.Shaanxi Innovation Team of Intelligent Detection and Control for Mine Electromechanical Equipment,Xi’an 710054,China) 收稿日期2021-03-21;责任编辑周子博 基金项目国家自然科学基金资助项目(51974228);陕西省创新能力支撑计划资助项目(2018TD-032);陕西省重点研发计划资助项目(2018ZDCXL-GY-06 -04) 作者简介张 超(1992),男,陕西凤翔人,博士研究生。 E-mail18092514635@ 163.com 通讯作者张旭辉(1972),男,陕西凤翔人,教授,博士生导师。 E-mailzhangxh@ xust.edu.cn AbstractIn the process of tunneling in underground coal mines, high dust, low illumination, and complex background conditions make it difficult to detect the attitude of the tunneling equipment, which has seriously affected the automation and intelligence process of tunnel tunneling. Therefore, a method for measuring the position and posture of cantilever roadheader based on binocular vision was proposed. Boom roadheader is currently the main equipment for roadway excavation, and its motion characteristics show slow movement and large swing. and the status quo of position and posture measurement technology of machine body of tunneling equipment were analyzed. Com⁃ bined with the working characteristics of the roadheader, the binocular vision measurement scheme and measurement structure were con⁃ structed. Under the complex working conditions of low illumination, high dust and high water mist in coal mines, there was still serious lack of characteristic information. The infrared LED light source has good stability and penetrability and can well adapt to the complex driv⁃ ing environment. The Gaussian fitting method was used to realize the fast and accurate extraction of the characteristics of the spot center point. On this basis, a feature point ring matching method based on the time domain image sequence was proposed and its effectiveness was verified. The 3D-3D motion estimation method was used to achieve the pose parameters. In view of the limited distance of binocular 522 万方数据 2021 年第 11 期煤 炭 科 学 技 术第 49 卷 vision measurement, the dual-target moving measurement strategy was designed to realize continuous and uninterrupted measurement.Fi⁃ nally, the experimental verification platform was built. The results show that the measurement error of the method in the X direction that is⁃ the lateral displacement is 30 mm,and the measurement error of heading angle is within 1, which meets the requirements of under⁃ ground roadway excavation in coal mines. Key wordsbinocular vision; cantilever roadheader; pose measurement;gaussian fitting method;region growing algorithm 0 引 言 随着煤矿综采工作面智能化推进,煤炭开采效 率大幅提升,然而由于其复杂的工况环境和繁琐的 工序导致巷道掘进自动化进展缓慢[1]。 当前采掘 工作队配比为 1 ∶ 3.1,且掘进过程以人工操作为主, 不能保证巷道成型质量。 推动掘进的自动化、智能 化和无人化研究是提高掘进速度,保证掘进安全的 有效途径,掘进装备的位姿自主测量是实现自动化、 智能化的前提。 当前巷道掘进作业中以地测部门按照巷道设计 走向固定在掘进机后方巷道一定位置的点激光指向 仪为掘进基准,根据前方煤壁上的激光光斑作掘进 方向指示。 这种指向方式要求掘进机司机经验丰 富,但仍然会出现超挖欠挖,巷道成形不佳。 这种落 后的指向方式迫切地需要改变,为此许多专家学者 做了大量的研究工作。 文献[2]提出了基于全站仪 的掘进机位姿测量方法,并在现场测试了有效性,但 是难以实现自主测量。 惯性导航技术应用在煤矿领 域[3-4],该方法可直接获得位姿信息,抗干扰强,但 严重的累积误差导致需要其他信息定时修正。 杜雨 馨等[5]以十字激光器为特征源,利用视觉测量技术 实时获取部分位姿信息,无法得到巷道轴线距离。 文 献[6]将双目相机与激光指向仪刚性连接拍摄机身 上的特征达到求解位姿的目的,双目测量距离一般很 近,导致距离较远时测量失效。 基于 iGPS 定位技 术[7],基于空间交汇测量技术[8]、基于超宽带测量技 术[9]等均能实现位姿测量,但其系统较为复杂,难以 持续化运行。 杨文娟等[10]将激光指向仪改进为两个 平行激光指向仪束,利用单目视觉技术实现复杂背景 下机身实时位姿获取,并在井下成功应用。 综上所述,悬臂式掘进机位姿测量可以分为人 工测量、半自动测量和自主测量[11]。 结构简单、操 作方便的自主测量方式是今后采掘装备的发展趋 势。 基于此,提出了基于双目立体视觉的悬臂式掘 进机位姿自主测量方法,该方法采用红外 LED 特征 替代巷道环境特征,构建双目视觉位姿测量结构,旨 在为实现巷道掘进自动化、智能化和无人化研究提 供借鉴。 1 双目视觉测量方案 1.1 双目视觉测量原理 理想情况下双目视觉空间点坐标测量原理如图 1 所示。 双目相机左右视图的成像原点一致、两相 机光轴平行及成像平面的极线行对齐[12]。 以左相 机坐标系为世界坐标系,在空间中有一点 P,相对于 双目相机的中心的世界坐标为 (XW,YW,ZW) 。 图 1 双目视觉测量原理 Fig.1 Principle of measurement in binocular vision 双目相机中左右相机光心分别是 Ol、Or,焦距 为 f,基线距离为 B。 世界中点 P 在左右相机成像平 面中的成像点为 xl(xl,yl) 、 xr(xr,yr) 。 在理想状 态下左右相机的光心一致,即 cleft x = c right x = c x, c left y = c right y = c y (1) 式中 (cleft x ,cleft y ) 、 (cright x ,cright y ) 分别为左右相机主像 素坐标; (cx,cy) 为理想情况下左右相机主像素 坐标。 根据相似三角形原理可得 XW xl - c x = B - XW - (xr- cx) = ZW f (2) ZW f = YW yl - c y = YW yr - c y (3) 联立式(2)和(3)从而可得 XW= (xl - c x)B xl - x r YW= (yl - c y)B xl - x r ZW= fB xl - x r (4) 622 万方数据 双目相机 相机内参数 双目视觉位姿测量付 I L ▲ 次 掘又 ■■■■■⋯■■■■⋯■■■■_ 二土一 进 疋 红外L E D 视 7 I y 。 维 逍 值机 标靶 图 图 特 特 觅 像 像 征 征 特、一 机 征 还 序 相机 校 区域 习,疋 环形 匹 i 角 ▲●- ●_ 1 占 迭代 动 /j 七日 .,、、、 估 位 币 取 匹配 配 测量 坐 最近 计 厶. 列 参数 L J _ ▲ 生长 姿 双目相机 士;占 列、 .,、、、 名爹 _ , ⋯⋯一..J 数 张 超等基于双目视觉的悬臂式掘进机位姿测量技术研究2021 年第 11 期 为保证测量符合测量原理,开展测量的第一步 工作应该是利用双目相机标定原理获得双目相机各 自的内参数,根据双目立体校正技术对双目视觉进 行校正[13]。 1.2 悬臂式掘进机双目视觉位姿测量方案 悬臂式掘进机双目视觉测量系统结构如图 2 所 示。 将掘进机简化为长方体模型,将双目相机固定 在机身上镜头朝向机尾方向,便于拍摄后方的图像 特征。 图 2 悬臂式掘进机双目视觉测量系统结构 Fig.2 Measurement structure of binocularvision for cantileverro adheader 在掘 进 机 机 身 重 心 处 建 立 机 身 坐 标 系 Ob- XbYbZb,其中 x 方向指向掘进机左侧并垂直于前进 方向,y 方向垂直向上,z 方向于前进方向一致;建立 双目视觉测量坐标系 Oc - X cYcZc,3 个方向均与机 身坐标系各方向平行但方向相反。 悬臂式掘进机双目视觉位姿测量方案如图 3 所 示。 首先采用张正友标定原理对双目相机进行内参数 标定,获得两相机内参数和两相机之间的变换矩阵。 利用双目相机采集双目图像获得双目图像序列,根 据标定得到的参数利用双目校正技术实现双目图像 的立体校正,随后利用区域生长的方法实现图像特 征分割并采用高斯拟合的方式实现特征的快速精确 提取。 将前后 2 帧双目图像进行环形匹配实现双目 图像的时域特征匹配,得到获得 4 组匹配好的特征 点组,即 2 组相邻时刻双目图像特征点。 根据前述 三角测量原理,结合相机内参数计算得到 2 组 3D 空间坐标,最后利用运动估计方法求解机身的运动 参数。 图 3 悬臂式掘进机双目视觉位姿测量方案 Fig.3 Measure mentpro gramme of binocular visual for cantilever roadheader 2 双目图像特征选取 2.1 红外 LED 图像特征 在视觉测量技术中,常用的图像特征有点特征、 线特征、图形特征和边缘特征。 在煤矿井下巷道掘 进中,低照度、高粉尘和机电设备众多且集中等造成 图像特征不明显或特征缺失,因此,通过人为构建图 像特征的方法可以有效地保证稳定的特征。 在研究 截割头位姿视觉测量方法[14-15]时采用了一种红外 LED 灯作为图像特征,有效地避免了杂光的干扰, 增加了特征的稳定性,在此基础上,人为构建红外 LED 标靶作为图像特征。 双目相机拍摄的红外 LED 双目图像如图 4 所示。 2.2 红外 LED 图像井下应用 在山西某矿综掘工作面,基于红外 LED 特征的 截割头位姿视觉测量方法在井下成功应用。 如图 5 所示,是现场拍摄的井下红外 LED 标靶图像和在高 图 4 红外 LED 双目图像 Fig.4 Binocu larimages based on infrared LED 粉尘、低照度、大水雾中拍摄的标靶图像。 由图 5a 近距离拍摄的红外 LED 标靶图像可以 看出,在巷道掘进过程中高粉尘、大水雾和低照度等 工况十分恶劣;图 5b 是未掘进时工业相机拍摄的红 外 LED 标靶图像,可以看出特征非常清晰;图 5c 中 红外 LED 标靶受到了粉尘水雾的影响,但是光斑特 征依然清晰。 在煤矿井下应用时,红外 LED 标靶安 装在截割臂上,距离截割头和前煤壁较近,在此种情 况下图像特征依然可以精确提取说明这种方案是可 行的。 722 万方数据 己0 ‘珏口鲁一莒‘;一宣C -●,- ●- _ ■■ [ 】 [ ● ●● ● ● _ ■■ ●_ 2021 年第 11 期煤 炭 科 学 技 术第 49 卷 图 5 红外 LED 标靶在煤矿井下的应用 Fig.5 Application of infrared LED targetin underground coal mine 红外 LED 标靶放置在掘进机后方一定位置处, 受到的粉尘和水雾影响较小,因此采用红外 LED 作 为视觉测量中的图像特征。 3 特征提取与匹配 3.1 特征提取 图像特征提取即准确地提取红外 LED 光斑中 心。 光斑中心精确定位分为光斑区域分割和中心点 定位 2 个步骤。 3.1.1 光斑区域分割 采用红外 SE3470 灯组成的红外 LED 标靶作为 图像特征,在基于红外 LED 特征的双目图像中,每 个光斑区域具有很强的连通性。 红外 LED 灯的图 像特征成像如图 6 所示,特征点成像近似椭圆,且其 灰度值从光斑中心向边缘减小。 图 6 红外 LED 光源成像与放大 Fig.6 Imaging and amplifi cation of infrared LED light source 根据这种特性,采用区域生长的方法对双目 图像进行光斑区域分割。 区域生长算法的思想是 将具有相似性的像素点合并到一起[16]。 利用区域 生长的算法实现红外 LED 特征点光斑区域分割的 关键在于确定生长种子点、区域生长和停止生长 的条件。 在双目图像中光斑区域较多,采用人机 交互的方式确定种子点不能满足需求,因此提出 一种自动确定种子生长点的区域分割方法。 具体 实现步骤如下 步骤①创建一个全黑的空白图像 J,即灰度值 J(x,y) = 0。 步骤②以原图像 I(x,y) > T&J(x,y)= 0 为种 子的自动判定条件,确定多种子点起始生长点坐标, 其中 T 为阈值 , (x,y) 为像素坐标。 步骤③判断种子点 (x0,y0) 周围 8 邻域像素 (x,y) 与种子像素灰度值之差的绝对值小于某个阈 值,如果满足条件,将 (x,y) 与 (x0,y0) 合并为统一 区域,并将其灰度值写入图像 J,并压入堆栈。 步骤④从堆栈中取出一个像素,把它当做新的 种子点 (x0,y0) 返回到步骤②,直到堆栈为空,此时 一个光斑区域分割结束。 步骤⑤重复步骤①④直到图像中每个点都 有归属,生长结束。 如图 7 所示是利用区域生长算 法实现的双目左图像区域分割结果。 图 7 左图像光斑区域分割 Fig.7 Region-dependent segment ation of spotsin leftimage 3.1.2 光斑中心定位 通过区域生长算法实现了特征点光斑区域分 割,获得了各个区域的所有像素坐标。 一个光斑图 像的灰度分布如图 8 所示,近似于二维高斯分 布[17],其模型是 I(x,y) = I0 2πσ2 psf exp (x - x0) 2 2σ2 psf exp - (y - y0) 2 2σ2 psf (5) 式中 I0为红外 LED 的总能量; (x,y) 为高斯分布 函数区域内一点坐标; (x0,y0) 为光斑的成像中心 坐标; σpsf为高斯函数的均方差。 采用粗提取的方法提取光斑的中心点 (x′,y′) ,记 粗提取中心点左边的像素点坐标为 (xl,y′) ,中心点右 侧的像素坐标 (xr,y′) ,中心点上方的像素点坐标为 (x′,yup) ,中心点下方的像素点坐标为 (x′,ydown) 。 由 公式(6)可知 822 万方数据 1 e R 图像 p 』 1 2 r i g h t 图像 尸r 2 1 e R 图像r i g h t 图像 只1 张 超等基于双目视觉的悬臂式掘进机位姿测量技术研究2021 年第 11 期 图 8 光斑图像的灰度分布情况 Fig.8 Grayscale distribution of spot image lnI(x,y) = ln I0 2πσ2 psf - (x - x0) 2 2σ2 psf - (y - y0) 2 2σ2 psf (6) 对于 (xl,y′) 、 (x′,y′) 、 (xr,y′) 三点,可以得 出以下方程组 lnI(xl,y′) = ln C - (xl - x 0) 2 2σ2 psf lnI(x′,y′) = ln C - (x′ - x0) 2 2σ2 psf lnI(xr,y′) = ln C - (xr - x 0) 2 2σ2 psf (7) 式中 ln C = ln I0 2πσ2 psf - (y - y0) 2 2σ2 psf 。 由此可计算出光斑中心点坐标为 x0= 1 2 (xr2 - x′ 2)lnI(x l,y′) + (xl 2 - x r 2)lnI(x l,y′) + (x′ 2 - x l 2)lnI(x l,y′) (xr- x′)lnI(xl,y′) + (xl - x r)lnI(xl,y′) + (x′ - xl)lnI(xr,y′) y0= 1 2 (yr2 - y′ 2)lnI(x′,y l) + (yl 2 - y r 2)lnI(x′,y′) + (y′2 - y l 2)lnI(x′,y r) (y2- y′)lnI(x′,yl) + (yl - y r)lnI(x′,y′) + (y′ - yl)lnI(x′,yr) (8) 由此可知,光斑中心点 (x0,y0) 可以快速计算 得出。 光斑中心点定位结果如图 9 所示。 图 9 光斑中心定位结果 Fig.9 Location of spot center 3.2 特征点匹配 悬臂式掘进机双目视觉位姿测量方法中的特征 点匹配是时域特征点匹配,即同一帧左右图像的特 征点匹配和相邻两帧之间的特征点匹配,本文采用 环形匹配策略实现特征点精确匹配。 环形匹配策略 结构如图 10 所示。 沿时间轴方向选择 t1、 t2时刻 2 帧图像,截取前 后两帧双目图像, t1时刻左右图像分别是 Pl1和 Pr1, t2时刻左右图像分别是 Pl2和 Pr2。 根据前文 所述方法实现双目图像中光斑中心的精确定位。 环 形匹配具体的实现过程如下 步骤①建立匹配坐标系。 在每幅图像中,取所 有特征点像素坐标中 x 和 y 方向坐标值的最大和最 小值,计算各自的平均值组成新的坐标 A(xav,yav) , 以此为原点,x 和 y 方向不变建立匹配坐标系。 并求 取每个特征点与坐标 A(xav,yav) 的特征向量。 以 Pl1图像中为例,假设特征点 Pi坐标为 (xi, 图 10 特征点环形匹配策略 Fig.10 Ring-matching strategy for feature points yi) ,其中 (i = 1,2,3,,n) 。 计算 xi中的最大值 xmax和最小值 xmin,并计算两者的平均值,记为 xav; 同理计算出 yi中的最大值 ymax和最小值 ymin,并计算 两 者 的 平 均 值, 记 为 yav。 组 成 新 的 坐 标 点 A(xav,yav) 。 xmax= max 0 < i < nxi (9) xmin= min 0 < i < nxi (10) 其平均值为 xav= 1 2 (xmax + x min) (11) 同理 ymax= max 0 < i < nyi (12) ymin= min 0 < i < nyi (13) 其平均值为 yav= 1 2 (ymax + y min) (14) 922 万方数据 2021 年第 11 期煤 炭 科 学 技 术第 49 卷 计算每一特征点的方向向量 PA → 。 PA → = ((xi- xav),(yi- yav)) = ( 2xi- (xmax + x min) 2 ,2y i - (ymax+ ymin) 2 ) (15) 步骤②以 t2时刻左图像第一个特征点 P0(x0, y0) 为匹配起点,计算特征向量 P0A → 与 t2时刻右图 像中所有特征点 Pj(xj,yj),j = 1,2,3,,n 的特征向 量之间的欧式距离 dj,并求解欧式距离中的最小值 dmin,并满足 dj=(xj - x 0) 2 + (yj- y0) 2 ,(j = 1,2,3,,n) (16) dmin= min 0 < j < ndj (17) 其对应的点为 Pdmin,以 A′ 表示 t2时刻右图像 的匹配中心点坐标,则 t2时刻右图像疑似对应点的 方向向量为 PdminA′ → ,并满足P0A → - P dminA′ → < μ ,其 中 μ 是设定的阈值。 那么 Pdmin就是与 t2时刻左图 像匹配成功的 t2时刻右图像中对应的特征点,否 则就返回 t2时刻左图像选择新的特征点重新 匹配。 步骤③匹配成功后,继续匹配 t1时刻右图像 中对应的特征点。 t2时刻右图像中的匹配成功的 特征点按步骤②找到 t1时刻右图像中的匹配点, 若不满足,返回 t2时刻左图像选择新的特征点进 行匹配。 步骤④匹配成功后,继续匹配 t1时刻左图像中 对应的特征点。 t1时刻右图像中的匹配成功的特征 点按步骤②找到 t1时刻左图像中的匹配点,若不满 足,返回匹配 t2时刻左图像选择新的特征点进行 匹配。 步骤⑤匹配成功后,继续匹配 t2时刻左图像中 对应的特征点。 将 t1时刻左图像中的匹配得到的特 征点对应的特征向量按照步骤②对 t2时刻左图像进 行匹配,若匹配得到的特征点与起始匹配点一致,匹 配成功;否则匹配失败。 步骤⑥选择 t2时刻左图像新的特征点按步骤 ②⑤循环执行,直至 t2时刻左图像中所有特征点 已执行匹配过程。 环形匹配结果如图 11 所示。 4 悬臂式掘进机运动估计 利用环形匹配结果,结合双目视觉测量原理就 可以计算出相机坐标系的 2 组 3D 点空间坐标。 那 图 11 特征点环形匹配结果 Fig.11 Result soffeature point sbasedon ring matching 么基于双目视觉的悬臂式掘进机运动估计问题就变 成了已知 2 组匹配好的 3D 点坐标求解相邻时刻的 运动变换参数[18]。 假设 2 组 3D 点表示为 P = p1,,pn,P′ = p1′,,pn′(18) 求解变换矩阵 R,D 满足 ∀i,pi= Rpi′ + D(19) 得到的 R 和 D 就是相机运动的变换矩阵。 采 用线性代数方法求解(SVD)该问题。 定义第 i 对点的误差项为 ei = p i - Rpi′ + D (20) 则构建其最小二乘问题,求解 R 和 D 使得误差 平方和达到极小 min R,D J = 1 2 ∑ n i = 1 ‖pi- (Rpi′ + D)‖ 2 2 (21) 首先定义两组点的质心 p = 1 n ∑ n i = 1 pi, p′ = 1 n ∑ n i = 1 pi′(22) 将公式(21)中的最小二乘函数可化简为 1 2 ∑ n i = 1 ‖pi- (Rpi′ + D)‖ 2 2 = 1 2 ∑ n i = 1 ‖pi- Rpi′ - D - p + Rp′ + p - Rpi′‖ 2 2 = 1 2 ∑ n i = 1 ‖pi- p - R(pi′ - p) + p - Rp′ - D‖ 2 2 = 1 2 ∑ n i = 1 ‖pi- p - R(pi′ - p)‖ 2 2 + ‖p - Rp′ - D‖2 2 + 2(pi- p - R(pi′ - p)) T(p - Rp′ - D) (23) 交叉项中 pi- p - R(pi′ - p) 在求和之后为 0, 因此目标函数可以优化为 min R,D J = 1 2 ∑ n i = 1 ‖pi-p-R(pi′-p)‖2 2+‖p-Rp′-D‖ 2 2 (24) 由式(24)可以发现, ‖pi- p - R(pi′ - p)‖2 2 032 万方数据 B 彳 双目相机 煤 张 超等基于双目视觉的悬臂式掘进机位姿测量技术研究2021 年第 11 期 只和旋转矩阵有关,‖p - Rp′ - D‖2 2中既有R 也有 D,但只与质心有关。 因此只要计算出 R,令第 2 项为 0 就能得到 D。 因此,求解可以分为以下 3 个步骤 1)计算2 组点的质心位置 p, p′, 然后计算每个 点的去质心坐标 qi = p i - p ; qi′ = pi′ - p′ (25) 2)根据以下优化问题计算旋转矩阵 R∗= arg min R 1 2 ∑ n i = 1 ‖qi- Rqi′‖ 2 2 (26) 3)根据第(2)步计算结果 R,求得 D 展开 R 的误差项 1 2 ∑ n i = 1 ‖qi- Rqi′‖ 2 2 = 1 2 ∑ n i = 1 qT iqi + q′ i TRTq i′ - 2q′i TRq i′ (27) 显然第 1 项与 R 无关, RTR = I ,第 2 项也与 R 无关,所以目标函数简化为 ∑ n i = 1 - q′ i TRTq i ′ = ∑ n i = 1 - tr(Rq′iTqi′) =- tr(R∑ n i = 1 q′i Tq i′) (28) 定义矩阵 W =∑ n i = 1 q′i Tq i′ (29) 所以 W 是一个 33 的矩阵,对其进行 SVD 分 解得到 W = U∑VT(30) 当 W 满秩时,R 为 R = UVT(31) 解得 R 后,代入公式(25)即可求出 D。 式中 R 是一个 33 的矩阵,表示两帧图像之间姿态的旋转 矩阵,D 是一个平移向量,表示 2 帧图像之间的位移 变化量。 将采集的第一帧图像时的载体位姿作为初始姿 态,记为 P0,包括旋转矩阵 R0和平移矩阵 T0,则 P0= R0T0 01 (33) 通常初始位姿 P0由煤矿地测科利用全站仪测 量得到。 设 Pk为第 k 个位姿, Rk,Tk,k = 0,1,2,,k 表示每 1 帧的旋转矩阵和平移矩阵。 则具体每个时 刻的位姿计算如下 P1 = f 1 0(R0,T0)P0 P2 = f 2 1(R1,T1)P1 ︙ Pk = f k k-1(Rk-1,Tk-1)Pk (34) 由相邻两帧即可得到位移量和姿态角的变化 量,将一小段离散化的位移按照时间顺序进行迭代 计算,便可得到悬臂式掘进机连续的运动轨迹,如图 12 所示。 图 12 悬臂式掘进机运动轨迹推算 Fig.1 2 Calculation of trajectory of cantileverroad header 5 双目视觉位姿测量策略 由于双目视觉测量原理自身的不足导致测量 距离有限,考虑基于双目立体视觉的悬臂式掘进 机位姿测量方法在实际使用中存在标靶移动问 题,提出了一种双标靶交叉移动的悬臂式掘进机 双目视觉位姿测量使用策略。 如图 13 所示,将双 目相机固定在悬臂式掘进机上,通过采集布置在 后方的双红外 LED 标靶 A 和 B 的图像实现机身 位姿检测的目的。 图 13 双标靶双目测量初始状态 Fig.13 Initialstate of doubletar getbino cularmea surement 在实际工作中,随着掘进效率的提升,掘进机前 进的速度越来越快,双目的测量距离很难保证长距 离或超长距离测量,此时可以通过交叉移动的方式, 既保证测量的精度,也能保证测量的连续性。 如图 14 所示,在标靶和相机之间的距离超过双目视觉测 量距离而不能满足测量精度时,保证 B 标靶保持不 动正常工作,同时切断 A 的供电使其前移至双目位 姿测量的最小测量距离处,打开电源使其正常工作。 移动期间,双目视觉位姿检测连续工作没有中断,这 样就保证了测量的连续性。 图 14 标靶 A 断电前移 Fig.14 Target A forward after power off 132 万方数据 图像采集计算机 | 曳 1 瑚 双目相机 2m 直流电源 1 、 高糟府稳动平台 0 ■■■_ 虹b 2021 年第 11 期煤 炭 科 学 技 术第 49 卷 将 A 移动至前方后,再按照同样的方法移动 B 至前侧,如图 15 所示。 如此循环交替移动即可实现 连续测量,弥补了其测量距离不足的缺陷。 图 15 标靶 B 断电前移 Fig.15 Target B for ward after power off 6 试验结果与分析 为有效地验证基于双目视觉的悬臂式掘进机位 姿测量性能,论文分别从位置和姿态测量 2 个方面 进行验证。 6.1 双目视觉位置测量精度试验 采用 MYNTEYE 的 D1000-IR-120/ Color 双目 相机和 SE347-003880 nm 红外 LED 灯组成的被测 标靶构成双目视觉位姿测量系统。 将加装了红外滤 镜的双目相机固定在精度为 0.1 mm 的高精度移动 平台,并将红外 LED 光源组成的被测标靶固定于机 身后方一定距离处。 如图 16 所示是搭建的双目视 觉位置测量动态试验平台。 图 16 双目视觉位置测量试验验证平台 Fig.16 Experimental veri fication platform for binocular visual position measurement 通过调整相机横向位移,每次移动 5 cm 并利用 双目图像采集软件采集固定于机身后方 2 m 处的红 外 LED 标靶图像。 以初始位置(0,0,0)和初始姿态 (0,0,0)为起始位姿,得到连续的位姿测量结果。 如图 17 所示是测量距离为 2 m 时,双目视觉测量方 法在 X 方向的测量结
展开阅读全文