技术详情

项目不是单独的小车、识别模型或机械臂演示,而是一套面向农业采摘任务的“移动-感知-定位-操作”闭环机器人系统。

总体方案

六轮底盘承载,RGB-D 感知驱动,机械臂完成操作

机器人依靠六轮底盘在果园、温室和田间移动,利用 RGB-D 相机获取环境与果实信息,通过 ROS2 节点完成识别、深度处理、路径规划和坐标变换。底盘根据机械臂工作空间调整站位,机械臂再根据目标三维坐标完成靠近、夹持或虚拟抓取验证。

核心模块

六轮越野移动底盘

面向泥土、草地、小坡度和植株通道等农业非结构化地面,采用六轮结构提升接地面积、牵引能力和停车稳定性,为视觉定位和机械臂操作提供稳定移动平台。

RGB-D 感知与三维定位

通过 RGB 图像识别果实、植株和障碍物,再结合深度图读取目标距离,将二维检测结果转换为相机坐标系下的三维点。

ROS2 任务调度

将图像采集、目标识别、深度处理、路径规划、底盘控制、坐标变换和机械臂控制拆分为节点,通过话题、服务或动作完成模块协同。

机械臂协同作业

机械臂接收目标三维坐标,完成可达性判断、轨迹规划、末端靠近、夹爪动作和安全复位,验证视觉定位到执行端的闭环链路。

三维定位与坐标变换链

项目的关键不止是检测到果实,而是把图像里的目标变成机械臂能使用的空间坐标。系统先读取检测框中心或目标区域的深度值,再结合相机内参完成像素点到相机坐标的转换,最后通过外参和机械臂基座关系传递到执行端。

图像像素 (u, v) -> 相机坐标 camera -> 底盘坐标 base -> 机械臂基座 arm_base -> 末端执行器 tool0

测试验证重点

底盘通过性

草地、泥地、小坡度和轻微障碍下的稳定行驶与重复路线偏差。

感知定位

不同光照、遮挡和距离下的果实检测、深度读取与三维坐标稳定性。

自主导航

无预先建图或弱先验场景下的局部避障、路径跟踪和目标附近驻停。

机械臂抓取

目标点可达性、逆运动学求解、末端接近、夹爪开合和失败复位。

整机协同

自主巡行、识别果实、三维定位、站位调整、机械臂执行的完整流程。

后续改进方向

  • 完善相机内参、外参和机械臂基座坐标标定,降低定位链路累计误差。
  • 强化 RGB-D 融合与深度滤波,提高强光、阴影和遮挡条件下的鲁棒性。
  • 量化机械臂工作空间与底盘停车区域关系,建立目标距离和车体朝向约束。
  • 优化末端执行器结构与夹持力控制,使其更适合真实果实采摘。
  • 增加重新感知、重新定位、重新规划和安全复位机制,提高整机可靠性。