Handex-Robots
我们希望解决无法顺利移动的人取物品的问题。我们的场景是无法移动的人士在规定位置上能够让机器人系统取取物回来递给用户。用摄像头识别用户的手势,根据特定手势小车会直接前往要拿取的物品附近,用户能够控制低成本的桌面级小机械臂遥操作在远处的精准高负载的机械臂从而抓取特定物品,完成夹取后机器人将会自主移动回到用户身边。
我们希望解决无法顺利移动的人取物品的问题。我们的场景是无法移动的人士在规定位置上能够让机器人系统取取物回来递给用户。用摄像头识别用户的手势,根据特定手势小车会直接前往要拿取的物品附近,用户能够控制低成本的桌面级小机械臂遥操作在远处的精准高负载的机械臂从而抓取特定物品,完成夹取后机器人将会自主移动回到用户身边。
本项目旨在解决行动不便人士的物品取放难题。我们设计了一套机器人系统,允许用户固定在指定位置,通过手势指令指挥机器人前往远处物品存放区,协助用户完成物品取回任务。
系统工作流程如下:
手势指令识别: 用户通过特定手势发出指令。系统利用摄像头结合 RDK X5 集成的人体姿态估计与手部关键点识别模型进行精准视觉识别。
自主导航与定位: 识别手势后,搭载机器人底盘的小车将根据指令,利用激光雷达感知环境并自主规划路径,前往目标物品附近。
遥操作抓取: 用户通过本地低成本的桌面级机械臂进行遥操作,远程控制位于目标物品处的高负载、高精度工业机械臂,完成对特定物品的夹取操作。
自主返回: 抓取完成后,机器人系统将自主规划路径并移动回用户身边。
核心技术亮点:
视觉感知:
物品检测: 采用 YOLO 目标检测算法识别目标物品,人体手部关键点姿势。
手势识别: 基于 RDK X5 的人体姿态估计与手部关键点模型实现。
机器人导航与控制:
路径规划: 前端使用直线规划,后端采用多项式轨迹规划(求解器:OSQP)。
运动控制: 应用模型预测控制(MPC)进行轨迹跟踪。
避障: 依赖激光雷达实现实时环境感知与避障。
任务调度与优化: 采用模拟退火算法求解旅行商问题(TSP),实现多目标点的最短路径调度。
机械臂控制: 实现低成本桌面机械臂对远端高负载工业机械臂的遥操作控制。
高级决策: 整合 VLA(Vision-Language-Action)控制框架,增强系统的理解与决策能力。
实时边缘计算: 所有核心算法(视觉识别、导航规划、控制、调度)均全栈式部署于地瓜 RDK X5 边缘计算设备,确保系统的实时响应能力。
核心价值: 本系统通过融合先进的计算机视觉、机器人导航、运动控制、优化算法与边缘计算技术,为行动不便人士提供了一种高效、直观的物品取放辅助解决方案。