242 lines
7.9 KiB
Markdown
242 lines
7.9 KiB
Markdown
# MOVE_AI
|
||
|
||
适用于 RoboMaster 机器人的视觉自瞄系统，参考同济大学 Superpower 战队 25 年开源设计，适配 MOVE。
|
||
|
||
## 项目结构
|
||
|
||
```
|
||
├── calibration/ # 标定工具
|
||
├── configs/ # 配置文件（yaml）
|
||
├── src/
|
||
│ ├── component/ # 通用组件（EKF、弹道、日志、绘图等）
|
||
│ ├── device/ # 设备驱动（相机、串口、CAN、IMU）
|
||
│ ├── module/
|
||
│ │ ├── auto_aim/ # 自瞄模块（检测、解算、跟踪、瞄准、规划）
|
||
│ │ ├── auto_buff/ # 打符模块
|
||
│ │ └── omniperception/ # 全向感知模块（哨兵用）
|
||
│ └── task/
|
||
│ ├── *.cpp # 各兵种主程序
|
||
│ └── test/ # 测试用例
|
||
```
|
||
|
||
## 环境要求
|
||
|
||
- Ubuntu 22.04
|
||
- 运算平台：Intel NUC（i7-1260P / i7-1165G7）
|
||
- 相机：海康 MV-CS016-10UC + 6mm 镜头
|
||
- 下位机：RoboMaster C 型开发板（STM32F407）/ 达妙 MC02（STM32H7）
|
||
|
||
## 依赖安装
|
||
|
||
1. SDK：
|
||
- [HikRobot MVS SDK](https://www.hikrobotics.com/cn2/source/support/software/MVS_STD_GML_V2.1.2_231116.zip)
|
||
- [MindVision SDK](https://mindvision.com.cn/category/software/sdk-installation-package/)（可选）
|
||
- [OpenVINO 2024](https://docs.openvino.ai/2024/get-started/install-openvino/install-openvino-archive-linux.html)
|
||
- [Ceres Solver](http://ceres-solver.org/installation.html)
|
||
|
||
2. 系统依赖：
|
||
```bash
|
||
sudo apt install -y \
|
||
git g++ cmake can-utils \
|
||
libopencv-dev libfmt-dev libeigen3-dev \
|
||
libspdlog-dev libyaml-cpp-dev libusb-1.0-0-dev \
|
||
nlohmann-json3-dev openssh-server screen
|
||
```
|
||
|
||
## 编译与运行
|
||
|
||
```bash
|
||
cmake -B build
|
||
make -C build/ -j$(nproc)
|
||
./build/auto_aim_test # 运行测试
|
||
```
|
||
|
||
## 可执行目标
|
||
|
||
### 主程序（task）
|
||
|
||
| 目标 | 说明 | 配置文件 |
|
||
|------|------|----------|
|
||
| `standard` | 步兵自瞄 | `configs/standard3.yaml` |
|
||
| `standard_mpc` | 步兵自瞄（MPC 规划） | 需指定 |
|
||
| `uav` | 无人机自瞄 + 打符 | `configs/uav.yaml` |
|
||
| `uav_debug` | 无人机调试（含可视化） | `configs/uav.yaml` |
|
||
| `mt_standard` | 多线程步兵 | 需指定 |
|
||
| `sentry` | 哨兵 | `configs/sentry.yaml` |
|
||
| `sentry_multithread` | 哨兵多线程 | `configs/sentry.yaml` |
|
||
| `sentry_debug` | 哨兵调试 | `configs/sentry.yaml` |
|
||
| `sentry_bp` | 哨兵（带弹道预测） | `configs/sentry.yaml` |
|
||
| `auto_aim_debug_mpc` | 自瞄 MPC 调试 | 需指定 |
|
||
| `auto_buff_debug` | 打符调试 | 需指定 |
|
||
| `auto_buff_debug_mpc` | 打符 MPC 调试 | 需指定 |
|
||
| `mt_auto_aim_debug` | 多线程自瞄调试 | 需指定 |
|
||
|
||
### 标定工具（calibration）
|
||
|
||
| 目标 | 说明 |
|
||
|------|------|
|
||
| `capture` | 采集标定图像 |
|
||
| `calibrate_camera` | 相机内参标定 |
|
||
| `calibrate_handeye` | 手眼标定 |
|
||
| `calibrate_robotworld_handeye` | 机器人-世界手眼标定 |
|
||
| `split_video` | 视频拆帧 |
|
||
|
||
### 测试用例（test）
|
||
|
||
| 目标 | 说明 |
|
||
|------|------|
|
||
| `auto_aim_test` | 自瞄全流程测试 |
|
||
| `auto_buff_test` | 打符全流程测试 |
|
||
| `camera_test` | 相机基础测试 |
|
||
| `camera_detect_test` | 相机 + 检测测试 |
|
||
| `camera_thread_test` | 相机多线程测试 |
|
||
| `cboard_test` | C 板通信测试 |
|
||
| `gimbal_test` | 云台通信测试 |
|
||
| `gimbal_response_test` | 云台响应测试 |
|
||
| `fire_test` | 发射测试 |
|
||
| `dm_test` | 达妙 IMU 测试 |
|
||
| `handeye_test` | 手眼标定测试 |
|
||
| `detector_video_test` | 离线视频检测测试 |
|
||
| `planner_test` | MPC 规划器测试 |
|
||
| `planner_test_offline` | MPC 规划器离线测试 |
|
||
| `usbcamera_test` | USB 相机测试 |
|
||
| `usbcamera_detect_test` | USB 相机 + 检测测试 |
|
||
| `multi_usbcamera_test` | 多 USB 相机测试 |
|
||
| `minimum_vision_system` | 最小视觉系统 |
|
||
|
||
## 串口设置
|
||
|
||
1. 授予权限：
|
||
```bash
|
||
sudo usermod -a -G dialout $USER
|
||
```
|
||
|
||
2. 获取端口 ID（serial, idVendor, idProduct）：
|
||
```bash
|
||
udevadm info -a -n /dev/ttyACM0 | grep -E '({serial}|{idVendor}|{idProduct})'
|
||
```
|
||
|
||
3. 创建 udev 规则：
|
||
```bash
|
||
sudo touch /etc/udev/rules.d/99-usb-serial.rules
|
||
```
|
||
写入（用实际 ID 替换）：
|
||
```
|
||
SUBSYSTEM=="tty", ATTRS{idVendor}=="1234", ATTRS{idProduct}=="1234", ATTRS{serial}=="A1234567", SYMLINK+="gimbal"
|
||
```
|
||
|
||
4. 重新加载规则：
|
||
```bash
|
||
sudo udevadm control --reload-rules
|
||
sudo udevadm trigger
|
||
```
|
||
|
||
5. 验证：
|
||
```bash
|
||
ls -l /dev/gimbal
|
||
```
|
||
|
||
## 通信协议
|
||
|
||
### 1. CBoard 协议（CAN 总线）
|
||
|
||
通过 SocketCAN 与 RoboMaster C 型开发板通信，CAN ID 由 yaml 配置。
|
||
|
||
**发送帧 — 控制命令（CAN ID: 0xff）**
|
||
|
||
```
|
||
8 bytes, Big-Endian
|
||
[0] : control (uint8) 0=不控制, 1=控制
|
||
[1] : shoot (uint8) 0=不射击, 1=射击
|
||
[2-3] : yaw (int16) 缩放 1e4, 单位 rad
|
||
[4-5] : pitch (int16) 缩放 1e4, 单位 rad
|
||
[6-7] : horizon_distance (int16) 缩放 1e4（无人机专有）
|
||
```
|
||
|
||
**接收帧1 — 四元数（CAN ID: 0x100 / 0x01）**
|
||
|
||
```
|
||
8 bytes, Big-Endian
|
||
[0-1] : x (int16) 缩放 1e4
|
||
[2-3] : y (int16) 缩放 1e4
|
||
[4-5] : z (int16) 缩放 1e4
|
||
[6-7] : w (int16) 缩放 1e4
|
||
四元数顺序: wxyz，验证 x²+y²+z²+w² ≈ 1
|
||
```
|
||
|
||
**接收帧2 — 子弹速度和模式（CAN ID: 0x101 / 0x110）**
|
||
|
||
```
|
||
8 bytes, Big-Endian
|
||
[0-1] : bullet_speed (int16) 缩放 1e2, 单位 m/s
|
||
[2] : mode (uint8) 0=idle, 1=auto_aim, 2=small_buff, 3=big_buff, 4=outpost
|
||
[3] : shoot_mode (uint8) 0=left, 1=right, 2=both（哨兵专有）
|
||
[4-5] : ft_angle (int16) 缩放 1e4, 单位 rad（无人机专有）
|
||
```
|
||
|
||
### 2. Gimbal 协议（串口）
|
||
|
||
通过 USB 串口与达妙 MC02 通信，帧头 `{'S', 'P'}`，CRC16 校验。
|
||
|
||
**发送帧 — VisionToGimbal（29 bytes, packed）**
|
||
|
||
```
|
||
[0-1] : head (uint8[2]) = {'S', 'P'}
|
||
[2] : mode (uint8) 0=不控制, 1=控制不开火, 2=控制且开火
|
||
[3-6] : yaw (float) rad
|
||
[7-10] : yaw_vel (float) rad/s
|
||
[11-14] : yaw_acc (float) rad/s²
|
||
[15-18] : pitch (float) rad
|
||
[19-22] : pitch_vel (float) rad/s
|
||
[23-26] : pitch_acc (float) rad/s²
|
||
[27-28] : crc16 (uint16) Little-Endian
|
||
```
|
||
|
||
**接收帧 — GimbalToVision（43 bytes, packed）**
|
||
|
||
```
|
||
[0-1] : head (uint8[2]) = {'S', 'P'}
|
||
[2] : mode (uint8) 0=IDLE, 1=AUTO_AIM, 2=SMALL_BUFF, 3=BIG_BUFF
|
||
[3-6] : q[0] (float) 四元数 w
|
||
[7-10] : q[1] (float) 四元数 x
|
||
[11-14] : q[2] (float) 四元数 y
|
||
[15-18] : q[3] (float) 四元数 z
|
||
[19-22] : yaw (float) rad
|
||
[23-26] : yaw_vel (float) rad/s
|
||
[27-30] : pitch (float) rad
|
||
[31-34] : pitch_vel (float) rad/s
|
||
[35-38] : bullet_speed (float) m/s
|
||
[39-40] : bullet_count (uint16) 子弹累计发射次数
|
||
[41-42] : crc16 (uint16) Little-Endian
|
||
```
|
||
|
||
### 3. DM IMU 协议（串口）
|
||
|
||
达妙 IMU，串口 921600 bps，Modbus RTU 格式，57 bytes 三帧合一。
|
||
|
||
```
|
||
帧1 [0-18] : 加速度 (accx, accy, accz) float, CRC16
|
||
帧2 [19-37] : 角速度 (gyrox, gyroy, gyroz) float, CRC16
|
||
帧3 [38-56] : 欧拉角 (roll, pitch, yaw) float, 单位°, CRC16
|
||
|
||
每帧结构: 帧头(0x55 0xAA) + slave_id(0x01) + reg + 3×float(uint32) + crc16 + 帧尾
|
||
四元数由 ZYX 欧拉角生成: q = Rz(yaw) * Ry(pitch) * Rx(roll)
|
||
```
|
||
|
||
### 4. ROS2 通信（哨兵专有）
|
||
|
||
| 方向 | 话题 | 消息类型 | 内容 |
|
||
|------|------|----------|------|
|
||
| 发布 | `auto_aim_target_pos` | `std_msgs/String` | CSV: "x,y,z,w" |
|
||
| 订阅 | `enemy_status` | `sp_msgs/EnemyStatusMsg` | 无敌敌人 ID 列表 |
|
||
| 订阅 | `autoaim_target` | `sp_msgs/AutoaimTargetMsg` | 目标敌人 ID 列表 |
|
||
|
||
### 5. 协议总览
|
||
|
||
| 协议 | 接口 | 速率 | 帧长 | 校验 | 适用设备 |
|
||
|------|------|------|------|------|----------|
|
||
| CBoard | CAN | 1Mbps | 8B | — | C 板 (STM32F407) |
|
||
| Gimbal | 串口 | 可配置 | 29/43B | CRC16 | 达妙 MC02 (STM32H7) |
|
||
| DM IMU | 串口 | 921600 | 57B | CRC16 | 达妙 IMU |
|
||
| ROS2 | TCP/IP | — | 可变 | — | 导航系统 |
|