feat(vla): align transformer training stack and rollout validation

This commit is contained in:
Logic
2026-03-31 15:39:20 +08:00
parent 424c265823
commit d84bc6876e
25 changed files with 4043 additions and 706 deletions
+10 -4
View File
@@ -9,19 +9,25 @@ defaults:
# ====================
train:
# 基础训练参数
batch_size: 8 # 批次大小
lr: 5e-5 # 学习率Transformer建议更小)
batch_size: 16 # 批次大小
lr: 1e-4 # 学习率
max_steps: 100000 # 最大训练步数
device: "cuda" # 设备: "cuda" 或 "cpu"
# 数据加载
num_workers: 8 # DataLoader 工作进程数(调试时设为 0,生产环境用 8
val_split: 0.1 # 验证集比例
num_workers: 12 # DataLoader 工作进程数(调试时设为 0)
val_split: 0.0 # 验证集比例;默认使用全量数据训练
seed: 42 # 随机种子(用于数据划分)
# 日志和检查点
log_freq: 100 # 日志记录频率(步数)
save_freq: 2000 # 保存检查点频率(步数)
use_swanlab: false # 是否启用 SwanLab 标量日志
swanlab_project: "roboimi-vla" # SwanLab project 名称
swanlab_run_name: null # 可选的 SwanLab 运行名
rollout_val_freq_epochs: 50 # 每隔多少个 epoch 执行一次 rollout 验证
rollout_validate_on_checkpoint: false # 是否在保存 checkpoint 后立即运行 rollout 验证
rollout_num_episodes: 3 # rollout 验证的回合数
# 学习率调度器(带预热)
warmup_steps: 2000 # 预热步数(Transformer建议更长)