64 lines
3.1 KiB
Python
64 lines
3.1 KiB
Python
import argparse
|
|
|
|
from as_mamba import TrainConfig, run_training_and_plot
|
|
|
|
|
|
def build_parser() -> argparse.ArgumentParser:
|
|
parser = argparse.ArgumentParser(description="Train AS-Mamba on MNIST flow matching.")
|
|
parser.add_argument("--epochs", type=int, default=None)
|
|
parser.add_argument("--steps-per-epoch", type=int, default=None)
|
|
parser.add_argument("--batch-size", type=int, default=None)
|
|
parser.add_argument("--seq-len", type=int, default=None)
|
|
parser.add_argument("--lr", type=float, default=None)
|
|
parser.add_argument("--weight-decay", type=float, default=None)
|
|
parser.add_argument("--device", type=str, default=None)
|
|
parser.add_argument("--output-dir", type=str, default=None)
|
|
parser.add_argument("--project", type=str, default=None)
|
|
parser.add_argument("--run-name", type=str, default=None)
|
|
parser.add_argument("--dt-alpha", type=float, default=None)
|
|
parser.add_argument("--dt-min", type=float, default=None)
|
|
parser.add_argument("--dt-max", type=float, default=None)
|
|
parser.add_argument("--lambda-flow", type=float, default=None)
|
|
parser.add_argument("--lambda-pos", type=float, default=None)
|
|
parser.add_argument("--lambda-dt", type=float, default=None)
|
|
parser.add_argument("--use-flow-loss", action=argparse.BooleanOptionalAction, default=None)
|
|
parser.add_argument("--use-pos-loss", action=argparse.BooleanOptionalAction, default=None)
|
|
parser.add_argument("--use-dt-loss", action=argparse.BooleanOptionalAction, default=None)
|
|
parser.add_argument("--num-classes", type=int, default=None)
|
|
parser.add_argument("--image-size", type=int, default=None)
|
|
parser.add_argument("--channels", type=int, default=None)
|
|
parser.add_argument("--num-workers", type=int, default=None)
|
|
parser.add_argument("--dataset-name", type=str, default=None)
|
|
parser.add_argument("--dataset-split", type=str, default=None)
|
|
parser.add_argument("--d-model", type=int, default=None)
|
|
parser.add_argument("--n-layer", type=int, default=None)
|
|
parser.add_argument("--d-state", type=int, default=None)
|
|
parser.add_argument("--d-conv", type=int, default=None)
|
|
parser.add_argument("--expand", type=int, default=None)
|
|
parser.add_argument("--headdim", type=int, default=None)
|
|
parser.add_argument("--chunk-size", type=int, default=None)
|
|
parser.add_argument("--use-residual", action=argparse.BooleanOptionalAction, default=None)
|
|
parser.add_argument("--val-every", type=int, default=None)
|
|
parser.add_argument("--val-samples-per-class", type=int, default=None)
|
|
parser.add_argument("--val-grid-rows", type=int, default=None)
|
|
parser.add_argument("--val-max-steps", type=int, default=None)
|
|
parser.add_argument("--use-ddp", action=argparse.BooleanOptionalAction, default=None)
|
|
return parser
|
|
|
|
|
|
def main() -> None:
|
|
parser = build_parser()
|
|
args = parser.parse_args()
|
|
|
|
cfg = TrainConfig()
|
|
for key, value in vars(args).items():
|
|
if value is not None:
|
|
setattr(cfg, key.replace("-", "_"), value)
|
|
|
|
out_path = run_training_and_plot(cfg)
|
|
print(f"Saved outputs to {out_path}")
|
|
|
|
|
|
if __name__ == "__main__":
|
|
main()
|