[注释]

[1. 适度增加 Stream 2：数据缓存 + 混合精度训练]

[增加多进程加载数据 和 延迟 loss 提取 优化]

[增加多进程加载数据 和 延迟 loss 提取 优化]

[多进程加载数据集]

[中文日志改为英文日志]

[GPU使用率不高问题分析]

[增加cuda stream 处理增加GPU使用效率]

[修复训练过程中 显存 不释放问题 ， 每次batch 就不释放上一次的显存]

[使用 C++ 实现完整 Transformer 训练实现中英文翻译的模型，蒸馏，微调模型、LORA、RAG、向量数据库等等]

[保存数据格式config.yal]

[训练过程显示每秒处理token数量]

[训练过程输出格式参考yolov5风格]

[训练显示和yolov5显示风格一样的]

[GPUProfiler 显示]