Twinkle训练框架

Twinkle是由ModelScope与招商银行联合开发的轻量级LLM训练框架，旨在通过“原子化”设计解决大模型训练中灵活性与规模化的矛盾。该框架采用客户端-服务端架构，将训练逻辑（如数据加载、模型前向/反向传播）封装为标准API，支持在本地torchrun、Ray集群或无服务器Training-as-a-Service (TaaS) 模式下无缝切换，无需重写代码即可从单卡扩展至千卡集群。

【背景】传统训练框架往往在易用性（黑盒）与控制力（底层代码）之间难以两全。Twinkle试图填补这一空白：它允许开发者完全掌控训练循环（You Own the Loop），同时隐藏分布式计算的复杂性。其接口兼容Tinker API，并作为后端网关支持多租户隔离——即在同一个基础模型上并行运行多个不同的LoRA微调任务，各租户拥有独立的优化器和数据管道。

截至2026年8月，ModelScope已基于Twinkle部署了针对Qwen3.8-27B的免费TaaS服务，用户可通过API端点直接进行LoRA微调而无需本地GPU资源。GitHub仓库显示该项目自2026年2月发布初始版本以来，已逐步支持GRPO、DPO、GKD等多种对齐算法及DeepSeek-V4等新模型。