ServiceClient

MinT API 的主入口

概述

ServiceClient 是访问 MinT 功能的主接口。所有操作从创建 ServiceClient 实例开始。

主要方法

服务器信息

get_server_capabilities()
get_server_capabilities_async()

查询 MinT 服务器支持的功能。

创建 Training Client

create_lora_training_client(
    base_model,
    rank=32,
    train_mlp=True,
    train_attn=True,
    train_unembed=True,
    seed=None
)

初始化 LoRA fine-tune 用的 TrainingClient。

参数：

• base_model：模型标识符（如 "Qwen/Qwen3-4B-Instruct-2507"）
• rank：LoRA rank 维度（默认 32）
• train_mlp：训练 MLP 层（默认 True）
• train_attn：训练 attention 层（默认 True）
• train_unembed：训练 unembedding 层（默认 True）
• seed：随机种子，用于可复现

从 Checkpoint 加载

create_training_client_from_state(path)

• from_state：仅加载 weights；optimizer state 会重置

如果要保留 optimizer state，先创建一个形状一致的 LoRA training client，再在这个 client 上调用 load_state_with_optimizer(...)：

training_client = service_client.create_lora_training_client(base_model=model, rank=rank)
training_client.load_state_with_optimizer(path).result()

创建 Sampling Client

create_sampling_client(model_path=None, base_model=None)

从以下来源创建 SamplingClient：

• 已保存的 checkpoint（model_path）
• 基座模型（base_model）

REST Client

create_rest_client()

访问 checkpoint 管理和元数据操作的 REST 端点。

异步变体

所有方法都有异步变体（如 create_lora_training_client_async()）。