🛠️ 给大模型"开小灶"：基于 LoRA 微调的专属游戏道具设计师

// dataset.jsonl 示例片段
{
  "instruction": "你是一个资深的游戏道具设计师，请设计一个带有腐败元素的刺客护符。",
  "input": "",
  "output": "【猩红薪柴残徽】\n机制：当自身陷入腐败时，大幅提升火属性攻击力。\n背景：红狮子士兵们曾以猛火驱逐腐败，但当战局走向绝望..."
}

// 训练数据集包含 100+ 条类似样本
// 每条样本都包含：instruction（用户需求）+ output（魂系风格答案）

from peft import LoraConfig, get_peft_model
from transformers import AutoModelForCausalLM

# 1. 加载未经培训的"通才毕业生" (基座模型)
base_model = AutoModelForCausalLM.from_pretrained("Qwen/Qwen2-7B")

# 2. 定制这本"岗位操作手册"的厚度与规则 (LoRA配置)
lora_config = LoraConfig(
    r=8,               # 外挂矩阵的秩（手册的厚薄程度）
    lora_alpha=16,     # 缩放系数（大模型对这本手册的重视程度）
    target_modules=["q_proj", "v_proj"], # 将手册塞进大脑的哪个部位
    lora_dropout=0.05,
    bias="none",
    task_type="CAUSAL_LM"
)

# 3. 将手册发给大模型，得到微调模型
model = get_peft_model(base_model, lora_config)
model.print_trainable_parameters()
# 你会发现，真正需要训练的参数量只有不到原模型的 1%！

from transformers import TrainingArguments, Trainer

# 设定训练计划表
training_args = TrainingArguments(
    output_dir="./lora_talisman_model",
    per_device_train_batch_size=4,
    learning_rate=2e-4,  # 学习率：决定它吸收知识的速度
    num_train_epochs=3,  # 读几遍教材
    fp16=True           # 开启半精度，给显卡省点力气
)

# 拜托 Trainer 教练开始训练
trainer = Trainer(
    model=model,
    train_dataset=train_dataset,
    args=training_args,
)

trainer.train()  # 🚀 训练开始！