NeuralForge-Desktop

本地LLM微调工具 — Local LLM Fine-Tuning Desktop App

功能

• 🤖 Ollama 模型管理 — 列出、查看、拉取模型
• 📁 数据集管理 — 导入 JSONL 格式训练数据，预览样本
• 🔥 LoRA/QLoRA 训练 — 配置 epochs、学习率、batch size、rank 等参数
• 📊 实时训练可视化 — Loss 曲线实时更新、进度条、日志流
• 📤 输出 — 推送模型回 Ollama

快速开始

1. 安装依赖

cd neuralforge-desktop
npm install

2. 安装 Python 训练依赖

NeuralForge 使用 transformers + peft 进行真实的 LoRA/QLoRA 微调：

# Apple Silicon (推荐)
pip install torch torchvision torchaudio
pip install -r requirements.txt

# NVIDIA GPU
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121
pip install -r requirements.txt

# 仅 CPU
pip install torch --index-url https://download.pytorch.org/whl/cpu
pip install -r requirements.txt

2. 确保 Ollama 运行

ollama serve

3. 启动应用

npm start

4. 使用

1. 切换到 模型 标签，选择或拉取一个基础模型
2. 切换到 数据集 标签，添加训练数据（JSONL 格式）
3. 切换到 训练 标签，配置参数并点击 开始训练
4. 观察实时 Loss 曲线和训练日志
5. 训练完成后切换到 输出 查看记录

数据集格式

使用 JSONL 格式，每行一个 JSON 对象：

{"instruction": "将以下英文翻译成中文", "input": "Hello world", "output": "你好世界"}
{"instruction": "问答", "input": "什么是LLM?", "output": "LLM是大语言模型"}

技术栈

• Electron 28
• Express (REST API on port 3357)
• better-sqlite3
• Vanilla JS/CSS

License

MIT