Skip to content

kchzhang/llm-app

Repository files navigation

LLM 代理服务

基于 Tauri + Vue 3 + Rust 构建的 LLM API 代理工具,支持 Anthropic 和 OpenAI 格式转换。

功能特性

  • 🔀 格式转换:Anthropic ↔ OpenAI 格式自动转换
  • 🔗 直连模式:保持原始格式转发请求
  • ⚙️ 多配置管理:支持保存多个代理配置
  • 🎯 主流模型支持:预置 OpenAI、Claude、DeepSeek、火山引擎等主流模型

开发环境要求

推荐插件

安装依赖

# 安装前端依赖
pnpm install

# Rust 依赖会在首次编译时自动安装

启动命令

开发模式(前端 + Tauri)

# 同时启动前端开发服务器和 Tauri 应用
pnpm tauri dev

仅启动前端开发服务器

# 只启动 Vite 开发服务器,不启动 Tauri
pnpm dev

编译命令

单独编译 Rust

# 编译 Rust 后端(开发版本)
cargo build --manifest-path src-tauri/Cargo.toml

# 编译 Rust 后端(发布版本)
cargo build --manifest-path src-tauri/Cargo.toml --release

单独编译前端

# 编译 Vue 前端(类型检查 + 构建)
pnpm build

# 预览构建结果
pnpm preview

打包命令

macOS

# 打包 macOS 应用
pnpm tauri build --target aarch64-apple-darwin  # Apple Silicon (M1/M2)
pnpm tauri build --target x86_64-apple-darwin    # Intel Mac

Windows

# 打包 Windows 应用(需要在 Windows 系统上执行)
pnpm tauri build --target x86_64-pc-windows-msvc

Linux

# 打包 Linux 应用
pnpm tauri build --target x86_64-unknown-linux-gnu

通用打包(当前平台)

# 在当前平台打包
pnpm tauri build

项目结构

llm-app/
├── src/                    # Vue 前端源码
│   ├── components/         # Vue 组件
│   │   ├── ModeSelect.vue  # 代理模式选择
│   │   ├── ModelSelect.vue # 模型选择
│   │   └── PortInput.vue   # 端口输入
│   ├── views/              # 页面视图
│   │   ├── Home.vue        # 首页
│   │   └── Settings.vue    # 设置页
│   ├── router/             # 路由配置
│   ├── types/              # TypeScript 类型定义
│   ├── utils/              # 工具函数
│   └── App.vue             # 根组件
├── src-tauri/              # Rust 后端源码
│   ├── src/
│   │   ├── main.rs         # Tauri 入口
│   │   └── proxy.rs        # 代理服务逻辑
│   ├── Cargo.toml          # Rust 依赖配置
│   └── tauri.conf.json     # Tauri 配置
├── package.json            # Node.js 依赖配置
└── vite.config.ts          # Vite 构建配置

技术栈

前端

后端

支持的模型提供商

  • OpenAI - GPT-4、GPT-3.5、GPT-4o 系列
  • Anthropic - Claude 3 系列
  • DeepSeek - DeepSeek Chat、DeepSeek Coder
  • Volcengine - Doubao 系列(火山引擎)
  • Zhipu AI - GLM 系列
  • Moonshot - Moonshot V1 系列
  • Alibaba Cloud - 通义千问系列
  • Google - Gemini 系列
  • Meta - Llama 3 系列

使用说明

  1. 创建配置:点击右上角设置图标,新建代理配置
  2. 填写信息:输入上游 API 地址、API Key、选择模型
  3. 选择模式
    • 转换模式:自动转换 Anthropic ↔ OpenAI 格式
    • 直连模式:保持原始格式转发
  4. 启动代理:返回首页,选择配置,点击开关启动
  5. 配置 Claude Code:设置环境变量 ANTHROPIC_BASE_URL=http://127.0.0.1:端口号

License

MIT

About

大模型代理

Resources

Stars

Watchers

Forks

Packages

 
 
 

Contributors