Skip to content

README.md

Latest commit

 

History

History
77 lines (56 loc) · 1.92 KB

README.md

File metadata and controls

77 lines (56 loc) · 1.92 KB

LLM Node for ComfyUI

一个支持多种大语言模型API的ComfyUI自定义节点，目前支持Gemini和SiliconFlow API。

功能特性

  • 支持多种LLM API（Gemini、SiliconFlow）
  • 统一的节点界面，简化工作流
  • 可配置的系统指令和用户提示词
  • 完整的参数控制（温度、top_p、top_k等）
  • 详细的错误处理和日志记录

安装

  1. 将整个llm_node文件夹复制到ComfyUI的custom_nodes目录
  2. 在llm_node目录下创建config.json文件，配置API密钥：
{
    "gemini_api_key": "your_gemini_api_key_here",
    "siliconflow_api_key": "your_siliconflow_api_key_here"
}
  1. 重启ComfyUI

使用方法

在ComfyUI中添加"LLM Generator"节点，配置以下参数：

必需参数

  • API Type: 选择API类型（gemini/siliconflow）
  • Model: 选择具体的模型
  • User Prompt: 用户提示词
  • System Instruction: 系统指令（可选）
  • Temperature: 生成温度
  • Max Output Tokens: 最大输出token数

可选参数

  • Top P: 核采样参数
  • Top K: Top-K采样参数
  • Frequency Penalty: 频率惩罚（仅SiliconFlow）
  • Min P: 最小概率阈值（仅SiliconFlow）

支持的模型

Gemini

  • gemini-2.5-flash-preview-05-20

SiliconFlow

  • Pro/deepseek-ai/DeepSeek-V3

项目结构

llm_node/
├── __init__.py          # 节点包入口
├── config.py            # 配置加载
├── models.py            # 模型列表
├── gemini_api.py        # Gemini API封装
├── siliconflow_api.py   # SiliconFlow API封装
├── llm_node.py          # 节点实现
├── config.json          # API密钥配置
└── README.md           # 项目说明

开发

项目采用模块化设计，便于扩展新的API支持：

  1. 在models.py中添加新模型
  2. 创建对应的API封装类
  3. 在llm_node.py中添加API调用逻辑

许可证

MIT License