模型跟 API Key
pagent 走 OpenAI Chat Completions 兼容接口(/v1/chat/completions)喊模型,跟打电话差不多,线路要对得起。
内置 Provider
| 用法 | 示例模型 | 环境变量 |
|---|---|---|
LLM("gpt-4o-mini") | 参数自己填 | OPENAI_API_KEY |
DeepSeek("deepseek-v4-flash") | 参数自己填 | DEEPSEEK_API_KEY |
Ollama("llama3.2") | 参数自己填 | 可选 OLLAMA_API_KEY |
Vllm、Sglang | 参数自己填 | 看你啷个部署 |
python
from pagent import DeepSeek, LLM, Ollama
llm = LLM("gpt-4o-mini")
llm = DeepSeek("deepseek-v4-flash")
llm = Ollama("llama3.2") # http://127.0.0.1:11434/v1脑壳转(reasoning)
有些模型会吐 reasoning_content(脑壳里头咋个想的,跟摆龙门阵打草稿一样)。流式用 ReasoningDelta,详见 脑壳转。
可选依赖
bash
pip install "pagent[search]" # 内置 web_search
pip install "pagent[tokens]" # 部分模型的 HF tokenizer环境变量 搁到 .env 或 shell 里,装起就 搞起。Provider 换错了?警个醒:base_url 跟 key 要配对,莫乱整。