fix: 로컬 모델(Ollama/LM Studio) 자동 감지 및 라우팅 수정

[naegeon]

요약

WSL2 환경에서 hermes-for-web 을 설치하고 Ollama 로컬 Gemma4 모델 + OpenAI Codex OAuth 를 함께 쓰려다가 발견한 버그 4종을 정리한 PR 입니다. 모두 api/config.py 한 파일에서 발생합니다.

재현

1. Hermes Agent 설치 후 hermes auth add openai-codex --type oauth 로 Codex OAuth 완료
2. Windows 호스트에 Ollama 구동, gemma4:e4b 모델 pull
3. ~/.hermes/config.yaml:
   ```yaml
   model:
   provider: openai-codex
   default: gpt-5.4
   base_url: http://localhost:11434/v1
   ```
4. WebUI 기동 후 모델 피커 확인

증상

• 모델 피커에 Ollama 그룹이 뜨지 않음
• GitHub Copilot 그룹에 엉뚱한 모델(Ollama 자동감지 결과)이 들어감
• 그룹 라벨이 'Ollama' 가 아니라 'Custom' 으로 표시
• 로컬 모델을 골라도 실제 호출은 Codex 로 가서 실패

원인 4가지

1. /v1/models 경로 오류 (치명)

```python
if base_url.endswith('/v1'):
endpoint_url = base_url[:-3] + '/models' # → http://host:11434/models (404)
```

OpenAI 호환 규격은 /v1/models 가 정답. Ollama, LM Studio, llama.cpp(OpenAI 모드) 모두 동일 경로.

2. localhost hostname 이 loopback 으로 인식 안 됨

`ipaddress.ip_address('localhost')` 는 ValueError. 127.0.0.1 은 처리되지만 WSL/Docker 에서 자주 쓰는 localhost 와 host.docker.internal 은 전부 'custom' 으로 떨어져서 Ollama 그룹 라벨이 붙지 않음.

3. copilot / github-copilot 모델 리스트 부재

_PROVIDER_MODELS 에 copilot 항목이 없어 unknown fallback 으로 떨어지고, 그 결과 auto_detected_models (Ollama 자동감지 리스트) 가 Copilot 그룹에 오염되어 들어감.

4. 로컬 모델 선택 시 pinned provider 로 잘못 라우팅

피커는 bare id (예: gemma4:e4b) 를 보내는데, resolve_model_provider 는 prefix 가 없으면 config 의 pinned provider (예: openai-codex) 로 라우팅. 결과적으로 Ollama 모델을 고르면 Codex 엔드포인트로 요청이 감.

수정 내역

• 버그 1: base_url[:-3] 제거, base_url + '/models' 로 변경
• 버그 2: hostname in ('localhost', 'host.docker.internal') 분기 추가 → 포트 11434 면 'ollama', 'lmstudio'/'lm-studio' 이면 'lmstudio', 그 외는 'local'
• 버그 3: _PROVIDER_MODELS 에 copilot 과 github-copilot 기본 리스트 추가 (gpt-5.4 / gpt-5.4-mini / claude-sonnet-4.6 / o4-mini)
• 버그 4:
  • get_available_models() 가 auto_detected_models 반환 시 id 에 {pid}/ prefix 부여 (예: ollama/gemma4:e4b)
  • resolve_model_provider() 에 prefix in ('ollama', 'lmstudio', 'local', 'custom') 분기 추가 → provider='custom' + config_base_url 로 라우팅

테스트 결과

```
$ curl -s http://127.0.0.1:8788/api/models | jq '.groups[] | {provider, models: [.models[].id]}'
{ "provider": "GitHub Copilot", "models": ["gpt-5.4", "gpt-5.4-mini", "claude-sonnet-4.6", "o4-mini"] }
{ "provider": "Ollama", "models": ["ollama/gemma4:e4b"] }
{ "provider": "OpenAI", "models": ["gpt-5.4", "gpt-5.4-mini", "gpt-4o", "o3", "o4-mini"] }
{ "provider": "OpenAI Codex", "models": ["gpt-5.4", "gpt-5.4-mini", "codex-mini-latest"] }
```

• Ollama 그룹 정상 노출
• Copilot 그룹 오염 해소
• ollama/gemma4:e4b 선택 시 로컬 엔드포인트로 정상 라우팅
• openai-codex/gpt-5.4 선택 시 Codex 로 정상 라우팅

환경

• WSL2 Ubuntu 24.04, Python 3.11.15 (Hermes Agent venv)
• Hermes Agent (최신 main)
• hermes-for-web @ b46f64b

🤖 Generated with Claude Code