feat(ai): adiciona DeepSeek R1 14B como agente principal no LiteLLM
- Adiciona deepseek-r1:14b e alias arcadia-agent no litellm-config.yaml - arcadia-default agora aponta para R1 14B (era llama3.2:3b) - Timeout LiteLLM aumentado de 120s para 300s - Adiciona rede ollama-net (external) ao serviço litellm no compose para comunicação com container Ollama via hostname estável - .gitignore: ignora arquivos .aider* Co-Authored-By: Claude Sonnet 4.6 <noreply@anthropic.com>
This commit is contained in:
parent
4fd0e9d893
commit
4d20d36bfd
|
|
@ -77,3 +77,4 @@ REQUISITOS_*.md
|
||||||
*.txt
|
*.txt
|
||||||
!README.md
|
!README.md
|
||||||
!replit.md
|
!replit.md
|
||||||
|
.aider*
|
||||||
|
|
|
||||||
|
|
@ -305,6 +305,7 @@ services:
|
||||||
networks:
|
networks:
|
||||||
- arcadia-internal
|
- arcadia-internal
|
||||||
- coolify
|
- coolify
|
||||||
|
- ollama-net
|
||||||
|
|
||||||
# ── Ollama (LLMs locais — soberania total) ────────────────────────────────────
|
# ── Ollama (LLMs locais — soberania total) ────────────────────────────────────
|
||||||
# OPÇÃO A (padrão): Ollama como container Docker
|
# OPÇÃO A (padrão): Ollama como container Docker
|
||||||
|
|
@ -393,6 +394,9 @@ networks:
|
||||||
driver: bridge
|
driver: bridge
|
||||||
coolify:
|
coolify:
|
||||||
external: true
|
external: true
|
||||||
|
ollama-net:
|
||||||
|
external: true
|
||||||
|
name: ia1upsekrad96at5hq97e4qa
|
||||||
|
|
||||||
volumes:
|
volumes:
|
||||||
pgdata:
|
pgdata:
|
||||||
|
|
|
||||||
|
|
@ -31,6 +31,16 @@ model_list:
|
||||||
model: ollama/llama3.2:3b
|
model: ollama/llama3.2:3b
|
||||||
api_base: os.environ/OLLAMA_BASE_URL
|
api_base: os.environ/OLLAMA_BASE_URL
|
||||||
|
|
||||||
|
- model_name: deepseek-r1
|
||||||
|
litellm_params:
|
||||||
|
model: ollama/deepseek-r1:14b
|
||||||
|
api_base: os.environ/OLLAMA_BASE_URL
|
||||||
|
|
||||||
|
- model_name: arcadia-agent
|
||||||
|
litellm_params:
|
||||||
|
model: ollama/deepseek-r1:14b
|
||||||
|
api_base: os.environ/OLLAMA_BASE_URL
|
||||||
|
|
||||||
- model_name: nomic-embed-text
|
- model_name: nomic-embed-text
|
||||||
litellm_params:
|
litellm_params:
|
||||||
model: ollama/nomic-embed-text
|
model: ollama/nomic-embed-text
|
||||||
|
|
@ -66,25 +76,25 @@ model_list:
|
||||||
# api_key: os.environ/GROQ_API_KEY
|
# api_key: os.environ/GROQ_API_KEY
|
||||||
|
|
||||||
# ── Modelo padrão do Arcádia (Manus usa este) ─────────────────────────────────
|
# ── Modelo padrão do Arcádia (Manus usa este) ─────────────────────────────────
|
||||||
# Prioridade: LLMFit (TIER 1) → Ollama (TIER 2 — fallback)
|
# Prioridade: DeepSeek R1 14B (TIER 2) → llama3.2 (fallback rápido)
|
||||||
- model_name: arcadia-default
|
- model_name: arcadia-default
|
||||||
litellm_params:
|
litellm_params:
|
||||||
model: openai/llama3.2:3b
|
model: ollama/deepseek-r1:14b
|
||||||
api_base: os.environ/LLMFIT_BASE_URL
|
api_base: os.environ/OLLAMA_BASE_URL
|
||||||
api_key: os.environ/LLMFIT_API_KEY
|
|
||||||
|
|
||||||
router_settings:
|
router_settings:
|
||||||
routing_strategy: least-busy
|
routing_strategy: least-busy
|
||||||
fallbacks:
|
fallbacks:
|
||||||
- {"gpt-4o": ["llama3.2"]}
|
- {"gpt-4o": ["deepseek-r1"]}
|
||||||
- {"gpt-4o-mini": ["llama3.2"]}
|
- {"gpt-4o-mini": ["deepseek-r1"]}
|
||||||
- {"arcadia-default": ["llama3.2"]}
|
- {"arcadia-default": ["llama3.2"]}
|
||||||
- {"arcadia-finetuned": ["llama3.2"]}
|
- {"arcadia-agent": ["llama3.2"]}
|
||||||
|
- {"arcadia-finetuned": ["deepseek-r1"]}
|
||||||
- {"arcadia-embed": ["nomic-embed-text"]}
|
- {"arcadia-embed": ["nomic-embed-text"]}
|
||||||
|
|
||||||
litellm_settings:
|
litellm_settings:
|
||||||
drop_params: true
|
drop_params: true
|
||||||
request_timeout: 120
|
request_timeout: 300
|
||||||
set_verbose: false
|
set_verbose: false
|
||||||
|
|
||||||
general_settings:
|
general_settings:
|
||||||
|
|
|
||||||
Loading…
Reference in New Issue