18 lines
566 B
Plaintext
18 lines
566 B
Plaintext
# LiteLLM 로드밸런싱 API Key 및 엔드포인트 설정 파일 (템플릿)
|
|
LLM_API_BASE_1="http://<SERVER_1_IP>:30000/v1"
|
|
LLM_API_KEY_1="your_sgl_key_1_here"
|
|
|
|
LLM_API_BASE_2="http://<SERVER_2_IP>:30000/v1"
|
|
LLM_API_KEY_2="your_sgl_key_2_here"
|
|
|
|
LLM_API_BASE_3="http://<SERVER_3_IP>:30001/v1"
|
|
LLM_API_KEY_3="none"
|
|
|
|
LiteLLM_API_KEY="your_litellm_api_key_here"
|
|
|
|
UI_USERNAME="admin"
|
|
UI_PASSWORD="YourPasswordHere!"
|
|
|
|
# 1단계 독립 구축된 PostgreSQL DB 연결 설정
|
|
DATABASE_URL="postgresql://litellm_admin:YourDbPasswordHere!@host.docker.internal:5432/litellm"
|