ollama로 다른 호스트에서 local model로 운영하는데,
timeout 이 걸려서 오류가 발생하는 것 같습니다.
LLM 포맷팅 중...
Error: LLM 포맷팅 실패: Ollama API error: Post "http://my.host.com:11434/api/chat": context deadline exceeded (Client.Timeout exceeded while awaiting headers)
소스코드를 살펴보니, local에서 돌리는 경우에는 기본 값을 크게 설정하는 것으로 보이는데, 아예 외부 설정에서 timeout을
설정할 수 있었으면 합니다.
ollama로 다른 호스트에서 local model로 운영하는데,
timeout 이 걸려서 오류가 발생하는 것 같습니다.
LLM 포맷팅 중...
Error: LLM 포맷팅 실패: Ollama API error: Post "http://my.host.com:11434/api/chat": context deadline exceeded (Client.Timeout exceeded while awaiting headers)
소스코드를 살펴보니, local에서 돌리는 경우에는 기본 값을 크게 설정하는 것으로 보이는데, 아예 외부 설정에서 timeout을
설정할 수 있었으면 합니다.