Basado en faster-whisper, LLM Mistral y Gradio
- Edita el archivo .env con los ajustes correspondientes.
WHISPER_DEVICE=cudapara aprovechar la GPU. - Para crear entorno virtual:
python -m venv venvy Activarlo:source venv/bin/activate - Instalar dependencias:
pip install -r requirements.txt - Ejecutar:
python main.py - Para levantar todo chatbot (desde la carpeta docker):
sudo docker compose build --no-cache sudo docker compose up -d
- Para levantar nginx (desde la carpeta docker/nginx)
sudo docker compose build --no-cache sudo docker compose up -d