File size: 2,127 Bytes
a1c3abd 81b522a a1c3abd c8ca1ef |
1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 |
#!/bin/bash
# Fonction pour afficher des messages informatifs en vert
info() {
echo -e "\e[32m[INFO]\e[0m $1"
}
# Fonction pour afficher des messages d'erreur en rouge
error() {
echo -e "\e[31m[ERREUR]\e[0m $1"
}
# --- Début du script ---
# Étape 1: Création du script de démarrage du serveur
info "Étape 1: Création du script de démarrage du serveur..."
mkdir -p server
START_SCRIPT="server/start_server.sh"
echo '#!/bin/bash' > "$START_SCRIPT"
# Utilisation du chemin absolu /app/models/
echo "MODEL_PATH=\"/app/models/qwen2.5-coder-1.5b-q8_0.gguf\"" >> "$START_SCRIPT"
echo 'if [ ! -f "$MODEL_PATH" ]; then' >> "$START_SCRIPT"
echo ' echo "Le modèle GGUF est introuvable à: $MODEL_PATH"' >> "$START_SCRIPT"
echo ' exit 1' >> "$START_SCRIPT"
echo 'fi' >> "$START_SCRIPT"
echo '"/app/llama.cpp/build/bin/llama-server" \\' >> "$START_SCRIPT"
echo " -m \"\$MODEL_PATH\" \\" >> "$START_SCRIPT"
echo " --port 8080 \\" >> "$START_SCRIPT"
echo " --host 0.0.0.0 \\" >> "$START_SCRIPT"
echo " -c 4096 \\" >> "$START_SCRIPT"
echo " -ngl 999 \\" >> "$START_SCRIPT"
echo " --threads 8 \\" >> "$START_SCRIPT"
echo ' > "logs/llama_server.log" 2>&1 &' >> "$START_SCRIPT"
echo 'echo $! > "server/server.pid"' >> "$START_SCRIPT"
chmod +x "$START_SCRIPT"
info "Script de démarrage du serveur créé."
# Étape 2: Création du script d'arrêt du serveur
info "Étape 2: Création du script d'arrêt du serveur..."
STOP_SCRIPT="server/stop_server.sh"
echo '#!/bin/bash' > "$STOP_SCRIPT"
echo 'PID_FILE="server/server.pid"' >> "$STOP_SCRIPT"
echo 'if [ -f "$PID_FILE" ]; then' >> "$STOP_SCRIPT"
echo ' PID=$(cat "$PID_FILE")' >> "$STOP_SCRIPT"
echo ' kill $PID' >> "$STOP_SCRIPT"
echo ' rm "$PID_FILE"' >> "$STOP_SCRIPT"
echo ' echo "Serveur llama.cpp arrêté."' >> "$STOP_SCRIPT"
echo 'else' >> "$STOP_SCRIPT"
echo ' echo "Aucun PID de serveur trouvé."' >> "$STOP_SCRIPT"
echo 'fi' >> "$STOP_SCRIPT"
chmod +x "$STOP_SCRIPT"
info "Script d'arrêt du serveur créé."
# Étape 3: Lancement de l'application Streamlit
info "Étape 3: Lancement de l'application Streamlit..."
streamlit run app.py |