Ferdlance commited on
Commit
370df61
·
verified ·
1 Parent(s): 81b522a

Update build.sh

Browse files
Files changed (1) hide show
  1. build.sh +38 -26
build.sh CHANGED
@@ -15,38 +15,50 @@ error() {
15
  info "Étape 1: Création du script de démarrage du serveur..."
16
  mkdir -p server
17
  START_SCRIPT="server/start_server.sh"
18
- echo '#!/bin/bash' > "$START_SCRIPT"
19
- # Utilisation du chemin absolu /app/models/
20
- echo "MODEL_PATH=\"/app/models/qwen2.5-coder-1.5b-q8_0.gguf\"" >> "$START_SCRIPT"
21
- echo 'if [ ! -f "$MODEL_PATH" ]; then' >> "$START_SCRIPT"
22
- echo ' echo "Le modèle GGUF est introuvable à: $MODEL_PATH"' >> "$START_SCRIPT"
23
- echo ' exit 1' >> "$START_SCRIPT"
24
- echo 'fi' >> "$START_SCRIPT"
25
- echo '"/app/llama.cpp/build/bin/llama-server" \\' >> "$START_SCRIPT"
26
- echo " -m \"\$MODEL_PATH\" \\" >> "$START_SCRIPT"
27
- echo " --port 8080 \\" >> "$START_SCRIPT"
28
- echo " --host 0.0.0.0 \\" >> "$START_SCRIPT"
29
- echo " -c 4096 \\" >> "$START_SCRIPT"
30
- echo " -ngl 999 \\" >> "$START_SCRIPT"
31
- echo " --threads 8 \\" >> "$START_SCRIPT"
32
- echo ' > "logs/llama_server.log" 2>&1 &' >> "$START_SCRIPT"
33
- echo 'echo $! > "server/server.pid"' >> "$START_SCRIPT"
 
 
 
 
 
 
 
34
  chmod +x "$START_SCRIPT"
35
  info "Script de démarrage du serveur créé."
36
 
37
  # Étape 2: Création du script d'arrêt du serveur
38
  info "Étape 2: Création du script d'arrêt du serveur..."
39
  STOP_SCRIPT="server/stop_server.sh"
40
- echo '#!/bin/bash' > "$STOP_SCRIPT"
41
- echo 'PID_FILE="server/server.pid"' >> "$STOP_SCRIPT"
42
- echo 'if [ -f "$PID_FILE" ]; then' >> "$STOP_SCRIPT"
43
- echo ' PID=$(cat "$PID_FILE")' >> "$STOP_SCRIPT"
44
- echo ' kill $PID' >> "$STOP_SCRIPT"
45
- echo ' rm "$PID_FILE"' >> "$STOP_SCRIPT"
46
- echo ' echo "Serveur llama.cpp arrêté."' >> "$STOP_SCRIPT"
47
- echo 'else' >> "$STOP_SCRIPT"
48
- echo ' echo "Aucun PID de serveur trouvé."' >> "$STOP_SCRIPT"
49
- echo 'fi' >> "$STOP_SCRIPT"
 
 
 
 
 
50
  chmod +x "$STOP_SCRIPT"
51
  info "Script d'arrêt du serveur créé."
52
 
 
15
  info "Étape 1: Création du script de démarrage du serveur..."
16
  mkdir -p server
17
  START_SCRIPT="server/start_server.sh"
18
+
19
+ # Utilisation d'un here document pour une génération sans erreur
20
+ cat > "$START_SCRIPT" << EOF
21
+ #!/bin/bash
22
+ MODEL_PATH="/app/models/qwen2.5-coder-1.5b-q8_0.gguf"
23
+
24
+ if [ ! -f "\$MODEL_PATH" ]; then
25
+ echo "Le modèle GGUF est introuvable à: \$MODEL_PATH"
26
+ exit 1
27
+ fi
28
+
29
+ "/app/llama.cpp/build/bin/llama-server" \\
30
+ -m "\$MODEL_PATH" \\
31
+ --port 8080 \\
32
+ --host 0.0.0.0 \\
33
+ -c 4096 \\
34
+ -ngl 999 \\
35
+ --threads 8 \\
36
+ > "logs/llama_server.log" 2>&1 &
37
+
38
+ echo \$! > "server/server.pid"
39
+ EOF
40
+
41
  chmod +x "$START_SCRIPT"
42
  info "Script de démarrage du serveur créé."
43
 
44
  # Étape 2: Création du script d'arrêt du serveur
45
  info "Étape 2: Création du script d'arrêt du serveur..."
46
  STOP_SCRIPT="server/stop_server.sh"
47
+
48
+ cat > "$STOP_SCRIPT" << EOF
49
+ #!/bin/bash
50
+ PID_FILE="server/server.pid"
51
+
52
+ if [ -f "\$PID_FILE" ]; then
53
+ PID=\$(cat "\$PID_FILE")
54
+ kill \$PID
55
+ rm "\$PID_FILE"
56
+ echo "Serveur llama.cpp arrêté."
57
+ else
58
+ echo "Aucun PID de serveur trouvé."
59
+ fi
60
+ EOF
61
+
62
  chmod +x "$STOP_SCRIPT"
63
  info "Script d'arrêt du serveur créé."
64