Ferdlance commited on
Commit
a1c3abd
·
verified ·
1 Parent(s): 9557ca2

Update build.sh

Browse files
Files changed (1) hide show
  1. build.sh +53 -54
build.sh CHANGED
@@ -1,55 +1,54 @@
1
- #!/bin/bash
2
-
3
- # Fonction pour afficher des messages informatifs en vert
4
- info() {
5
- echo -e "\e[32m[INFO]\e[0m $1"
6
- }
7
-
8
- # Fonction pour afficher des messages d'erreur en rouge
9
- error() {
10
- echo -e "\e[31m[ERREUR]\e[0m $1"
11
- }
12
-
13
- # --- Début du script ---
14
-
15
- # Étape 3: Création du script de démarrage du serveur
16
- info "Étape 3: Création du script de démarrage du serveur..."
17
- mkdir -p server
18
- START_SCRIPT="server/start_server.sh"
19
- echo '#!/bin/bash' > "$START_SCRIPT"
20
- echo "MODEL_PATH=\"../models/qwen2.5-coder-1.5b-q8_0.gguf\"" >> "$START_SCRIPT"
21
- echo 'if [ ! -f "$MODEL_PATH" ]; then' >> "$START_SCRIPT"
22
- echo ' echo "Le modèle GGUF est introuvable à: $MODEL_PATH"' >> "$START_SCRIPT"
23
- echo ' exit 1' >> "$START_SCRIPT"
24
- echo 'fi' >> "$START_SCRIPT"
25
- echo '"../llama.cpp/build/bin/llama-server" \\' >> "$START_SCRIPT"
26
- echo " -m \"\$MODEL_PATH\" \\" >> "$START_SCRIPT"
27
- echo " --port 8080 \\" >> "$START_SCRIPT"
28
- echo " --host 0.0.0.0 \\" >> "$START_SCRIPT"
29
- echo " -c 4096 \\" >> "$START_SCRIPT"
30
- echo " -ngl 999 \\" >> "$START_SCRIPT"
31
- echo " --threads 8 \\" >> "$START_SCRIPT"
32
- echo ' > "logs/llama_server.log" 2>&1 &' >> "$START_SCRIPT"
33
- echo 'echo $! > "server/server.pid"' >> "$START_SCRIPT"
34
- chmod +x "$START_SCRIPT"
35
- info "Script de démarrage du serveur créé."
36
-
37
- # Étape 4: Création du script d'arrêt du serveur
38
- info "Étape 4: Création du script d'arrêt du serveur..."
39
- STOP_SCRIPT="server/stop_server.sh"
40
- echo '#!/bin/bash' > "$STOP_SCRIPT"
41
- echo 'PID_FILE="server/server.pid"' >> "$STOP_SCRIPT"
42
- echo 'if [ -f "$PID_FILE" ]; then' >> "$STOP_SCRIPT"
43
- echo ' PID=$(cat "$PID_FILE")' >> "$STOP_SCRIPT"
44
- echo ' kill $PID' >> "$STOP_SCRIPT"
45
- echo ' rm "$PID_FILE"' >> "$STOP_SCRIPT"
46
- echo ' echo "Serveur llama.cpp arrêté."' >> "$STOP_SCRIPT"
47
- echo 'else' >> "$STOP_SCRIPT"
48
- echo ' echo "Aucun PID de serveur trouvé."' >> "$STOP_SCRIPT"
49
- echo 'fi' >> "$STOP_SCRIPT"
50
- chmod +x "$STOP_SCRIPT"
51
- info "Script d'arrêt du serveur créé."
52
-
53
- # Étape 5: Lancement de l'application Streamlit
54
- info "Étape 5: Lancement de l'application Streamlit..."
55
  streamlit run app.py
 
1
+ #!/bin/bash
2
+ # Fonction pour afficher des messages informatifs en vert
3
+ info() {
4
+ echo -e "\e[32m[INFO]\e[0m $1"
5
+ }
6
+
7
+ # Fonction pour afficher des messages d'erreur en rouge
8
+ error() {
9
+ echo -e "\e[31m[ERREUR]\e[0m $1"
10
+ }
11
+
12
+ # --- Début du script ---
13
+
14
+ # Étape 1: Création du script de démarrage du serveur
15
+ info "Étape 1: Création du script de démarrage du serveur..."
16
+ mkdir -p server
17
+ START_SCRIPT="server/start_server.sh"
18
+ echo '#!/bin/bash' > "$START_SCRIPT"
19
+ echo "MODEL_PATH=\"/app/models/qwen2.5-coder-1.5b-q8_0.gguf\"" >> "$START_SCRIPT"
20
+ echo 'if [ ! -f "$MODEL_PATH" ]; then' >> "$START_SCRIPT"
21
+ echo ' echo "Le modèle GGUF est introuvable à: $MODEL_PATH"' >> "$START_SCRIPT"
22
+ echo ' exit 1' >> "$START_SCRIPT"
23
+ echo 'fi' >> "$START_SCRIPT"
24
+ echo '"/app/llama.cpp/build/bin/llama-server" \\' >> "$START_SCRIPT"
25
+ echo " -m \"\$MODEL_PATH\" \\" >> "$START_SCRIPT"
26
+ echo " --port 8080 \\" >> "$START_SCRIPT"
27
+ echo " --host 0.0.0.0 \\" >> "$START_SCRIPT"
28
+ echo " -c 4096 \\" >> "$START_SCRIPT"
29
+ echo " -ngl 999 \\" >> "$START_SCRIPT"
30
+ echo " --threads 8 \\" >> "$START_SCRIPT"
31
+ echo ' > "logs/llama_server.log" 2>&1 &' >> "$START_SCRIPT"
32
+ echo 'echo $! > "server/server.pid"' >> "$START_SCRIPT"
33
+ chmod +x "$START_SCRIPT"
34
+ info "Script de démarrage du serveur créé."
35
+
36
+ # Étape 2: Création du script d'arrêt du serveur
37
+ info "Étape 2: Création du script d'arrêt du serveur..."
38
+ STOP_SCRIPT="server/stop_server.sh"
39
+ echo '#!/bin/bash' > "$STOP_SCRIPT"
40
+ echo 'PID_FILE="server/server.pid"' >> "$STOP_SCRIPT"
41
+ echo 'if [ -f "$PID_FILE" ]; then' >> "$STOP_SCRIPT"
42
+ echo ' PID=$(cat "$PID_FILE")' >> "$STOP_SCRIPT"
43
+ echo ' kill $PID' >> "$STOP_SCRIPT"
44
+ echo ' rm "$PID_FILE"' >> "$STOP_SCRIPT"
45
+ echo ' echo "Serveur llama.cpp arrêté."' >> "$STOP_SCRIPT"
46
+ echo 'else' >> "$STOP_SCRIPT"
47
+ echo ' echo "Aucun PID de serveur trouvé."' >> "$STOP_SCRIPT"
48
+ echo 'fi' >> "$STOP_SCRIPT"
49
+ chmod +x "$STOP_SCRIPT"
50
+ info "Script d'arrêt du serveur créé."
51
+
52
+ # Étape 3: Lancement de l'application Streamlit
53
+ info "Étape 3: Lancement de l'application Streamlit..."
 
54
  streamlit run app.py