Update app.py

app.py

@@ -38,18 +38,17 @@ max_results = 3
 min_len = 40
 min_distance = 0.35
 max_distance = 0.6
-temperature = 0.6
+temperature = 0.7
 max_tokens=5100
 top_p=0.85
 top_k=1000
 frequency_penalty=0.0
 repetition_penalty=1.12
 presence_penalty=0.15
-jezik = "srpski"
 cs = "s0"
 
 system_sr = "Zoveš se U-Chat AI asistent i pomažeš odgovorima korisniku usluga kompanije United Group. Korisnik postavlja pitanje ili problem na koji očekuje rešenje. "
-" Ako ne znaš odgovor, reci da ne znaš, ne izmišljaj ga."
+# " Ako ne znaš odgovor, reci da ne znaš, ne izmišljaj ga."
 system_sr += "Usluge kompanije United Group uključuju i kablovsku mrežu za digitalnu televiziju, pristup internetu, uređaj EON SMART BOX za TV sadržaj, kao i fiksnu telefoniju. "
 
 chroma_client = chromadb.PersistentClient(CHROMA_DATA_PATH)
@@ -69,7 +68,7 @@ HF_TOKEN = os.getenv("HF_TOKEN")
 #
 login(token=(HF_TOKEN))
 
-system_prompt = system_sr
+#system_prompt = system_sr
 
 client = InferenceClient(LLM_NAME)
 
@@ -115,7 +114,6 @@ def resetChat():
     return True
 
 def rag(input_text, history, jezik): # , file):
-    global system_prompt
 #    if (btn):
 #        resetChat()
 #    print(history, input_text)
@@ -162,6 +160,7 @@ def rag(input_text, history, jezik): # , file):
     #    #        {"lang": jezik } ] },
     #)
     #jezik = "N/A"
+    system_prompt = ""
     match jezik:
         case 'hrvatski':
             o_jezik = 'na hrvatskom jeziku, gramatički točno.'
@@ -171,14 +170,14 @@ def rag(input_text, history, jezik): # , file):
             system_prompt = system_sr + "Call centar i pomoč za fizične uporabnike: 070 700 700.stran za podporo je <https://telemach.si/pomoc>. " + "Odgovor isključivo " + o_jezik
         case 'srpski':
             o_jezik = 'na srpskom jeziku, gramatički ispravno.'
-            ystem_prompt = system_sr + "Call centar telefon je 19900 za sve korisnike. Stranica podrške je <https://sbb.rs/podrska/>. " + "Odgovaraj isključivo " + o_jezik
+            system_prompt = system_sr + "Call centar telefon je 19900 za sve korisnike. Stranica podrške je <https://sbb.rs/podrska/>. " + "Odgovaraj isključivo " + o_jezik
         case 'makedonski':
             o_jezik = 'на македонски јазикот граматички точно.'
             system_prompt = system_sr + "Stranica podrške je https://mn.nettvplus.com/me/podrska/ za NetTV. " + "Oдговори исклучиво " + o_jezik
         case 'Eksperimentalna opcija':
             o_jezik = 'N/A'
             system_prompt = system_sr + "Call centar telefon je 12755 za Crnu Goru, 0800 31111 za BIH, 070 700 700 u Sloveniji, 19900 u Srbiji, 095 1000 444 za hrvatske korisnike. Odgovori na jeziku istom kao i u postavljenom pitanju ili problemu korisnika."
-    print("jezik: "+jezik)
+    print("jezik: "+o_jezik)
     system_prompt = system_prompt + " Sledi pitanje ili problem korisnika, sa kojim dalje komuniciraš: "
 #        if (o_jezik!='N/A'):
 #            input_text += " - odgovori " + o_jezik + "."