changed ai model to mistral

app.py

@@ -1,19 +1,31 @@
 import gradio as gr
 from transformers import AutoModelForCausalLM, AutoTokenizer
 
-model_id = "microsoft/phi-2"
+model_id = "mistralai/Mistral-7B-Instruct-v0.2"
 tokenizer = AutoTokenizer.from_pretrained(model_id)
-model = AutoModelForCausalLM.from_pretrained(model_id)
+model = AutoModelForCausalLM.from_pretrained(model_id, device_map="auto")
 
 def responder(prompt):
-    inputs = tokenizer(prompt, return_tensors="pt")
-    outputs = model.generate(**inputs, max_new_tokens=200)
-    return tokenizer.decode(outputs[0], skip_special_tokens=True)
+    # Força português no output
+    system_message = "Você é um personal trainer virtual. Responda em português, de forma clara, curta e prática."
+    entrada = f"{system_message}\n\nUsuário: {prompt}\nAssistente:"
+    
+    inputs = tokenizer(entrada, return_tensors="pt").to(model.device)
+    outputs = model.generate(
+        **inputs,
+        max_new_tokens=300,
+        temperature=0.7,
+        do_sample=True,
+        top_p=0.9
+    )
+    resposta = tokenizer.decode(outputs[0], skip_special_tokens=True)
+    return resposta.split("Assistente:")[-1].strip()
 
 demo = gr.Interface(
     fn=responder,
     inputs=gr.Textbox(lines=3, label="Pergunta"),
-    outputs=gr.Textbox(label="Resposta")
+    outputs=gr.Textbox(label="Resposta"),
+    title="Personal Trainer AI"
 )
 
 demo.launch()

requirements.txt

@@ -1,6 +1,4 @@
 transformers
 torch
-sentencepiece
 accelerate
-faiss-cpu
-sentence-transformers
+sentencepiece