Update app.py

app.py

@@ -26,9 +26,8 @@ def generate_response(prompt):
         eos_token_id=tokenizer.eos_token_id
     )
 
-   response = generator(prompt, max_length=100, num_return_sequences=1, temperature=0.7, top_k=50, top_p=0.95)
-
-    # Убираем часть промпта из начала
+    # Декодирование ответа и удаление части промпта
+    response = tokenizer.decode(output[0], skip_special_tokens=True)
     return response.replace(instruction, "").strip()
 
 # Интерфейс Gradio
@@ -43,3 +42,4 @@ iface = gr.Interface(
 # Запуск интерфейса
 iface.launch()
 
+