aa

app.py

@@ -95,53 +95,52 @@ La salida debe contener *EXCLUSIVAMENTE* el texto revisado del borrador judicial
 Este rol es de suma importancia. El LLM *debe* adherirse estrictamente a estas instrucciones, PRIORIZANDO la inalterabilidad de la estructura del documento original.
 """
 
-# Configuración común de generación para ambos modelos
+# Configuración de generación usando system_instruction
 generation_config = types.GenerateContentConfig(
     system_instruction=instruction,
     temperature=0.3,
     top_p=0.9,
     top_k=40,
     max_output_tokens=8000,
-    response_mime_type="text/plain"
 )
 
-# Definición de los nombres de modelo a utilizar
+# Identificadores de los modelos a utilizar
 model_flash_exp = "gemini-2.0-pro-exp-02-05"
 model_gemini_ex = "gemini-2.0-flash-thinking-exp-01-21"
 
-# Función asíncrona para generar contenido usando el modelo indicado
-async def generate_content(model_name, borrador):
-    try:
-        response = await client.aio.models.generate_content(
-            model=model_name,
-            contents=borrador,
-            config=generation_config
-        )
-        return response.text
-    except Exception as e:
-        return f"Error en {model_name}: {str(e)}"
-
-# Función que combina las respuestas de ambos modelos
+# Función asíncrona para generar contenido con streaming
+async def generate_content_streamed(model_name, borrador):
+    response_stream = await client.aio.models.generate_content_stream(
+        model=model_name,
+        contents=borrador,  # Se envía solo el borrador; la instrucción está en generation_config
+        config=generation_config,
+    )
+    full_response = ""
+    async for chunk in response_stream:
+        full_response += chunk.text
+    return full_response
+
+# Combina las respuestas de dos modelos
 async def combine_responses(borrador):
-    flash_task = asyncio.create_task(generate_content(model_flash_exp, borrador))
-    gemini_ex_task = asyncio.create_task(generate_content(model_gemini_ex, borrador))
+    flash_task = asyncio.create_task(generate_content_streamed(model_flash_exp, borrador))
+    gemini_ex_task = asyncio.create_task(generate_content_streamed(model_gemini_ex, borrador))
     flash_result = await flash_task
     gemini_ex_result = await gemini_ex_task
     combined_result = (
-        f"**Google Gemini flash-exp:**\n{flash_result}\n\n"
-        f"**Google gemini-exp-1206:**\n{gemini_ex_result}"
+        f"**Google Gemini flash-exp**:\n{flash_result}\n\n"
+        f"**Google gemini-exp-1206**:\n{gemini_ex_result}"
     )
     return combined_result
 
-# Función asíncrona principal
+# Función asíncrona principal de predicción
 async def predict(borrador):
     return await combine_responses(borrador)
 
-# Función sincrónica que envuelve la llamada asíncrona (para Gradio)
+# Función síncrona para Gradio (sin barra de progreso)
 def predict_sync(borrador):
     return asyncio.run(predict(borrador))
 
-# Interfaz Gradio
+# Interfaz de Gradio
 with gr.Blocks() as demo:
     gr.Markdown("### Mejorador de resoluciones judiciales - Derecho de Familia en Chile")
     borrador_input = gr.Textbox(
@@ -155,7 +154,6 @@ with gr.Blocks() as demo:
         lines=10
     )
     submit_btn = gr.Button("Enviar")
-    
     submit_btn.click(fn=predict_sync, inputs=borrador_input, outputs=output)
 
 if __name__ == "__main__":