|
|
|
|
|
import numpy as np |
|
|
import soundfile as sf |
|
|
import io |
|
|
from groq import Groq |
|
|
from config.settings import settings |
|
|
from core.rag_system import EnhancedRAGSystem |
|
|
from core.tts_service import EnhancedTTSService |
|
|
from core.multilingual_manager import MultilingualManager |
|
|
|
|
|
class AudioService: |
|
|
def __init__(self, groq_client: Groq, rag_system: EnhancedRAGSystem, tts_service: EnhancedTTSService): |
|
|
self.groq_client = groq_client |
|
|
self.rag_system = rag_system |
|
|
self.tts_service = tts_service |
|
|
self.multilingual_manager = MultilingualManager() |
|
|
|
|
|
def transcribe_audio(self, audio: tuple) -> tuple: |
|
|
"""Chuyển đổi giọng nói thành văn bản sử dụng mô hình Whisper.""" |
|
|
if not audio: |
|
|
return "❌ Lỗi: Không có dữ liệu âm thanh", "❌ Vui lòng cung cấp file âm thanh", None, "unknown" |
|
|
|
|
|
try: |
|
|
|
|
|
if isinstance(audio, tuple): |
|
|
sr, y = audio |
|
|
else: |
|
|
return "❌ Lỗi: Định dạng âm thanh không hợp lệ", "❌ Định dạng âm thanh không được hỗ trợ", None, "unknown" |
|
|
|
|
|
|
|
|
if y.size == 0: |
|
|
return "❌ Lỗi: Dữ liệu âm thanh trống", "❌ File âm thanh không có dữ liệu", None, "unknown" |
|
|
|
|
|
|
|
|
if y.ndim > 1: |
|
|
y = np.mean(y, axis=1) |
|
|
y = y.astype(np.float32) |
|
|
|
|
|
|
|
|
if np.max(np.abs(y)) > 0: |
|
|
y /= np.max(np.abs(y)) |
|
|
else: |
|
|
return "❌ Lỗi: Âm thanh quá yếu", "❌ Không thể phát hiện âm thanh", None, "unknown" |
|
|
|
|
|
|
|
|
buffer = io.BytesIO() |
|
|
sf.write(buffer, y, sr, format='WAV', subtype='PCM_16') |
|
|
buffer.seek(0) |
|
|
|
|
|
|
|
|
try: |
|
|
print(f"🔄 Đang gửi yêu cầu chuyển đổi giọng nói đến Groq API...") |
|
|
|
|
|
|
|
|
transcription = self.groq_client.audio.transcriptions.create( |
|
|
file=("audio.wav", buffer.read(), "audio/wav"), |
|
|
model=settings.WHISPER_MODEL, |
|
|
language="vi", |
|
|
response_format="text" |
|
|
) |
|
|
|
|
|
|
|
|
if hasattr(transcription, 'text'): |
|
|
transcription_text = transcription.text |
|
|
elif isinstance(transcription, str): |
|
|
transcription_text = transcription |
|
|
else: |
|
|
print(f"⚠️ Response structure không mong đợi: {type(transcription)}") |
|
|
transcription_text = str(transcription) |
|
|
|
|
|
except Exception as e: |
|
|
error_msg = f"❌ Lỗi API chuyển đổi giọng nói: {str(e)}" |
|
|
print(f"❌ Chi tiết lỗi: {e}") |
|
|
return error_msg, "❌ Không thể chuyển đổi giọng nói thành văn bản", None, "unknown" |
|
|
|
|
|
|
|
|
if not transcription_text or len(transcription_text.strip()) == 0: |
|
|
return "❌ Không thể nhận dạng giọng nói", "❌ Vui lòng thử lại với âm thanh rõ hơn", None, "unknown" |
|
|
|
|
|
print(f"✅ Đã chuyển đổi giọng nói: {transcription_text}") |
|
|
|
|
|
|
|
|
language = self.multilingual_manager.detect_language(transcription_text) |
|
|
response = self._generate_response_with_rag(transcription_text, language) |
|
|
|
|
|
|
|
|
tts_audio = None |
|
|
if response and not response.startswith("❌") and not response.startswith("Error"): |
|
|
try: |
|
|
print(f"🔊 Đang tạo TTS cho response {len(response)} ký tự...") |
|
|
tts_bytes = self.tts_service.text_to_speech(response, language) |
|
|
if tts_bytes: |
|
|
tts_audio_path = self.tts_service.save_tts_audio(tts_bytes) |
|
|
tts_audio = tts_audio_path |
|
|
print(f"✅ Đã tạo TTS thành công") |
|
|
except Exception as e: |
|
|
print(f"⚠️ Lỗi TTS: {e}") |
|
|
|
|
|
|
|
|
return transcription_text, response, tts_audio, language |
|
|
|
|
|
except Exception as e: |
|
|
error_msg = f"❌ Lỗi hệ thống xử lý âm thanh: {str(e)}" |
|
|
print(f"❌ Lỗi tổng hợp: {traceback.format_exc()}") |
|
|
return error_msg, "❌ Có lỗi xảy ra trong quá trình xử lý", None, "unknown" |
|
|
|
|
|
def _generate_response_with_rag(self, query: str, language: str) -> str: |
|
|
"""Tạo phản hồi sử dụng hệ thống RAG dựa trên truy vấn và ngôn ngữ.""" |
|
|
if not query or query.strip() == "" or query.startswith("❌"): |
|
|
return "❌ Truy vấn không hợp lệ để tạo phản hồi." |
|
|
|
|
|
try: |
|
|
|
|
|
rag_results = self.rag_system.semantic_search(query, top_k=3) |
|
|
context_text = "" |
|
|
|
|
|
if rag_results: |
|
|
for result in rag_results: |
|
|
context_text += f"- {result.text}\n" |
|
|
|
|
|
|
|
|
llm_model = self.multilingual_manager.get_llm_model(language) |
|
|
|
|
|
|
|
|
if language == "vi": |
|
|
system_prompt = """Bạn là trợ lý AI thông minh chuyên về tiếng Việt. Hãy trả lời câu hỏi một cách tự nhiên và hữu ích. |
|
|
|
|
|
Thông tin tham khảo: |
|
|
{context} |
|
|
|
|
|
Nếu có thông tin tham khảo, hãy sử dụng nó. Nếu không, dựa vào kiến thức chung của bạn.""" |
|
|
else: |
|
|
system_prompt = """You are a smart AI assistant. Please answer questions naturally and helpfully. |
|
|
|
|
|
Reference information: |
|
|
{context} |
|
|
|
|
|
If reference information is available, use it. Otherwise, rely on your general knowledge.""" |
|
|
|
|
|
messages = [ |
|
|
{ |
|
|
"role": "system", |
|
|
"content": system_prompt.format(context=context_text) if context_text else system_prompt.format(context="Không có thông tin tham khảo cụ thể.") |
|
|
}, |
|
|
{ |
|
|
"role": "user", |
|
|
"content": query |
|
|
} |
|
|
] |
|
|
|
|
|
|
|
|
try: |
|
|
completion = self.groq_client.chat.completions.create( |
|
|
model=llm_model, |
|
|
messages=messages, |
|
|
max_tokens=512, |
|
|
temperature=0.7, |
|
|
) |
|
|
|
|
|
|
|
|
if hasattr(completion.choices[0].message, 'content'): |
|
|
return completion.choices[0].message.content.strip() |
|
|
else: |
|
|
return "❌ Không thể tạo phản hồi từ AI" |
|
|
|
|
|
except Exception as e: |
|
|
return f"❌ Lỗi khi gọi Groq API: {str(e)}" |
|
|
|
|
|
except Exception as e: |
|
|
return f"❌ Lỗi tạo phản hồi: {str(e)}" |