Σχεδιασμός και Υλοποίηση εξειδικευμένου chatbot για διαδικτυακές πλατφόρμες

 

63

 

Πίνακας 10: Συγκεντρωτική σύγκριση των εργαλείων του συστήματος και των εναλλακτικών  

Ρόλος

 

Επιλογή

 

Εναλλακτικές

 

Λόγος επιλογής

 

Διανυσματική βάση

 

ChromaDB [6]

 

Milvus, Pinecone, Qdrant

 

Απλότητα, ενσωματωμένη λειτουργία, 

τοπική

 

Τοπική εκτέλεση 

LLM

 

Ollama [21]

 

vLLM, llama.cpp

 

REST API, διαχείριση μνήμης, μητρώο 

μοντέλων

 

Διεπαφή χρήστη

 

Chainlit [4]

 

Streamlit, Gradio

 

Σχεδιασμένο για συνομιλία, σταδιακή 

ροή και ανατροφοδότηση

 

Επιτάχυνση GPU

 

ROCm [1]

 

CUDA (NVIDIA)

 

Υποστήριξη της AMD RX 6700 XT

 

Ενσωματώσεις

 

BGE-M3 [5]

 

E5, multilingual-MiniLM

 

Πολυγλωσσικό, 8192 tokens, τοπικό

 

Αξιολόγηση RAG

 

RAGAS [10]

 

Χειροκίνητη κρίση

 

Χωρίς επισημειώσεις αναφοράς, 4 

μετρικές 

Σχεσιακκή 

αποθήκευση 

SQLLite [69] 

PostgreSQL, MySQL 

Ενσωματωμένη, χωρίς εξυπηρετητή, 

μέρος της Python 

 

Για την αξιολόγηση που θα γίνει στο Κεφάλαιο 6, η στρατηγική είναι συνδυαστική. Θα 

χρησιμοποιηθεί το ROUGE-L για βασική σύγκριση με απαντήσεις αναφοράς, το BERTScore 

για τη σημασιολογική ομοιότητα, και τα τέσσερα μέτρα του RAGAS για ολιστική αξιολόγηση 

του αγωγού RAG. Η εικόνα αυτή συμπληρώνεται με ποιοτική εξέταση αντιπροσωπευτικών 

παραδειγμάτων, που αναδεικνύει πλευρές της συμπεριφοράς του συστήματος τις οποίες δεν 

πιάνουν  οι  αυτόματες  μετρικές.  Το  κενό  αυτό  ανάμεσα  στις  τεχνικές  μετρικές  και  στην 

πραγματική χρησιμότητα του συστήματος έχει εντοπιστεί ως κρίσιμο και σε άλλες σύγχρονες 

μελέτες για chatbots, τόσο σε εκπαιδευτικά πλαίσια [30] όσο και σε ευαίσθητους τομείς όπως 

η ιατρική [3]. Στο Κεφάλαιο 4 παρουσιάζεται η συνολική αρχιτεκτονική του συστήματος, μαζί 

με τη ροή των δεδομένων από την ερώτηση του χρήστη μέχρι την τελική απάντηση.