Σχεδιασμός και Υλοποίηση εξειδικευμένου chatbot για διαδικτυακές πλατφόρμες
16
Κατάλογος Εικόνων
Εικόνα 1: Γενικευμένη αναπαράσταση των διανυσματικών ενσωματώσεων: κείμενα με
παρόμοιο νόημα τοποθετούνται κοντά στον σημασιολογικό χώρο ................................................ 31
Εικόνα 2: Διάγραμμα ροής της διαδικασίας RAG, από την ερώτηση του χρήστη έως την
τεκμηριωμένη απάντηση ................................................................................................................... 35
Εικόνα 3: Συνολική αρχιτεκτονική του συστήματος, με τη φάση ευρετηρίασης και τη φάση
ερώτησης-απάντησης ......................................................................................................................... 59
Εικόνα 4: Λεπτομερής αρχιτεκτονική του συστήματος με τις δύο φάσεις λειτουργίας και τον
βρόχο ανατροφοδότησης .................................................................................................................... 60
Εικόνα 5: Διάγραμμα ροής του αγωγού συλλογής και ευρετηρίασης δεδομένων ........................ 63
Εικόνα 6: Καμπύλη του εκθετικά φθίνοντος βάρους επικαιρότητας για διάφορους χρόνους
ημιζωής ............................................................................................................................................... 64
Εικόνα 7: Η υλοποιημένη διεπαφή σε λειτουργία. Η απάντηση συνοδεύεται από την πηγή, το
ποσοστό βεβαιότητας και τα κουμπιά αξιολόγησης ........................................................................ 73
Εικόνα 8: Διάγραμμα ακολουθίας των αλληλεπιδράσεων μεταξύ των μονάδων κατά την
εξυπηρέτηση ενός ερωτήματος ......................................................................................................... 74
Εικόνα 9: Δομή των φορτίων JSON για την επικοινωνία με το Ollama και τη ChromaDB ....... 75
Εικόνα 10: Λογική του ανιχνευτή ιστού για τον διαχωρισμό κύριου ιστότοπου και υποτομέων 76
Εικόνα 11: Υπολογισμός της βαρύτητας επικαιρότητας και του τελικού σκορ κατάταξης ........ 77
Εικόνα 12: Οι ντετερμινιστικοί έλεγχοι εισόδου που αντικατέστησαν τον πράκτορα ................. 78
Εικόνα 13: Η δίγλωσση, αντι-επινοητική οδηγία προς το μοντέλο παραγωγής (ελληνική εκδοχή)
.............................................................................................................................................................. 80
Εικόνα 14: Η δίγλωσση, αντι-επινοητική οδηγία προς το μοντέλο παραγωγής (αγγλική εκδοχή)
.............................................................................................................................................................. 80
Εικόνα 15: Κατανομή του χρόνου απόκρισης για το σύνολο των δοκιμαστικών ερωτημάτων .. 85
Εικόνα 16: Ανάλυση του χρόνου απόκρισης ανά στάδιο επεξεργασίας μιας τυπικής ερώτησης 85
Εικόνα 17: Κατανομή των τιμών βεβαιότητας (ομοιότητα συνημιτόνου) στις απαντήσεις ........ 86
Εικόνα 18: Χρόνος απόκρισης ανά μοντέλο στο σύστημά μας (κβαντοποίηση q4_k_m, RX 6700
XT) ....................................................................................................................................................... 92
Εικόνα 19: Δείκτες ποιότητας RAG (Πιστότητα, Συνάφεια Απάντησης, Ακρίβεια και Ανάκληση
Πλαισίου) ανά μοντέλο ....................................................................................................................... 92
Εικόνα 20: Κατανάλωση μνήμης (VRAM σε 4-bit και μνήμη συστήματος) ανά μοντέλο .......... 93
Εικόνα 21: Αντιπροσωπευτικά σενάρια αστοχίας ασθενέστερων ή μη θεμελιωμένων μοντέλων93
Εικόνα 22: Ποιότητα απάντησης ανά γλώσσα για τα δύο κορυφαία υποψήφια μοντέλα
(μετρήσεις μας) ................................................................................................................................... 95
Εικόνα 23: Άμεση σύγκριση Llama 3.1 8B και Qwen2.5 7B κατά κριτήριο (μετρήσεις μας και
τιμές αναφοράς) .................................................................................................................................. 96
Εικόνα 24: Συνέργεια του μοντέλου παραγωγής με το BGE-M3: τήρηση μορφής και ανάμειξη
γλωσσών .............................................................................................................................................. 97
Εικόνα 25: Αρχική έκδοση. Η ερώτηση για τις εγγραφές δεν επιστρέφει αποτέλεσμα, με
μηδενική βεβαιότητα ......................................................................................................................... 94
Εικόνα 26: Τελική έκδοση. Η ίδια ερώτηση λαμβάνει τεκμηριωμένη απάντηση με τις
ημερομηνίες που βρέθηκαν, την πηγή και τη βεβαιότητα .............................................................. 94
Εικόνα 27: Αρχική έκδοση. Σε ερώτηση για τις τελευταίες ανακοινώσεις παράγονται
πλασματικές ανακοινώσεις με ανύπαρκτες ημερομηνίες ................................................................ 95
Εικόνα 28: Τελική έκδοση. Η ανάκτηση βρίσκει σωστά μια πρόσφατη ανακοίνωση, όμως η
διατύπωση εμφανίζει περιστασιακή ανάμειξη γλωσσών ................................................................ 96