Σχεδιασμός και Υλοποίηση εξειδικευμένου chatbot για διαδικτυακές πλατφόρμες

 

35

 

γινόμενο,  κάτι  που  επιταχύνει  σημαντικά  την  αναζήτηση.  Η  ποιότητα  αυτού  του  χώρου 

εξαρτάται  καθοριστικά  από  το  μοντέλο  ενσωμάτωσης:  ένα  καλό  μοντέλο  τοποθετεί  κοντά 

κείμενα που ένας άνθρωπος θα θεωρούσε συναφή, ακόμη κι όταν δεν μοιράζονται καμία κοινή 

λέξη, και απομακρύνει κείμενα που μοιάζουν επιφανειακά αλλά διαφέρουν στο νόημα. 

 

2.3 Ανάκτηση-Επαυξημένη Παραγωγή (Retrieval-Augmented Generation) 

Η ιδέα του Retrieval-Augmented Generation (RAG)[16] πατάει σε μια απλή παρατήρηση. 

Αν δίνουμε στο γλωσσικό μοντέλο όχι μόνο την ερώτηση, αλλά και τα σχετικά έγγραφα ως 

συμφραζόμενα,  τότε  το  μοντέλο  μπορεί  να  συνθέσει  την  απάντηση  βασιζόμενο  στα 

συγκεκριμένα  δεδομένα,  αντί  να  ψάχνει  στη  γενική  του  γνώση.  Έτσι,  το  πρόβλημα  του 

εφευρετικού  περιεχομένου  μειώνεται  δραστικά  και,  παράλληλα,  η  γνώση  μπορεί  να 

ενημερώνεται  απλώς  προσθέτοντας  νέα  έγγραφα  στη  βάση,  χωρίς  να  χρειάζεται 

επανεκπαίδευση του μοντέλου. Αυτή η ιδιότητα είναι ιδιαίτερα χρήσιμη σε περιπτώσεις όπως 

η δική μας, όπου το περιεχόμενο του ιστότοπου αλλάζει συνεχώς με νέες ανακοινώσεις. 

Η αρχιτεκτονική RAG έχει εξελιχθεί από την αρχική της μορφή. Σε μια εκτενή επισκόπηση 

διακρίνονται τρεις φάσεις στην εξέλιξή της [11]. Στο Naive RAG η ροή είναι ευθεία: ερώτηση, 

ανάκτηση,  παραγωγή  απάντησης.  Στο  Advanced  RAG  προστίθενται  βήματα  όπως 

επαναδιατύπωση ερωτήματος πριν την ανάκτηση, επανακατάταξη των αποτελεσμάτων και η 

τελική διαμόρφωση της απάντησης. Στο Modular RAG το σύστημα γίνεται πιο ευέλικτο, με 

αυτόνομες μονάδες που μπορούν να συνδυάζονται με διαφορετικούς τρόπους ανάλογα με την 

ερώτηση.  Η  αρχιτεκτονική  της  παρούσας  εργασίας  υιοθετεί  μια  υβριδική  προσέγγιση  που 

γεφυρώνει το Advanced και το Modular RAG [11]. Συγκεκριμένα, ενσωματώνει ένα στάδιο 

επαναδιατύπωσης του ερωτήματος, εφαρμόζει επανακατάταξη των ανακτηθέντων εγγράφων 

με κριτήριο την επικαιρότητά τους και εισάγει αυτόνομες υπομονάδες διαχείρισης μνήμης για 

τη διατήρηση του ιστορικού των προηγούμενων αποκρίσεων.