Σχεδιασμός και Υλοποίηση εξειδικευμένου chatbot για διαδικτυακές πλατφόρμες
38
όμως μεγαλύτερη πολυπλοκότητα τόσο κατά την υλοποίηση όσο και κατά τη συντήρηση του
συστήματος.
Πίνακας 1: Σύγκριση των τριών φάσεων εξέλιξης της αρχιτεκτονικής RAG
Φάση
Βασική ροή
Πρόσθετα βήματα
Πολυπλοκότητα
Naive RAG
Ερώτηση → Ανάκτηση →
Παραγωγή
Κανένα
Χαμηλή
Advanced RAG Προ-ανάκτηση → Ανάκτηση →
Μετά-ανάκτηση
Επαναδιατύπωση ερωτήματος
Επανακατάταξη εγγράφων
Φιλτράρισμα αποτελεσμάτων
Μεσαία
Modular RAG
Δυναμικός συνδυασμός
αυτόνομων μονάδων
Μονάδες μνήμης
Δυναμική δρομολόγηση
Χρήση πρακτόρων
Υψηλή
Πέρα από τη βασική αρχιτεκτονική, ο τομέας του RAG έχει αναδείξει αρκετές προκλήσεις.
Η ποιότητα της ανάκτησης είναι κρίσιμη, γιατί αν τα ανακτημένα έγγραφα δεν είναι σχετικά,
καμία βελτίωση στο γενετικό μοντέλο δεν θα σώσει την απάντηση. Επιπλέον, ανακύπτει το
ζήτημα της διαχείρισης και του συνδυασμού των ανακτηθέντων εγγράφων στην περίπτωση που
αυτά περιέχουν αντιφατικές πληροφορίες, καθώς και η πρόκληση της αξιολόγησης του
συστήματος όταν δεν υφίσταται μία μοναδική, αντικειμενικά ορθή απάντηση. Σε ευαίσθητους
τομείς όπως η ιατρική έχει δειχθεί ότι το RAG μειώνει σημαντικά τις ψευδαισθήσεις σε
σύγκριση με τα μεμονωμένα γλωσσικά μοντέλα, αλλά δεν τα εξαλείφει εντελώς [3]. Αντίστοιχα
ευρήματα παρατηρούμε και στη δική μας περίπτωση, κάτι που θα συζητήσουμε εκτενώς στο
κεφάλαιο της αξιολόγησης.
2.4 Πράκτορες με συλλογιστική και το παράδειγμα ReAct
Ένα RAG σύστημα στην απλή του μορφή ακολουθεί πάντα την ίδια ροή. Πρώτα κάνει
ανάκτηση και μετά παραγωγή. Η προσέγγιση αυτή αποδίδει ικανοποιητικά αποτελεσμάτα σε
απλά ερωτήματα, παρουσιάζει όμως περιορισμούς σε πιο σύνθετες περιπτώσεις. Για
παράδειγμα, σε ένα ερώτημα κοινωνικής φύσης όπως «γεια σου, πώς είσαι;», η διαδικασία