Νικόλαος Λυμπιτάκης, Κατασκευή ενός RAG Chatbot για
Ξενοδοχειακή Υποστήριξη
14
. Επιπλέον, σε αντίθεση με απλά LLMs που είναι εσωτερικά κλειστά μετά την
εκπαίδευσή τους, ένα RAG μπορεί να ενημερώνει την βάση γνώσης του συνεχώς χωρίς
επανεκπαίδευση, επιτρέποντας ακριβείς απαντήσεις σε ταχύτατα εξελισσόμενα πεδία (π.χ.
ιατρική ή ειδησεογραφία). Σε μελέτες έχει βρεθεί ότι τα RAG συστήματα ξεπερνούν σε
αξιοπιστία τα καθαρά παραγωγικά chatbots όταν απαιτείται ακριβής γνώση
Παρά τα σημαντικά πλεονεκτήματα της αρχιτεκτονικής Retrieval-Augmented
Generation (RAG), υπάρχουν ακόμη αρκετοί περιορισμοί. Ένα από τα βασικά ζητήματα
είναι η κλιμακωσιμότητα και αποδοτικότητα, καθώς η χρήση εξωτερικών βάσεων
δεδομένων απαιτεί αποδοτικούς μηχανισμούς ανάκτησης και υψηλούς υπολογιστικούς
πόρους, κάτι που δυσχεραίνει την ανάπτυξη σε πραγματικό χρόνο. Η ποιότητα και συνάφεια
των ανακτώμενων πληροφοριών αποτελεί επίσης πρόκληση, αφού λανθασμένα ή
παρωχημένα δεδομένα μειώνουν την ακρίβεια του παραγόμενου περιεχομένου.
Παράλληλα, ζητήματα μεροληψίας (bias) παραμένουν σημαντικά, καθώς οι RAG
μηχανισμοί ενδέχεται να αναπαράγουν προκαταλήψεις που ενσωματώνονται στα δεδομένα
εκπαίδευσης ή ανάκτησης. Επιπλέον, τα RAG συχνά δυσκολεύονται στη συνοχή μεταξύ
των ανακτημένων γνώσεων και του παραγόμενου κειμένου, οδηγώντας σε ανακρίβειες ή
ασυνέπειες. Τέλος, η έλλειψη διαφάνειας και ερμηνευσιμότητας καθιστά δυσδιάκριτο τον
τρόπο με τον οποίο οι ανακτημένες πληροφορίες επηρεάζουν την τελική απάντηση,
περιορίζοντας την εμπιστοσύνη των χρηστών
2.3 Αρχιτεκτονική RAG Chatbot
Η αρχιτεκτονική Retrieval-Augmented Generation (RAG) αποτελεί τη σύγχρονη
απάντηση στις προκλήσεις των Μεγάλων Γλωσσικών Μοντέλων (LLMs), ιδίως το
πρόβλημα της παραίσθησης (hallucination). Η μέθοδος αυτή συνδυάζει δύο διακριτά, αλλά
αλληλένδετα, λειτουργικά στάδια, το Retrieval (Ανάκτηση) και το Generation (Παραγωγή),
τα οποία λειτουργούν διαδοχικά, επιτρέποντας στο σύστημα να βελτιώσει την ακρίβεια και
την αξιοπιστία των απαντήσεων του.
Το Σύστημα Ανάκτησης (The Retriever)
Το πρώτο στάδιο είναι θεμελιώδους σημασίας, καθώς είναι υπεύθυνο για τον
εντοπισμό και την εξαγωγή των πλέον σχετικών κομματιών πληροφορίας (chunks) από μια