Σχεδιασμός και Υλοποίηση εξειδικευμένου chatbot για διαδικτυακές πλατφόρμες
39
ανάκτησης από τη βάση είναι πλεονασματική. Αντίστοιχα, σε ένα αμιγώς δημιουργικό αίτημα
όπως «γράψε ένα ποίημα», το σύστημα οφείλει να αναγνωρίσει ότι βρίσκεται εκτός τουυ
πεδίου εφαρμογής και να αρνηθεί την εκτέλεση. Αντιθέτως, σε ένα εξειδικευμένο ερώτημα
όπως «τι είπε ο καθηγητής Χ τον Νοέμβριο για την εξεταστική;», απαιτείται επαναδιατύπωση
ώστε να εντοπιστούν τα κατάλληλα έγγραφα. Τα σενάρια αυτά αναδεικνύουν την ανάγκη
ενσωμάτωσης ενός μηχανισμού λήψης αποφάσεων και δρομολόγησης πριν από την εκτέλεση
της βασικής ροής.
Μια αποτελεσματική λύση σε αυτό το ζήτημα προτείνεται από τη δομή (framework)
ReAct [37]. Ο όρος αποτελεί ακρωνύμιο των Reasoning και Acting, και η κεντρική του ιδέα
βασίζεται στην ικανότητα του γλωσσικού μοντέλου να εναλλάσσει βήματα συλλογισμού με
ενέργειες δράσης, οι οποίες υλοποιούνται μέσω κλήσεων εξωτερικών εργαλείων. Πριν από την
εκτέλεση οποιασδήποτε ενέργειας, το μοντέλο παράγει εσωτερικά ένα ίχνος σκέψης,
τεκμηριώνοντας την επιλογή των κατάλληλων εργαλείων. Στη συνέχεια, εκτελεί το επιλεγμένο
εργαλείο, καταγράφει το αποτέλεσμα και αποφασίζει δυναμικά το επόμενο βήμα. Αυτό το
αρχιτεκτονικό πρότυπο έχει δύο κύρια πλεονεκτήματα: βελτιώνει τα ποσοστά επιτυχίας σε
σύνθετες εργασίες πολλαπλών βημάτων που απαιτούν εξωτερικές πηγές γνώσης, και κάνει πιο
διαφανή τη συμπεριφορά του πράκτορα, αφού η ακολουθία ενεργειών του πράκτορα είναι
περισσότερο ελέγξιμη και ερμηνεύσιμη.
Παρά τα πλεονεκτήματα αυτά, υπάρχουν σημαντικοί περιορισμοί στο συγκεκριμένο
πλαίσιο [37] [38]. Πρώτον, επειδή η αρχιτεκτονική είναι κυκλική, καλούμε επανειλημμένα το
μοντέλο για συμπερασμό, κάτι που αυξάνει σημαντικά το υπολογιστικό κόστος και την
καθυστέρηση. Δεύτερον, το ReAct είναι ευάλωτο στη διάδοση σφαλμάτων, καθώς ένα αρχικό
παραπλανητικό ίχνος συλλογισμού μπορεί να εγκλωβίσει το μοντέλο σε βρόχους
ψευδαισθήσεων. Τέλος, η σταθερή τήρηση της ροής ReAct εξαρτάται σε μεγάλο βαθμό από