Σχεδιασμός και Υλοποίηση εξειδικευμένου chatbot για διαδικτυακές πλατφόρμες

 

22

 

είναι γνωστό ως ψευδαίσθηση και η συστηματική επισκόπηση των Ji και συνεργατών [12] το 

κατατάσσει ανάμεσα στους σοβαρότερους περιορισμούς της σύγχρονης παραγωγής φυσικής 

γλώσσας. Σε ένα ακαδημαϊκό πλαίσιο αυτό είναι ιδιαίτερα προβληματικό, γιατί μια ψεύτικη 

απάντηση για το αν χρειάζεται κάποιο προαπαιτούμενο μάθημα μπορεί να κοστίσει εξάμηνα 

σε έναν φοιτητή. 

Μια  απάντηση  σε  αυτό  το  πρόβλημα  προσφέρει  η  αρχιτεκτονική  Retrieval-Augmented 

Generation (RAG) [30], που προτάθηκε πρώτη φορά στο NeurIPS 2020 [16]. Η ιδέα είναι απλή 

και κομψή: αντί να βασιστούμε αποκλειστικά στη μνήμη του γλωσσικού μοντέλου, ανακτούμε 

δυναμικά  τα  πιο  σχετικά  έγγραφα  από  μια  εξωτερική  βάση  γνώσης  και  τα  παρέχουμε  ως 

συμφραζόμενα μαζί με την ερώτηση. Έτσι, η απάντηση παράγεται με αναφορά σε πραγματικά 

δεδομένα και η πιθανότητα ψευδαίσθησης μειώνεται σημαντικά. Η αρχιτεκτονική RAG έχει 

εξελιχθεί σημαντικά από το 2020 μέχρι σήμερα, όπως καταγράφει η εκτενής επισκόπηση των 

Gao  και  συνεργατών  [11],  και  έχει  βρει  εφαρμογές  σε  ευαίσθητους  τομείς  όπως  η  ιατρική 

εκπαίδευση [3], όπου η ακρίβεια είναι κρίσιμη. 

Το  πρόβλημα  που  πραγματεύεται  η  παρούσα  διπλωματική  είναι  λοιπόν  συγκεκριμένο. 

Έχουμε ένα ορισμένο σώμα πληροφορίας, την ιστοσελίδα του τμήματος, και ένα ξεκάθαρο 

κοινό, τους φοιτητές και τους επισκέπτες της σχολής. Το ζητούμενο είναι να φτιάξουμε έναν 

συνομιλιακό  πράκτορα  (chatbot)  που  να  απαντάει  σε  ερωτήσεις  πάνω  σε  αυτό  το  σώμα 

κειμένων  με  αξιόπιστο  τρόπο,  περιορίζοντας  σημαντικά  την  πιθανότητα  επινόησης 

πληροφοριών, χωρίς να εξαρτάται από επί πληρωμή υπηρεσίες υπολογιστικού νέφους (cloud), 

και τρέχοντας τοπικά σε υλικό που είναι ρεαλιστικά διαθέσιμο σε ένα ακαδημαϊκό εργαστήριο. 

Η απαίτηση για τοπική εκτέλεση δεν είναι μόνο θέμα κόστους. Είναι και θέμα ελέγχου των 

δεδομένων,  ιδιωτικότητας  και  ανεξαρτησίας  από  εμπορικούς  παρόχους  που  μπορεί  να 

αλλάξουν τιμολόγηση ή πολιτικές οποιαδήποτε στιγμή.