Σχεδιασμός και Υλοποίηση εξειδικευμένου chatbot για διαδικτυακές πλατφόρμες
25
αποτυπωθεί σε ένα διάνυσμα πραγματικών αριθμών, προκειμένου λέξεις με παρόμοια σημασία
να καταλαμβάνουν παραπλήσιες θέσεις στον ίδιο διανυσματικό χώρο. Για πρώτη φορά, η
ομοιότητα νοήματος κατέστη υπολογίσιμη μέτρηση και όχι προϊόν ρητού προγραμματισμού.
Αυτές οι δύο συνιστώσες, η ανάκτηση σχετικών εγγράφων και η σημασιολογική
αναπαράσταση του κειμένου, αποτελούν τα δομικά στοιχεία πάνω στα οποία υποδομήθηκε η
αρχιτεκτονική που εφαρμόζεται στην παρούσα εργασία.
Με βάση αυτά τα θεμέλια, στα μέσα της δεκαετίας του 2010 εμφανίστηκαν τα πρώτα
νευρωνικά συνομιλιακά μοντέλα. Η αρχιτεκτονική ακολουθίας-σε-ακολουθία (sequence-to-
sequence) [44] εισήγαγε έναν γενικό τρόπο μετασχηματισμού μιας ακολουθίας κειμένου σε μια
άλλη, επιτρέποντας την ανάπτυξη συστημάτων που μάθαιναν να απαντούν μέσω εκπαίδευσης
σε μεγάλους όγκους πραγματικών διαλόγων. Το νευρωνικό συνομιλιακό μοντέλο των Vinyals
και Le [45] απέδειξε ότι ένα τέτοιο σύστημα μπορεί να παράγει συνεκτικές απαντήσεις χωρίς
ρητή γνώση γραμματικών κανόνων, αλλά παράλληλα ανέδειξε δομικούς περιορισμούς: το
μοντέλο εμφάνιζε ασυνέπειες ή κατέφευγε σε γενικόλογες διατυπώσεις όταν απουσίαζε το
ευρύτερο πλαίσιο, καθώς στερούνταν μηχανισμού διάκρισης μεταξύ έγκυρης γνώσης και
αυθαίρετης εικασίας. Την ίδια περίοδο, σε εμπορική κατεύθυνση, οι ψηφιακοί βοηθοί
εισήγαγαν τη φωνητική αλληλεπίδραση στην καθημερινότητα [54]. Τα συστήματα αυτά,
ωστόσο, ήταν σχεδιασμένα για συγκεκριμένες εργασίες περιορισμένου σκοπού και όχι για
ανοιχτή, τεκμηριωμένη συζήτηση βασισμένη σε ένα καθορισμένο σύνολο εγγράφων.
Η κατάσταση μεταβλήθηκε ριζικά με την εισαγωγή της αρχιτεκτονικής Transformer [31]
και των προ εκπαιδευμένων μοντέλων όπως το BERT [8], τα οποία έθεσαν τις βάσεις για τα
σύγχρονα Μεγάλα Γλωσσικά Μοντέλα (Large Language Models - LLMs), η ευρεία διάδοση
των οποίων εδραιώθηκε με εφαρμογές όπως το ChatGPT [28]. Η αποφασιστική τομή επήλθε