background image

Σχεδιασμός και Υλοποίηση εξειδικευμένου chatbot για διαδικτυακές πλατφόρμες

 

25

 

αποτυπωθεί σε ένα διάνυσμα πραγματικών αριθμών, προκειμένου λέξεις με παρόμοια σημασία 

να  καταλαμβάνουν  παραπλήσιες  θέσεις  στον  ίδιο  διανυσματικό  χώρο.  Για  πρώτη  φορά,  η 

ομοιότητα νοήματος κατέστη υπολογίσιμη μέτρηση και όχι προϊόν ρητού προγραμματισμού. 

Αυτές  οι  δύο  συνιστώσες,  η  ανάκτηση  σχετικών  εγγράφων  και  η  σημασιολογική 

αναπαράσταση του κειμένου, αποτελούν τα δομικά στοιχεία πάνω στα οποία υποδομήθηκε η 

αρχιτεκτονική που εφαρμόζεται στην παρούσα εργασία. 

 

Με  βάση  αυτά  τα  θεμέλια,  στα  μέσα  της  δεκαετίας  του  2010  εμφανίστηκαν  τα  πρώτα 

νευρωνικά  συνομιλιακά  μοντέλα.  Η  αρχιτεκτονική  ακολουθίας-σε-ακολουθία  (sequence-to-

sequence) [44] εισήγαγε έναν γενικό τρόπο μετασχηματισμού μιας ακολουθίας κειμένου σε μια 

άλλη, επιτρέποντας την ανάπτυξη συστημάτων που μάθαιναν να απαντούν μέσω εκπαίδευσης 

σε μεγάλους όγκους πραγματικών διαλόγων. Το νευρωνικό συνομιλιακό μοντέλο των Vinyals 

και Le [45] απέδειξε ότι ένα τέτοιο σύστημα μπορεί να παράγει συνεκτικές απαντήσεις χωρίς 

ρητή  γνώση  γραμματικών  κανόνων,  αλλά  παράλληλα  ανέδειξε  δομικούς  περιορισμούς:  το 

μοντέλο  εμφάνιζε  ασυνέπειες  ή  κατέφευγε  σε  γενικόλογες  διατυπώσεις  όταν  απουσίαζε  το 

ευρύτερο  πλαίσιο,  καθώς  στερούνταν  μηχανισμού  διάκρισης  μεταξύ  έγκυρης  γνώσης  και 

αυθαίρετης  εικασίας.  Την  ίδια  περίοδο,  σε  εμπορική  κατεύθυνση,  οι  ψηφιακοί  βοηθοί 

εισήγαγαν  τη  φωνητική  αλληλεπίδραση  στην  καθημερινότητα  [54].  Τα  συστήματα  αυτά, 

ωστόσο,  ήταν  σχεδιασμένα  για  συγκεκριμένες  εργασίες  περιορισμένου  σκοπού  και  όχι  για 

ανοιχτή, τεκμηριωμένη συζήτηση βασισμένη σε ένα καθορισμένο σύνολο εγγράφων. 

 

Η κατάσταση μεταβλήθηκε ριζικά με την εισαγωγή της αρχιτεκτονικής Transformer [31] 

και των προ εκπαιδευμένων μοντέλων όπως το BERT [8], τα οποία έθεσαν τις βάσεις για τα 

σύγχρονα Μεγάλα Γλωσσικά Μοντέλα (Large Language Models - LLMs), η ευρεία διάδοση 

των οποίων εδραιώθηκε με εφαρμογές όπως το ChatGPT [28]. Η αποφασιστική τομή επήλθε