Σχεδιασμός και Υλοποίηση εξειδικευμένου chatbot για διαδικτυακές πλατφόρμες

 

33

 

συνημιτόνου.  Μια  από  τις  πλέον  θεμελιώδεις  εργασίες  στον  τομέα  είναι  το  Sentence-

BERT [27],  που  έδειξε  πώς  μπορούμε  να  πάρουμε  ένα  μοντέλο  BERT  και  να  το 

προσαρμόσουμε  ώστε  να  παράγει  ενσωματώσεις  σε  επίπεδο  ολόκληρης  πρότασης.  Στη 

συνέχεια,  στο  πεδίο  της  απάντησης  ερωτήσεων  ανοιχτού  πεδίου,  σημαντικό  ορόσημο 

αποτέλεσε  η  εισαγωγή  του  Dense  Passage  Retrieval  [15],  που  έδειξε  πειραματικά  ότι  ένα 

μοντέλο  διπλού  κωδικοποιητή  (dual-encoder)  εκπαιδευμένο  σε  σχετικά  μικρό  αριθμό 

παραδειγμάτων μπορεί να ξεπεράσει τις παραδοσιακές BM25 μεθόδους στην εύρεση σχετικών 

εγγράφων από μεγάλες συλλογές. 

Η ιδέα αυτή αποτυπώνεται γενικευμένα στην Εικόνα 1 διαφορετικά κείμενα περνούν από 

το  ίδιο  μοντέλο  ενσωματώσεων  και  τοποθετούνται  ως  σημεία  σε  έναν  πολυδιάστατο  χώρο, 

όπου η απόσταση αντανακλά τη σημασιολογική συγγένεια. 

 

 

 

ΕΙΚΟΝΑ 1: ΓΕΝΙΚΕΥΜΕΝΗ ΑΝΑΠΑΡΑΣΤΑΣΗ ΤΩΝ ΔΙΑΝΥΣΜΑΤΙΚΩΝ ΕΝΣΩΜΑΤΩΣΕΩΝ: 

ΚΕΙΜΕΝΑ ΜΕ ΠΑΡΟΜΟΙΟ ΝΟΗΜΑ ΤΟΠΟΘΕΤΟΥΝΤΑΙ ΚΟΝΤΑ ΣΤΟΝ ΣΗΜΑΣΙΟΛΟΓΙΚΟ 

ΧΩΡΟ