Σχεδιασμός και Υλοποίηση εξειδικευμένου chatbot για διαδικτυακές πλατφόρμες

 

96

 

Ιδιαίτερη προσοχή δόθηκε στους μηχανισμούς προστασίας απέναντι σε κακόβουλη χρήση. 

Από  τις  εκατό  απόπειρες  εισαγωγής  κακόβουλων  εντολών  που  δοκιμάστηκαν,  οι 

ντετερμινιστικοί έλεγχοι εισόδου αναχαίτισαν τις ενενήντα επτά. Οι τρεις που πέρασαν είχαν 

ένα  κοινό  χαρακτηριστικό:  περιείχαν  λέξεις-κλειδιά  από  ερωτήσεις  που  είχαν  λάβει  στο 

παρελθόν θετική ανατροφοδότηση, και έτσι παράκαμπταν τους ελέγχους μέσω του μηχανισμού 

επαναχρησιμοποίησης εγκεκριμένων απαντήσεων από τη μνήμη. Μόλις εντοπίστηκε αυτή η 

συμπεριφορά, διορθώθηκε ώστε ο έλεγχος να εφαρμόζεται και στη διαδρομή της μνήμης, μετά 

τη διόρθωση και οι τρεις περιπτώσεις αναχαιτίζονται κανονικά. 

Στις  διακόσιες  άσχετες  ερωτήσεις,  το  σύστημα  απέρριψε  τις  εκατόν  ογδόντα  οκτώ.  Οι 

υπόλοιπες δεν αποτελούν αποτυχία με τη στενή έννοια, καθώς απαντήθηκαν επειδή υπήρχαν 

πράγματι σχετικά έγγραφα στον ιστότοπο για το θέμα τους. Για παράδειγμα, στην ερώτηση 

«ποιοι είναι οι κανόνες του σκακιού» το σύστημα δεν εξηγεί τους κανόνες, αλλά επιστρέφει τα 

στοιχεία επικοινωνίας της ομάδας σκακιού του πανεπιστημίου, επειδή υπάρχει σχετική σελίδα. 

Η  συμπεριφορά  αυτή  περιορίστηκε  εν  μέρει,  παραμένει  όμως  εγγενώς  εξαρτημένη  από  το 

περιεχόμενο: καθώς ανεβαίνει νέο υλικό στον ιστότοπο, ενδέχεται να εμφανιστούν ανάλογες 

περιπτώσεις,  όπου  μια  φαινομενικά  άσχετη  ερώτηση  βρίσκει  αντιστοίχιση  με  κάποιο 

πραγματικό έγγραφο. 

Η κατανομή των χρόνων απόκρισης σε ολόκληρη τη συνεδρία δοκιμών απεικονίζεται στην 

Εικόνα  15.  Η  συντριπτική  πλειονότητα  των  ερωτημάτων  εξυπηρετείται  μέσα  σε  λίγα 

δευτερόλεπτα,  ενώ  οι  λίγες  ακραίες  τιμές  οφείλονται  κυρίως  στην  πρώτη  φόρτωση  του 

μοντέλου στη μνήμη της κάρτας.