Σχεδιασμός και Υλοποίηση εξειδικευμένου chatbot για διαδικτυακές πλατφόρμες
27
κλειστά εμπορικά οικοσυστήματα, σε συνδυασμό με το έλλειμμα ελέγχου της εγκυρότητας των
απαντήσεων, αφήνει ανοιχτά σημαντικά ζητήματα ασφάλειας, κόστους και αξιοπιστίας στην
ανώτατη εκπαίδευση.
1.3 Στόχοι της εργασίας
Η εργασία αυτή έχει τρεις βασικούς στόχους που τέθηκαν από την αρχή του σχεδιασμού.
Πρώτος και βασικότερος είναι ο σχεδιασμός και η υλοποίηση ενός λειτουργικού chatbot που
να μπορεί να απαντά αξιόπιστα σε ερωτήσεις σχετικές με το περιεχόμενο της ιστοσελίδας
ece.uowm.gr, υποστηρίζοντας τόσο ελληνικά όσο και αγγλικά. Η δίγλωσση υποστήριξη δεν
είναι περιττή λεπτομέρεια, αν σκεφτεί κανείς ότι το τμήμα δέχεται και διεθνείς φοιτητές μέσω
προγραμμάτων ανταλλαγής, ενώ πολλοί από τους υποψηφίους κάνουν τις πρώτες αναζητήσεις
τους στα αγγλικά. Παρατηρήσαμε στην έρευνά μας ότι η γλώσσα στην οποία διατυπώνονται οι
ερωτήσεις του συστήματος επηρεάζει σημαντικά τη συμπεριφορά κάθε LLM και, κατ'
επέκταση, την ποιότητα των απαντήσεων που παράγει.
Ο δεύτερος στόχος αφορά τη μεθοδολογία υλοποίησης, προδιαγράφοντας τη σχεδίαση μιας
αρχιτεκτονικής βασισμένης αποκλειστικά σε τεχνολογίες ανοιχτού κώδικα (open-source
technologies), και να τρέχει σε καταναλωτικό υλικό. Αυτό αποκλείει τη χρήση εμπορικών APIs
όπως της OpenAI και επιβάλλει επιλογές όπως το Ollama [21] για την εκτέλεση των μοντέλων
τοπικά. Η συγκεκριμένη επιλογή έχει πρακτικές συνέπειες, όπως μικρότερα μοντέλα και άρα
ενδεχομένως χαμηλότερη ποιότητα απαντήσεων, αλλά εξασφαλίζει βιωσιμότητα, ιδιωτικότητα
και επαναληψιμότητα του πειράματος. Η συντριπτική πλειοψηφία των ερευνητών στον χώρο
των συνομιλιακών βοηθών RAG για την εκπαίδευση βασίζεται σε εμπορικά μοντέλα της
OpenAI [30], οπότε η δική μας προσέγγιση έχει και μια αξία στο να αποτυπώσει τι είναι εφικτό
με αποκλειστικά ανοιχτά εργαλεία.