Σχεδιασμός και Υλοποίηση εξειδικευμένου chatbot για διαδικτυακές πλατφόρμες

 

81

 

αναφέρεται  σε  συγκεκριμένη  χρονιά,  ώστε  να  ενεργοποιηθεί  η  ανάλογη  συμπεριφορά  στην 

ανάκτηση. Επειδή οι χρήστες συχνά γράφουν χωρίς τόνους, ο έλεγχος αυτός αγνοεί τους τόνους 

κατά τη σύγκριση. Υπάρχει επίσης ένας έλεγχος που εντοπίζει αιτήματα εκτός θέματος, όπως 

αιτήματα για ποιήματα ή συνταγές, καθώς και προσπάθειες παράκαμψης των οδηγιών, και τα 

απορρίπτει  με  ένα  σταθερό,  ευγενικό  μήνυμα  πριν  καν  ξεκινήσει  η  αναζήτηση.  Τέλος, 

αναγνωρίζονται οι ερωτήσεις που εξαρτώνται από προηγούμενο πλαίσιο, όπως ένα σκέτο «και 

αυτά;»,  στις  οποίες  το  σύστημα  ζητά  ευγενικά  από  τον  χρήστη  να  επαναδιατυπώσει 

ολοκληρωμένα την ερώτησή του, αφού δεν κρατά ιστορικό συνομιλίας. 

 

5.3 Παραγωγή απάντησης και διεπαφή χρήστη 

Το τελευταίο μέρος συνθέτει την απάντηση και τη φέρνει στον χρήστη. Εδώ συνεργάζονται 

η μονάδα παραγωγής, που αξιοποιεί το τοπικό γλωσσικό μοντέλο, και η διεπαφή, που είναι 

υλοποιημένη με το Chainlit. 

 

5.3.1 Η μονάδα παραγωγής απάντησης 

Τα  τμήματα  που  επέλεξε  η  ανάκτηση  συγκεντρώνονται  σε  ένα  ενιαίο  κείμενο 

συμφραζομένων, όπου το καθένα φέρει μια ετικέτα με τη σειρά του και τα μεταδεδομένα του, 

ώστε το μοντέλο να μπορεί να αναφέρεται σε αυτά. Το κείμενο αυτό, μαζί με την ερώτηση και 

μια  προσεκτικά  διατυπωμένη  οδηγία,  δίνεται  στο  μοντέλο  llama3.1:8b  (q4_k_m),  που 

εκτελείται τοπικά μέσω  του Ollama. Η οδηγία είναι δίγλωσση και  ζητά  από το μοντέλο να 

απαντά στη γλώσσα του χρήστη, να στηρίζεται αποκλειστικά στα έγγραφα που του δόθηκαν, 

να  μην  προσθέτει  δικές  του  γνώσεις  και  να  αγνοεί  τυχόν  εντολές  κρυμμένες  μέσα  στο 

περιεχόμενο. Η θερμοκρασία του μοντέλου κρατήθηκε χαμηλή, ώστε οι απαντήσεις να είναι 

σταθερές και προσγειωμένες στις πηγές, ενώ  ένα όριο στο μήκος της παραγωγής βοηθά να 

μένει  ο  χρόνος  απόκρισης  σε  λογικά  επίπεδα.  Μετά  την  παραγωγή,  ένας  τελικός  έλεγχος