Σχεδιασμός και Υλοποίηση εξειδικευμένου chatbot για διαδικτυακές πλατφόρμες

 

92

 

Κεφάλαιο 6 – Αξιολόγηση 

Έχοντας περιγράψει τη σχεδίαση στο Κεφάλαιο 4 και την υλοποίηση στο Κεφάλαιο 5, στο 

παρόν κεφάλαιο μένει να δείξουμε πώς συμπεριφέρεται το σύστημα στην πράξη. Η αξιολόγηση 

έγινε με πραγματικές ερωτήσεις πάνω στο πραγματικό περιεχόμενο του ιστότοπου, και όχι σε 

ένα  τεχνητό  σύνολο  δεδομένων.  Στην  ενότητα  που  ακολουθεί  παρουσιάζουμε  πρώτα  το 

περιβάλλον  και  τον  τρόπο  των  δοκιμών,  έπειτα  τα  ποσοτικά  ευρήματα  με  τα  μεγέθη  του 

συστήματος  και  τις  επιδόσεις  του,  και  τέλος  μια  ποιοτική  ματιά  σε  χαρακτηριστικά 

παραδείγματα, που δείχνουν τόσο τις δυνατότητες όσο και τα όρια της προσέγγισης. 

6.1 Πειραματική διάταξη 

Όλες οι δοκιμές  έγιναν στο ίδιο μηχάνημα, ώστε τα αποτελέσματα  να είναι συγκρίσιμα 

μεταξύ  τους.  Πρόκειται  για  έναν  επιτραπέζιο  υπολογιστή  με  επεξεργαστή  AMD 

Ryzen 7 7800X3D, μνήμη RAM 32 GB και κάρτα γραφικών AMD Radeon RX 6700 XT με 

12 GB VRAM, σε λειτουργικό Ubuntu 24.04 με την πλατφόρμα ROCm για την επιτάχυνση 

μέσω  της  κάρτας.  Τα  μοντέλα  εκτελούνταν  τοπικά  μέσω  του  Ollama,  με  το 

llama3.1:8b (q4_k_m)  να  αναλαμβάνει  την  παραγωγή  των  απαντήσεων  και  το  BGE-M3  τις 

διανυσματικές  αναπαραστάσεις  τόσο  κατά  την  ευρετηρίαση  όσο  και  κατά  την  αναζήτηση. 

Αξίζει να τονιστεί ότι πρόκειται για υλικό καταναλωτικού επιπέδου, κάτι που συμφωνεί με τον 

αρχικό μας στόχο για ένα σύστημα που μπορεί να στηθεί χωρίς ακριβή υποδομή. 

Οι πλήρεις προδιαγραφές του υλικού και του λογισμικού στο οποίο εκτελέστηκαν όλες οι 

δοκιμές  συγκεντρώνονται  στον  Πίνακα  13.  Πρόκειται,  όπως  τονίστηκε,  για  καταναλωτικό 

υλικό,  με  την  κάρτα  γραφικών  της  AMD  να  επιταχύνει  τους  υπολογισμούς  μέσω  της 

πλατφόρμας ROCm.