background image

12

Μηχανισμός Good Examples (Caching)

Νέα / σύνθετη ερώτηση (χωρίς caching):

Thought → Action(επιλογή tool) → Observation → 
Επανάληψη → Final Answer (~15-25 δευτ.)

Cached ερώτηση (good_examples vector store):

Similarity search στο good_examples vector store →Παρόμοιο 
παράδειγμα βρέθηκε → Bypass Tool calls → Άμεση τελική 
απάντηση < 15 δευτ.

Αποτέλεσμα: Σημαντική μείωση latency σε 

επαναλαμβανόμενες ερωτήσεις με καλό feedback.