12
Μηχανισμός Good Examples (Caching)
▪
Νέα / σύνθετη ερώτηση (χωρίς caching):
▪
Thought → Action(επιλογή tool) → Observation →
Επανάληψη → Final Answer (~15-25 δευτ.)
▪
Cached ερώτηση (good_examples vector store):
Similarity search στο good_examples vector store →Παρόμοιο
παράδειγμα βρέθηκε → Bypass Tool calls → Άμεση τελική
απάντηση < 15 δευτ.
▪
Αποτέλεσμα: Σημαντική μείωση latency σε
επαναλαμβανόμενες ερωτήσεις με καλό feedback.