Σχεδιασμός και Υλοποίηση εξειδικευμένου chatbot για διαδικτυακές πλατφόρμες

 

103

 

 

ΕΙΚΟΝΑ 20: ΚΑΤΑΝΑΛΩΣΗ ΜΝΗΜΗΣ (VRAM ΣΕ 4-BIT ΚΑΙ ΜΝΗΜΗ ΣΥΣΤΗΜΑΤΟΣ) ΑΝΑ 

ΜΟΝΤΕΛΟ 

 

Η Εικόνα 20 συγκρίνει την κατανάλωση μνήμης. Με κβαντοποίηση 4 bit, ακόμη και τα 

μεγαλύτερα  μοντέλα  παραμένουν  κάτω  από  πέντε  gigabytes  μνήμης  κάρτας  γραφικών  και 

χωρούν  άνετα  στα  δώδεκα  της  RX  6700  XT  μαζί  με  το  μοντέλο  ενσωματώσεων.  Επειδή  η 

επεξεργασία  γίνεται  κυρίως  στη  μονάδα  γραφικών,  το  φορτίο  του  επεξεργαστή  παραμένει 

χαμηλό και παρόμοιο για όλα τα μοντέλα.