Έκθεμα 6.7
7Χρήση
Όταν του γράφεις, το μοντέλο δεν ψάχνει σε μια βάση απαντήσεων. Παράγει την απάντηση token προς token, όπως στην αίθουσα 5.
Γιατί βρίσκεται στο μουσείο
Ένα σύγχρονο γλωσσικό μοντέλο δεν εμφανίζεται έτοιμο. Περνά από δεδομένα, εκπαίδευση, προσαρμογή, αξιολόγηση και τελικά παραγωγή απάντησης.
Τι στηρίζει το έκθεμα
Τεχνική αρχή λειτουργίας
Ότι κατά την παραγωγή η απάντηση δημιουργείται διαδοχικά token προς token, εκτός αν το σύστημα χρησιμοποιεί και εξωτερικά εργαλεία/αναζήτηση.
Κύρια πηγή: Autoregressive decoding στη βιβλιογραφία γλωσσικών μοντέλων.
Δεν υπάρχει ακόμη άμεσος σύνδεσμος στο μητρώο. Η βιβλιογραφική αναφορά παραμένει διαθέσιμη εδώ.
Τι χρειάζεται προσοχή: Γενική αρχή με σημαντική διευκρίνιση για tool-using/RAG συστήματα
Ρώτησε το έκθεμα
Ο μικρός ξεναγός αυτής της σελίδας χρησιμοποιεί μόνο όσα υπάρχουν στον φάκελο του εκθέματος. Αν η ερώτηση ζητά κάτι που δεν τεκμηριώνεται εδώ, δεν θα το συμπληρώσει μόνος του.
Μπορείς να ξεκινήσεις με μία από τις ερωτήσεις που βλέπεις πιο πάνω.