Έκθεμα 6.6
6Δοκιμές και ασφάλεια
Πριν κυκλοφορήσει, το μοντέλο ελέγχεται για λάθη, επικίνδυνες απαντήσεις και καταχρήσεις. Οι έλεγχοι συνεχίζονται και μετά.
Γιατί βρίσκεται στο μουσείο
Ένα σύγχρονο γλωσσικό μοντέλο δεν εμφανίζεται έτοιμο. Περνά από δεδομένα, εκπαίδευση, προσαρμογή, αξιολόγηση και τελικά παραγωγή απάντησης.
Τι στηρίζει το έκθεμα
Επιμελητική σύνθεση πρακτικών ασφάλειας
Την ανάγκη αξιολόγησης συμπεριφοράς και κινδύνων πριν και μετά τη διάθεση μοντέλων.
Κύρια πηγή: System cards, evaluations και τεχνική βιβλιογραφία για model safety/red teaming.
Δεν υπάρχει ακόμη άμεσος σύνδεσμος στο μητρώο. Η βιβλιογραφική αναφορά παραμένει διαθέσιμη εδώ.
Τι χρειάζεται προσοχή: Διαδικασία που διαφέρει ανά οργανισμό και μοντέλο
Ρώτησε το έκθεμα
Ο μικρός ξεναγός αυτής της σελίδας χρησιμοποιεί μόνο όσα υπάρχουν στον φάκελο του εκθέματος. Αν η ερώτηση ζητά κάτι που δεν τεκμηριώνεται εδώ, δεν θα το συμπληρώσει μόνος του.
Μπορείς να ξεκινήσεις με μία από τις ερωτήσεις που βλέπεις πιο πάνω.