Η βιβλιοθήκη άρχισε να συγκροτείται στα τέλη του 19ου αιώνα, όταν το ενδιαφέρον για την μελέτη της βυζαντινής ιστορίας και τέχνης στον ελλαδικό χώρο οδήγησε στην ίδρυση της Χριστιανικής Αρχαιολογικής Εταιρείας και από τότε οι πηγές της εμπλουτίζονται διαρκώς, χάρη σε αγορές, ανταλλαγές, καθώς και δωρεές.
Περί τους 15.000 τίτλους, 200 σειρές ελληνικών και ξένων περιοδικών και περίπου 2.500 ανάτυπα αριθμεί σήμερα η βιβλιοθήκη του μουσείου. Ως προς το είδος των βιβλίων εξάλλου, είναι πλούσια σε βιβλία βυζαντινής τέχνης κατά κύριο λόγο σχετικά με τη ζωγραφική, βιβλία ιστορίας και πολιτισμού, ιστορικές και εκκλησιαστικές γραπτές πηγές, λεξικά και εγκυκλοπαίδειες, καταλόγους μουσείων και εκθέσεων. Διαθέτει όμως και αρκετές σπάνιες εκδόσεις του 19ου και των αρχών του 20ου αιώνα.
Η ταξινόμηση των βιβλίων έχει γίνει με βάση τη θεματολογία τους ενώ το αναγνωστήριο προσφέρει την δυνατότητα πρόσβασης και επιτόπιας μελέτης στους επισκέπτες. Να σημειωθεί ότι η βιβλιοθήκη του μουσείου μπορεί πλέον να φιλοξενήσει δέκα αναγνώστες ενώ επιπλέον βοηθητικοί χώροι δίνουν την δυνατότητα μελλοντικής επέκτασης της συλλογής και ασφαλούς αποθήκευσης και συντήρησης των σπάνιων βιβλίων. Η αναδιαμόρφωση και ο εξοπλισμός της βιβλιοθήκης πραγματοποιήθηκε με βάση την μελέτη του αρχιτέκτονα κ. Κωνσταντίνου Στάικου. Χορηγός του έργου είναι το Ίδρυμα Ωνάση, το οποίο πρέπει να σημειωθεί, ότι έχει αναλάβει την υποστήριξη και αναδιάρθρωση σπουδαίων βιβλιοθηκών στην Ελλάδα και το εξωτερικό με σημαντικότερη βέβαια όλων την κατασκευή νέας Εθνικής Βιβλιοθήκης στο Φάληρο (μαζί με την Λυρική Σκηνή και το πάρκο), που αποτελεί εξ ολοκλήρου δωρεά στη χώρα.
Η βιβλιοθήκη του μουσείου θα παραμένει ανοιχτή από Δευτέρα έως και Παρασκευή, από τις 9: 00 έως τις 13:00.
