Αρχικά εργάστηκε ως δικηγόρος και στη συνέχεια ασχολήθηκε με την ιστορική αναδίφηση και την Ιστοριογραφία με την οποία και ασχολήθηκε τελικά. Από το 1873 έως το 1881 αναλαμβάνει την αρχισυνταξία της «Εφημερίδος», του εκδότη Δημήτριου Κορομηλά. To 1881 διαφωνώντας με τον Κορομηλά, αποχωρεί απο την αρχισυνταξία της εφημερίδας και ιδρύει τη δική του εφημερίδα, που την ονομάζει «Νέα Εφημερίς» ενώ το 1882 υπήρξε ένα από τα ιδρυτικά μέλη της Ιστορικής και Εθνολογικής Εταιρείας της Ελλάδος.
Την περίοδο 1884-1886 ήταν διευθυντής του περιοδικού «Εβδομάς». Το 1891 προσλήφθηκε στην Αρχαιολογική Υπηρεσία και τον επόμενο χρόνο διορίστηκε επιμελητής των χειρογράφων της Εθνικής Βιβλιοθήκης. Την περίοδο 1904-1917 διετέλεσε διευθυντής της Εθνικής Βιβλιοθήκης, αλλά το 1917 με τον νόμο περί άρσης της μονιμότητας των δημοσίων υπαλλήλων παύθηκε από τη θέση του. Το 1923 τιμήθηκε από την πολιτεία με το αριστείο γραμμάτων. Το 1927 έγινε το πρώτο δια εκλογής μέλος της Ακαδημίας των Αθηνών και την περίοδο 1934-1935 χρημάτισε πρόεδρος της Ακαδημίας. Στις αρχές του 1942 ασθένησε με πνευμονία, στις 10 Φεβρουαρίου υπέστη ένα ελαφρύ εγκεφαλικό επεισόδιο και στις 21 Φεβρουαρίου της ίδιας χρονιάς πέθανε. Ήταν παντρεμένος με την Καλλιόπη Μαράτου από το1884 και είχε τρία παιδιά: Τον Γρηγόρη, την Ελένη και την Τζένη. Στις 19 Απριλίου του 1939 έγιναν τα αποκαλυπτήρια της προτομής του στην πλατεία Φιλομούσου Εταιρείας στην Πλάκα.