Παγκοσμίως διάσημος έγινε όταν ανέλαβε τη διεύθυνση της Σκάλας του Μιλάνου, το 1898. Η φήμη του εξαπλώθηκε ακόμη περισσότερο όταν έγινε μουσικός διευθυντής της Μητροπολιτικής Οπερας της Νέας Υόρκης, το 1908. Διηύθυνε επίσης τη Φιλαρμονική Συμφωνική Ορχήστρα της Νέας Υόρκης, από το 1928 ως το 1936, και την Ορχήστρα του NBC, από το 1937 ως το 1954. Ο Αρτούρο Τοσκανίνι εμφανίστηκε με πολλές από τις μεγάλες ορχήστρες του κόσμου, εκτός από ιταλικές και γερμανικές κατά τη διάρκεια του φασιστικού και του γερμανικού καθεστώτος.

Στην Ιστορία ο μεγάλος ιταλός μαέστρος έχει μείνει κυρίως για την ερμηνεία του έργου του Βέρντι και του Βάγκνερ. Μολονότι ακολούθησαν άλλοι, πιο ρηξικέλευθοι ερμηνευτές, ο Τοσκανίνι παραμένει ένας από τους πιο αγαπημένους, λόγω της αφοσίωσής του στην κλασική αντίληψη της φόρμας.