Первоначально, для коллекции музыкальных инструментов, нот и прочих реликвий хватало консерваторского кабинета Николая Рубинштейна. Постепенно собрание разрасталось, музей переехал в новое помещение (в 1964 году), и теперь здесь работают две постоянные выставки — «Музыкальные инструменты народов мира» (в экспозиции их около 900, а всего собрание включает около трех тысяч инструментов, в том числе новгородские гусли XIII века) и «Из истории русской музыкальной культуры» (от духовных певческих книг до автографов Шостаковича и Прокофьева; также реконструирован интерьер музыкального салона XIX века). Еще музей гордится коллекцией русской живописи и рисунка — от Перова до Петрова-Водкина — и концертным залом с органом немецкого производства.
