Государственный канцлер граф Николай Петрович Румянцев интересовался историей России, был меценатом и коллекционером. К концу жизни его коллекция включала в себя более 28 тысяч книг, рукописи, этнографические и археологические материалы, монеты, минералы, живописные и скульптурные произведения. Не оставив формального завещания, он высказал свою волю брату, Сергею Петровичу: коллекцию сохранить нераздельной и всё имущество использовать для основания и содержания «музеума».

Желание Николая Петровича было исполнено: 3 апреля (22 марта) 1828 года вышел Указ Правительствующему сенату об учреждении в Санкт-Петербурге Румянцевского музея как общественного учёного заведения и передаче его в ведение Министерства народного просвещения. Уже 9 июня (28 мая) 1831 года в столице был основан Румянцевский музей, утверждены его Положение и штат.

С 1831 по 1861 год Румянцевский музей действовал в Петербурге, в особняке на Английской набережной. С 1845 года он считался филиалом Императорской публичной библиотеки. К концу 1850-х годов здания, переданные государству Румянцевым, сильно обветшали; денег на содержание музея не отпускалось. Благодаря усилиям хранителя румянцевских коллекций Владимира Фёдоровича Одоевского и попечителя Московского учебного округа Николая Васильевича Исакова было принято и утверждено императором Александром II решение Государственного совета о переводе музея в Москву. Коллекции Румянцева вместе с коллекциями Московского университета легли в основу фондов Московского публичного и Румянцевского музеев.