Смерть Н. Г. Рубинштейна в первое время тяжело отозвалась на положении консерватории. Несмотря на то, что прочные основы учебного заведения были заложены, имелись опытные и преданные педагогические кадры, а некоторые выпущенные консерваторией учащиеся уже проявили себя в различных областях музыкальной культуры, дело консерватории казалось подорванным. Среди консерваторских музыкантов в тот момент не было человека, способного всецело заменить покойного.

Вопрос о том, кто заменит Н. Г. Рубинштейна, неустанно обсуждался в печати. РМО прилагало усилия к привлечению на пост директора Московской консерватории музыканта с крупным артистическим именем. С предложениями обратились к М. А. Балакиреву, Э. Ф. Направнику, К. Ю. Давыдову, А. Г. Рубинштейну. Уже из этого перечня петербургских музыкантов видно, что руководство Общества не видело в Москве достойной кандидатуры, и что предложения были обращены к лицам, которые могли бы стать одновременно дирижёрами симфонических собраний, сохраняя таким образом рубинштейновскую традицию. Все эти переговоры не принесли положительных результатов.

Занятия в консерватории тем временем продолжались. 20 марта и 7 апреля под председательством К. К. Альбрехта состоялись заседания Художественного совета: обсуждались вопросы, главным образом связанные с предстоящими экзаменами: программы оканчивающих консерваторию, порядок проведения испытаний и т. д.  .

2 мая 1881 года на заседании Совета директором консерватории был избран Н. А. Губерт. Это был вынужденный шаг как для РМО, так и для самого Н. А. Губерта, не чувствовавшего влечения к административной работе и принявшего пост директора в основном из чувства долга.

С избранием Губерта из состава преподавателей вышел пианист К. К. Клиндворт. Ещё в марте в московских газетах обсуждалась возможность избрания К. К. Клиндворта директором консерватории, причём его кандидатура расценивалась как нежелательная и неподходящая; поэтому уход его выглядел явно демонстративным. Старшие курсы фортепиано остались без руководителей. 30 мая Художественный совет избрал на вакантные места (с присвоением званий профессоров 2-й степени) П. А. Пабста и С. И. Танеева, а к началу следующего учебного года Н. А. Губерт пригласил из Германии О. Б. Нейтцеля. В затруднительном положении оказались теоретические классы, так как Н. А. Губерт и С. И. Танеев в связи с новыми обязанностями сократили свои занятия с учениками. Поэтому с нового, 1881/82 учебного года для преподавания теоретических предметов был привлечен Карл Карлович Зике.

Согласившись принять пост директора консерватории, Н. А. Губерт не взял на себя функций дирижёра симфонических собраний РМО. Это ставило перед руководством Общества задачу подыскания постоянного дирижёра.

Большую помощь москвичам оказал в этот период А. Г. Рубинштейн. Весной, после смерти брата, он неоднократно бывал в Московской консерватории, прослушивал учеников, а в новом сезоне принял на себя дирижирование тремя концертами. Первый из них, 31 октября 1881 года, открылся «Реквиемом» Шумана (в соответствии с пожеланием Н. Г. Рубинштейна, высказанным незадолго до смерти) и включал ещё увертюру к «Руслану и Людмиле» Глинки и Героическую симфонию Бетховена. Глубоко содержательными были программы и двух следующих симфонических собраний (фортепианный концерт № 4 и Девятая симфония Бетховена, симфония до мажор Шуберта, увертюры Вагнера и Берлиоза, отрывки из опер Глюка, Даргомыжского, Серова). Солистами выступили профессора консерватории С. И. Танеев, О. Б. Нейтцель, В. Ф. Фитценгаген и артисты оперы.

Однако постоянно дирижировать концертами в Москве А. Г. Рубинштейн не мог. Тогда-то и решили пригласить молодого К. К. Зике — недавнего выпускника Петербургской консерватории, теоретика и композитора, согласившегося дирижировать в концертах РМО. Три симфонических собрания, в ноябре и декабре, прошли под его управлением, но успеха у московской публики К. К. Зике не имел. Отрицательно оценила его выступления и пресса; в одной из статей говорилось, что новый дирижёр не пользуется авторитетом оркестра

В январе 1882 года в Москве начал работать дирижер М. Эрдмансдерфер, а К. К. Зике по окончании учебного года перешёл в Петербургскую консерваторию. Классы гармонии, контрапункта и некоторых других теоретических предметов были поручены приглашенному из Петербурга А. С. Аренскому.

М. Эрдмансдерфер состоял постоянным дирижёром концертов РМО в Москве с 1882/83 по 1888/89 год, проведя за это время около ста симфонических собраний. М. Эрдмансдерфер едва ли не с первого своего выхода на эстраду завоевал симпатии москвичей. Блестящие артистические успехи его как дирижёра оказали позднее значительное влияние на дела консерватории, профессором которой по классам инструментовки и ансамбля («совместной игры») он стал с 1882/83 учебного года.<>

Выступления М. Эрдмансдерфера вновь создали устойчивое положение с концертами РМО в Москве, обеспечивали необходимый уровень денежных поступлений как для дальнейшего ведения концертного дела, так и для нужд консерватории.

В феврале 1883 года произошли перемены в руководстве консерваторией: из-за конфликта с М. Эрдмансдерфером Н. А. Губерт подал в отставку. Управление консерваторией было возложено на К. К. Альбрехта и комитет профессоров, в состав которого вошли Н. Д. Кашкин, С. И. Танеев, И. В. Гржимали и Дж. Гальвани. Обязанности инспектора были поручены Н. Д. Кашкину, а секретарём художественного совета вместо него был избран Н. П. Ситовский. Срок деятельности комитета по управлению консерваторией был определен до 1 сентября, но затем продлён на 1883/84 (комитет оставался в том же составе) и на 1884/85 учебный год. В 1884/85 году Н. Д. Кашкин не вошёл в комитет, и на его место был избран Г. А. Ларош, незадолго до того вернувшийся к преподаванию в консерватории по классам теории и истории музыки. Н. Д. Кашкин отказался также от обязанностей инспектора и снова стал секретарем Художественного совета.

Учебная и художественная жизнь консерватории постепенно вошла в нормальную колею.

Большим общественно–музыкальным событием было участие Московской консерватории 21 мая 1885 года в торжествах открытия памятника Глинке. В Смоленск съехались многие музыкальные деятели России — В. В. Стасов, Н. А. Римский–Корсаков, П.И.Чайковский, М.А.Балакирев и другие. Представителем от Московской консерватории был С. И. Танеев. Он принял участие в торжественном концерте и исполнил Русскую фантазию Э. Направника для фортепиано с оркестром (дирижировал М. А. Балакирев).

Спустя несколько дней, 30 мая, Танеев был избран директором Московской консерватории. Как семью годами раньше, в вопросе привлечения С. И. Танеева к преподаванию в консерватории, так и теперь, при выдвижении его на пост директора, инициатива принадлежала П. И. Чайковскому, который в начале 1885 года был избран одним из директоров Московского отделения РМО. <>

Путь, приведший Танеева к руководству консерваторией всего через десять лет после её окончания, был глубоко закономерен. Совсем ещё юным музыкантом вошёл он в круг своих наставников на правах друга. С момента привлечения его к преподаванию в консерватории он находился в курсе всех её событий, деятельно в них участвовал.<> Состоя с 1882 года в комитете по управлению консерваторией, Танеев оказывает все большее влияние на ход её дел. Работа в комитете была для него школой руководства. Начиная с 1879/80 учебного года Сергей Иванович присутствовал на большинстве экзаменов в качестве ассистента, в 1882—1885 годах он, наряду с другими членами комитета, председательствует в экзаменационных комиссиях.

Избрание С. И. Танеева на пост директора Московской консерватории нашло сочувственный отклик у музыкантов, в том числе и иногородних. <>

В 80-е годы осуществляется более строгий подход к организации учебного процесса в консерватории. Приток абитуриентов становился столь значительным, что появилась возможность отбора самых подготовленных, а также отсева менее прилежных учеников. Были произведены изменения, направленные на дальнейшую профессионализацию музыкального образования; консерватория стремилась стать на путь превращения в высшее учебное заведение. Намерение обучать и готовить для общества не музицирующих барышень, а профессиональных музыкантов проводилось в этот период отчетливо и настойчиво.

Одним из первых мероприятий такого рода было разделение учащихся фортепианных классов (наиболее многочисленных и по-прежнему наиболее засорённых) на два профиля — «виртуозный» и «педагогический». Младшее отделение оставалось общим для всех пианистов. При переходе же с четвёртого на пятый курс по решению экзаменационной комиссии «более способные, подающие надежду сделаться виртуозами» продолжали занятия по полному (девятилетнему) плану, с правом получения при окончании диплома или аттестата. Остальные учащиеся, «не подающие таковых надежд, но могущие, по своим способностям, быть полезными деятелями на поприще музыкального преподавания, переводятся, после четвертого курса, на дополнительный двухгодичный курс в старшее (профессорское) отделение». Оба эти года ученики педагогического отделения должны были вести под руководством профессора общий курс фортепиано и по окончании получали аттестат; учащиеся виртуозного отделения тоже проходили педагогическую практику, но лишь в течение одного года (курсы теоретических предметов и программа класса ансамбля были одинаковыми для всех пианистов).

Эти изменения, сопровождавшиеся соответствующими переменами в программах по специальности, вступали в силу с 1883/84 учебного года. Наблюдение за педагогической практикой пианистов было возложено на Н. С. Зверева. Для учащихся педагогических классов были установлены, кроме весенних экзаменов, полугодичные испытания в декабре. Со временем педагогическое отделение дало отличные кадры; за особые успехи оканчивающим присуждались медали.

В отношении многих оркестровых музыкантов консерватория и концертно–театральные организации продолжали испытывать недостаток. Поэтому было увеличено количество стипендий по классам духовых инструментов, что позволило через некоторое время их укомплектовать и обеспечить нужды учебного оркестра, пришедшего после смерти Н. Г. Рубинштейна в совершенный упадок. Сроки обучения, на основе методически целесообразного опыта, сокращались для исполнителей на духовых инструментах до пяти, а для арфистов и контрабасистов — до семи лет. Всё это принесло благоприятные результаты.

О большой требовательности руководства консерватории к качеству знаний и успехам учеников свидетельствуют, например, подробные замечания С. И. Танеева, присутствовавшего на многих, если не на всех экзаменах.

В 1886 году вступили в силу новые, утверждённые 26 сентября этого года Условия приема и правила для поступления в Московскую консерваторию. В этих Условиях отражается общее повышение требований к учащимся. До этого времени от поступающих на первый курс требовалась лишь простейшая грамотность (чтение, письмо, счёт) и знание названий нот. В Условиях 1886 года считается обязательной специальная подготовка: «При поступлении в консерваторию учащиеся подвергаются экзамену и поступают в соответствующие их познаниям классы на основании программ, установленных по всем специальным и обязательным предметам. Поступающие в консерваторию после начала учебного года должны знать всё пройденное в их классах по день поступления».

Во второй половине 80-х годов принимались и другие меры к повышению уровня знаний учащихся и укреплению дисциплины. Например, перевод с третьего на четвёртый курс в классах пения стал допускаться только после сдачи экзаменов по соответствующим обязательным предметам. Класс элементарной теории из полугодичного был расширен до двух полугодий, со значительным увеличением программы. В марте 1885 года были введены журналы посещаемости учащихся. В 1887 году в младшем отделении стали ставиться отметки за каждый урок по трёхбалльной системе. Нерадивые ученики лишались стипендии, переводились из комплекта в число сверхкомплектных, увольнялись.

К нововведениям этого периода отнесём также организацию класса органа и курса транспозиции.

Класс органа был открыт с 1885/86 учебного года в связи с пожертвованием П. И. Юргенсоном инструмента. Преподавание игры на органе было поручено Э. Л. Лангеру; оно вошло в программу класса «совместной игры» пианистов. Курс транспозиции и чтения партитур введён с осени 1886 года в специальных и обязательных фортепианных классах. Программа этого курса была составлена под руководством С. И. Танеева. Она разделялась на две части: 1) транспозиция без модуляций и хроматических изменений ступеней диатонической гаммы и 2) то же с модуляциями и хроматическими изменениями. Подробные пункты этой программы были тесно связаны с музыкально–теоретическими предметами, особенно с курсом гармонии.

Большая роль в годы директорства С. И. Танеева принадлежала концертно–показательной работе, хотя Танеев не состоял дирижёром симфонических собраний РМО. Концерты и спектакли, в процессе подготовки которых формировались молодые музыканты, продолжали быть показателем успехов и достижений учебного заведения. Значительную роль выполняли и закрытые вечера. С. И. Танеев принимал непосредственное участие в составлении программ этих вечеров, распределении номеров и т. д. Многие программы написаны его рукой. Он стремился придать ученическим концертам строгость и осмысленность. <>

С. И. Танеев заботился о привлечении отличных педагогических сил. В консерватории работали С. А. Юрьев, М. С. Карелин — по литературе, истории культуры, М. М. Троицкий — по эстетике и другие. Лекции известных ученых возбуждали интерес учащихся, а пребывание в консерватории некоторых профессоров университета укрепляло её связи с московской интеллигенцией. Отметим попутно, что к С. И. Танееву и консерватории близко стояли в этот период такие известные деятели русской науки, как А. Г. Столетов, М. М. Ковалевский, Н. Я. Грот, П. В. Преображенский.<>

В описываемый период Московская консерватория работала в условиях «конкуренции» с музыкально–драматическим училищем Филармонического общества. Во главе его стоял П. А. Шостаковский, в прошлом педагог консерватории. Шостаковский привлек к участию в концертах Общества солистов–знаменитостей (певицу Марчеллу Зембрих и др.), чем завоевал симпатии части публики. Так концерты Шостаковского начали соперничать с симфоническими и камерными собраниями РМО. Вскоре печать стала сравнивать не только концерты, но и учебные заведения этих двух организаций — их ученические вечера и спектакли, состав преподавателей и т. д... Нуждающимся ученикам оказывали в Филармоническом училище гораздо более широкую помощь (не надо забывать, что консерватория при Танееве путём огромных усилий «вылезала» из долгов и экономила на всём, в том числе на количестве «комплекта» и стипендиях); кроме того, в училище царили более свободные, а потому, по внешности, более демократические нравы.

Но главная причина успехов Филармонического училища, думается, коренилась в том простом факте, что консерватория количественно не могла удовлетворить всех москвичей, желавших обучаться музыке. Музыкальная культура города росла, и на приёмные испытания и в консерваторию, и в училище являлось гораздо больше лиц, чем можно было принять. Этим объясняется и появление частных музыкальных школ и классов. В 1883 году открылись и с успехом начали действовать женские музыкальные курсы Н. А. Муромцевой (ученица Н. Г. Рубинштейна), позднее возникли другие частные учебные заведения.

В год смерти Н. Г. Рубинштейна в дирекцию Московского отделения РМО входили Н. А. Алексеев, С. М. Третьяков, П. И. Юргенсон, П. Н. Трубецкой, И. И. Маслов и, по должности директора консерватории, Н. А. Губерт. Из этого состава до конца 80-х годов неизменно оставались членами дирекции преданные русскому искусству деятели — С. М. Третьяков и П. И. Юргенсон. В 1885 году вместо Н. А. Алексеева в число директоров РМО вошел К. С. Алексеев (Станиславский).

10 февраля того же 1885 года одним из директоров Московского отделения РМО был избран П. И. Чайковский, с этого времени особенно тесно связанный с Московской консерваторией. Выше мы уже говорили о его энергичном участии в избрании С. И. Танеева директором. Чайковский стал систематически бывать на экзаменах, ученических спектаклях, участвовал в разработке программ вечеров и т. д. Для поддержания авторитета нового директора консерватории Чайковский решил снова войти в число её профессоров, взяв на себя безвозмездно класс свободного сочинения. Но оказалось, что одновременно состоять в дирекции РМО и быть профессором консерватории не полагалось по Уставу. После тщательного обсуждения с С. И. Танеевым создавшейся ситуации Чайковский отказался от профессуры, оставшись в составе дирекции РМО, чтобы быть связующим звеном между РМО и консерваторией. 29 октября 1885 года на заседании Художественного совета Чайковский был избран почётным членом Московской консерватории.

Сочувствие московского общества развитию консерватории, как и раньше, выражалось в пожертвованиях и субсидиях. Одной из форм их было учреждение именных стипендий. В 80-е годы были открыты новые стипендии Н. М. Мазуриной, П. П. Боткиным (на проценты от пожертвованного капитала), имени Е. П. Кадминой (на собранные в Харькове под подписке деньги), имени Н. И. Зарембы (на деньги, ассигнованные для этой цели В. И. Сафоновым); за некоторых нуждавшихся учеников вносил плату П. И. Чайковский; П. И. Юргенсон, Д. В. Разумовский, С. И. Танеев, А. И. Зилоти отдавали консерватории ноты, книги, средства от концертных выступлений. Крупную сумму — двадцать тысяч рублей — выделил Н. А. Алексеев, оговорив при этом право воспитывать в консерватории ежегодно по собственному выбору трёх учеников. Систематически принимала участие в материальном поддержании консерватории А. И. Голикова.

На основе частных вкладов, помимо библитеки, начал образовываться также консерваторский музей. В 1887/88 году консерватория получила коллекцию восточных инструментов, собранную А. Э. Эйхгорном, в следующем году — личные вещи и архив Н. Г. Рубинштейна.

Продолжала своё существование ученическая касса, основанная Н. Г. Рубинштейном. Проценты с её основного капитала в семьдесят тысяч рублей, пожертвованного А. А. Задонской, шли на пособия (в виде стипендий и ссуд) нуждающимся учащимся и на расходы по командированию за границу для совершенствования талантливых музыкантов из числа окончивших консерваторию. Кроме А. Зилоти, в 80-е годы были таким образом направлены за границу М. Унтилова и А. Скомпская.

В течение этого периода неоднократно вставал вопрос об ученических квартирах, общежитии, столовой и других важных сторонах быта менее состоятельных воспитанников. В связи с этим устраивались благотворительные концерты и т. п. В 1888/89 году существовавшее и в прежние годы общежитие для «недостаточных» учеников и учениц было перенесено в один из флигелей при самой консерватории. Столовая в свободные часы превращалась в зал для занятий. За плату пять рублей в месяц здесь можно было, помимо пользования помещением, получать утром и вечером чай с булками. Все это предприятие существовало исключительно на частные благотворительные средства.

С годами Московская консерватория всё больше становилась притягательным музыкальным центром для разных городов России. В 1888/89 учебном году в ней обучались уроженцы сорока девяти губерний, в том числе таких, как Курляндская и Уфимская, Бессарабская и Иркутская и т. д.

В свою очередь, как мы видели, Московская консерватория готовила музыкальных деятелей и артистов для периферии. Консерваторию посещали деятели музыкального образования для освоения её опыта. В 1886 году к С. И. Танееву приехала из Одессы А. И. Чарнова, директор и инспектор классов местного отделения Музыкального общества, чтобы ознакомиться с устройством классов и методом преподавания элементарной теории и гармонии.

С некоторыми городами, где отделения РМО и музыкальные училища были образованы в основном силами бывших воспитанников консерватории, связь была действенная и постоянная (Тамбов, Калуга и др.). Так, 28 декабря 1884 года С. И. Танеев и И. В. Гржимали дали в Калуге концерт в пользу местной школы (Танеев играл Фантазию Шопена, пьесы Аренского, Чайковского, А. Рубинштейна; Гржимали — концерт № 4 Вьетана и полонез Венявского; кроме того, была исполнена «Крейцерова соната» Бетховена)... «В следующем году там же выступили П. А. Пабст, В.Ф.Фитцепгаген и бывшая  учепица консерватории певица Л. Е. Толстая.

Характерной чертой в деятельности Московской консерваторпн за 80-е годы является возрастание и углубление профессионализации обучения. Художественные достижения коллективных классов стали базой для дальнейшей работы в этой области. Влились новые педагогические силы, состоявшие в основном из воспитанников двух отечественных консерваторий. Укрепление финансовой базы способствовало уменьшению зависимости от опеки РМО. В руки В. И. Сафонова — преемника Танеева — переходило хорошо налаженное учебное заведение.