Развитие московской музыкальной жизни и особенно открытие Московского отделения РМО и Музыкальных классов выявило большое число молодых людей, стремящихся получить профессиональное музыкальное образование. Это окончательно укрепило намерение Н. Г. Рубинштейна и других передовых московских музыкантов хлопотать о разрешении открыть в Москве музыкальное учебное заведение по типу Петербургской консерватории.

Однако дело это оказалось непростым. Недостаточно было получить разрешение правящих кругов (хотя и это представляло свои трудности),— нужно было найти материальные ресурсы для существования консерватории. Сборы от симфонических концертов могли в какой-то мере служить основой, но не покрыли бы всех необходимых затрат.

Возникла мысль об общественной подписке, причём не только в Москве, но и в провинции. Учредители будущей консерватории рассудили, что её центральное положение привлечет даровитую молодёжь из провинции и новое учреждение получит всероссийское значение. Московские газеты открыли дружную кампанию в пользу нового начинания. «Современная летопись», например, писала, что дирекция Московского отделения РМО предполагает придать будущей консерватории обширные размеры, «...если только это великое и благое национальное дело найдёт поддержку в публике, так как ему придется существовать не на правительственные субсидии, а на общественную всероссийскую подписку».

«Русские ведомости» поместили статью, в которой сообщалось о предполагаемом открытии консерватории в Москве и подчёркивалось всероссийское значение будущего учреждения. Газета также ставила вопрос о подписке и общественной поддержке консерватории, ссылаясь пример городов Германии, помогающих своим музыкальным училищам.

Учредители консерватории поместили в «Московских ведомостях» статью, в которой обрисовали пользу профессионального музыкального образования и осветили организационную сторону будущей консерватории, выразив надежду, что при благоприятных условиях в Москве будет создана серьёзная музыкальная школа, не уступающая лучшим учебным заведениям Европы.

Все эти выступления в прессе свидетельствовали, что передовые московские круги понимали общественно–полезное значение будущей консерватории. Отлично сознавали они, что рассчитывать на помощь правительства не приходится. Дело музыкального образования в Москве должно будет развиваться с помощью самого московского общества.

В феврале 1866 года генерал–губернатор Москвы получил от председательницы РМО великой княгини Елены Павловны «рескрипт», которым Московскому отделению РМО разрешалось «учредить в Москве высшее музыкальное училище на основании Устава подобного же Училища в Санкт–Петербурге... С учреждением в Москве высшего музыкального училища, — говорилось в этом документе, — открывается Обществу более обширный круг деятельности; ему дана будет возможность развивать те природные музыкальные дарования, которых так много в России и которые, к сожалению, доселе бесследно пропадали для искусства». Директором был назначен Н. Г. Рубинштейн.

В течение зимы и лета 1866 года Москва стала деятельно готовиться к открытию нового учебного заведения. Много хлопот выпало на долю группы учредителей и, прежде всего, Н. Г. Рубинштейна, полностью захваченного сложными административными и материальными заботами. Нужно было заключить контракт с владельцем здания, пригласить учителей, организовать первый приём в консерваторию....

Помещение, в котором должна была открыться новая консерватория, было весной законтрактовано Н. Г. Рубинштейном. Это был поместительный дом баронессы Черкасовой на Воздвиженке (ныне проспект Калинина). Основное педагогическое ядро составили преподаватели Музыкальных классов. Летом Н. Г. Рубинштейн уехал за границу и пригласил известных артистов Фердинанда Лауба и Бернгарда Космана профессорами по скрипке и виолончели.

Настало 1 сентября 1866 года — день открытия новой консерватории. Оно было торжественно отмечено. Кроме будущих учеников и учителей, присутствовало большое число людей, сочувствовавших новому делу. Главные инициаторы её открытия выступили с речами. Молодой профессор новой консерватории, несколько месяцев назад окончивший Петербургскую консерваторию, Петр Ильич Чайковский в качестве воспитанника первой русской консерватории сказал о значении профессионального образования. Большую речь произнес В. Ф. Одоевский, избравший своей темой будущее развитие научной деятельности консерватории, в частности изучение русского народного творчества.

Ф. Лауб, выступая на родном языке, подчеркнул, что музыка является языком, доступным любым национальностям, который понимают все артисты мира, и предложил тост за здоровье музыкантов, принимающих участие в открытии Московской консерватории

Со 2 сентября начались учебные занятия.

Первое заседание Совета профессоров консерватории состоялось 27 сентября 1866 года под председательством Н. Г. Рубинштейна. Далее заседания Совета происходили систематически; на них рассматривались все важнейшие стороны учебного процесса. Особое внимание уделялось учебным программам. В первом же учебном году были составлены программы по классам  пения,  фортепиано, элементарной теории, гармонии и другим предметам. Совет постановил, что полный курс обучения пению в консерватории распределяется на пять лет, курсы игры на инструментах — на шесть лет. Был установлен порядок экзаменов, определено их содержание, назначен состав экзаменационных комиссий.

С 7 февраля 1867 года начались ученические вечера, их, по распоряжению Совета, назначили по два раза в месяц. В 70-е годы, с возрастанием числа учащихся, вечера устраивались уже еженедельно и ученики старших курсов должны были выступить не менее трёх раз в год. В программах вечеров участвовали ученики всех отделений. В первые годы эти вечера носили закрытый характер, и публика на них не допускалась.

Пристальное внимание руководство консерватории уделяло специальным классам. Преподавание в исполнительских классах было разделено между профессорами и адъюнктами (ассистентами). Из шести лет курса обучения инструменталистов первые три года ученики должны были заниматься с адъюнктами, а на четвёртый перейти к профессору, которому вменялось в обязанность руководить работой своего помощника–адъюнкта. Однако с 1869/70 учебного года система адъюнктуры была отменена, как не оправдавшая себя. Преподаватели младших курсов вели самостоятельные классы и воспитывали своих питомцев до момента их перехода в класс профессора.

Специальное фортепиано преподавали профессора: Н. Г. Рубинштейн, И. И. Венявский, А. К. Доор, А. И. Дюбюк. Через год Венявского заменил К. К. Клиндворт. Учеников младших классов вели Э. Л .Лангер, К. Ф. Вильшау, К. Э. Вебер, А. К. Зандер. С 1870 года в число педагогов младшего отделения вступил видный преподаватель Н. С. Зверев.

Класс скрипки с основания консерватории вели два профессора: Ф. Лауб и Л. Ф. Мипкус. Их помощником был адъюнкт Г. Шрадик. После ухода Шрадика был приглашён И. В. Гржимали, впоследствии заменивший Лауба. Некоторое время в консерватории работал A. Д. Бродский.

Класс виолончели до 1870 года вёл  Б. Косман; его заменил B. Ф. Фитценгаген. Для открывшихся новых классов контрабаса (1867) и арфы (1874) были приглашены Г. Ф. Шпекин и И. И. Папендик–Эйхенвальд.

Пение преподавали: А. Д. Александрова–Кочетова, Б. О. Вальзек, B. Н. Кашперов и А. Р Осберг; позже — Д. М. Гальвани, М. М. Милорадович, И. И. Миллер. Класс декламации вёл до 1869 года И. Я. Сетов, а в дальнейшем, с открытием оперного класса, — артист Малого театра C. В. Шумский и после него И. В. Самарин. Ученики вокального отделения должны были посещать обязательные классы итальянского языка, фехтования и танцев.

Классы духовых и ударных инструментов вели артисты оркестра Большого театра: Ф. Ф. Бюхнер (флейта), Э. К. Медер (гобой), B. К. Гут и К. Ф. Циммерман (кларнет), Г. К. Эзер (фагот), М. Б.мБартольд и Б. И. Роте (валторна), Ф. Б. Рихтер (труба), X. И. Борк (тромбон) и А. Кегель (литавры).

Недостаточное количество учеников, желающих специализироваться в игре на духовых инструментах, стало препятствием к осуществлению замысла Н. Г. Рубинштейна иметь свой консерваторский оркестр. Поэтому сразу же по открытии консерватории были приняты некоторые меры для привлечения духовиков. 4 сентября 1866 года в газете «Московские ведомости» было помещено объявление о том, что дирекция консерватории предполагает дополнительно принять десять стипендиатов, из которых двух по специальности «пение», а остальных — по игре на духовых инструментах! От желающих занять эти места не требовалось музыкальной подготовки, а только хорошие природные музыкальные способности. Это возымело своё действие, и постепенно классы духовых инструментов стали укомплектовываться.

Теоретическими классами руководил П. И. Чайковский; параллельно с ним преподавали Н. Д. Капгкин, К. К. Альбрехт и Э. Л. Лангер, а также Г. А. Ларош и Н. А. Губерт. После ухода Чайковского из консерватории на его место был  приглашён воспитанник консерватории C. И. Танеев.

Первоначально курс элементарной теории был соединён с курсом сольфеджио, но впоследствии они были разделены. На третьем году учения проходилась гармония, после чего все ученики должны были ознакомиться с основами контрапункта. В 1870/71 году курс контрапункта стал обязательным только для учеников специального теоретического отделения консерватории, остальные проходили его в факультативном порядке. Зато преподавание гармонии было расширено и заняло два года. После успешного окончания гармонии ученик переходил в класс так называемой «энциклопедии», где в краткой форме излагались общие сведения о контрапункте, инструментовке, музыкальных формах.
Лекции по истории музыки начались в 1868/69 учебном году. Их читал Г. А. Ларош, которого через три года заменил А. С. Размадзе, а позже Н. Д. Кашкин.

Курс сольфеджио постепенно усовершенствовался и с 1873/74 года стал двухгодичным. Для перехода в класс гармонии необходимо было сдать экзамен по сольфеджио и элементарной теории; это привело к повышению требований, предъявляемых к общему музыкальному образованию учащихся.

Особое внимание привлекал новый предмет, введённый в Московской консерватории, — история церковного пения в России. Его вёл видный ученый в этой области, автор многих научных трудов о древнерусской музыке Д. В. Разумовский.

Кроме музыкальных предметов, в консерватории были открыты общеобразовательные («научные») классы, имевшие целью пополнить знания учащихся. Эти классы, рассчитанные сперва на четыре года, а впоследствии продлённые до семи лет, вели очень хорошие учителя и профессора. Русский язык и литературу преподавали М. Е. Скворцов и И. Ю. Некрасов; историю всеобщей литературы — профессор А. И. Кирпичников, географию — Н. В. Рклицкий и А. Л. Линберг; физику и математику — С. Н. Зернов; немецкий язык и литературу — В. Д. Соколов, французский язык (с 1873 года) — Э. Фондэ, курс эстетики и мифологии читал профессор университета К. К. Герц.

Учащиеся должны были посещать научные классы или сдать все экзамены от себя, только тогда они получали право на диплом Свободного художника

С первых лет существования Московской консерватории были заложены основы одной из существеннейших сторон профессионального обучения — производственной практики ученика. С согласия профессоров инструментальных классов, подвинутые скрипачи и виолончелисты играли в оркестре РМО под управлением Н. Рубинштейна, что давало молодым музыкантам полезные навыки и производственный опыт. Учащиеся классов пения, начиная с третьего курса, должны были в обязательном порядке петь в хоре РМО; к пению в хоре привлекались также и ученики фортепианных и оркестровых специальных классов (кроме тех, кто назначался в оркестр). Хоровой класс в консерватории, готовивший учеников к участию в профессиональных хорах, начинался с переходом ученика в класс гармонии. Вёл его Н. А. Губерт.

Своеобразная практика была и у пианистов старших курсов. Им поручалось аккомпанировать своим товарищам в инструментальных классах, вести занятия по классу «обязательного фортепиано» с певцами и инструменталистами под руководством своего профессора. Молодые пианисты, не обладавшие ярко выраженными виртуозными данными, могли по окончании консерватории работать учителями музыки или даже остаться в консерватории преподавателями младших курсов.

На первых порах в консерваторию решили принимать всех желающих в ней учиться; почти единственным условием поступления было требование, чтобы поступающий достиг четырнадцати лет, умел читать, писать, считать и знал ноты. В объявлениях, которые давала консерватория в первые два–три года своего существования, особо подчеркивался свободный доступ желающих к обучению в консерватории. С 1872/73 года был установлен комплект учеников консерватории в двести человек с платой за учение по сто рублей в год; для поступающих сверх комплекта плата назначалась двести рублей в год.

Консерватория была вынуждена принимать в число учеников не только тех, которые впоследствии могли бы стать музыкантами–профессионалами. Материальная зависимость от поступления платы за учение вынуждала консерваторию подчас к случайному и пестрому набору учеников; довольно большой процент составляли светские барышни, стремившиеся учиться в «модной» консерватории.

Социальный состав учащихся первых лет работы консерватории, к сожалению, невозможно установить с полной достоверностью. Сохранившиеся архивные сведения об оканчивающих консерваторию позволяют сделать вывод, что большинство учеников принадлежало к разночинному сословию. Были дети купцов, чиновников, мелких дворян, священников, военных, изредка — дети крестьян и ремесленников. Однако эти сведения не дают полной картины, так как далеко не все учившиеся в консерваторип закончили её.

Из-за нехватки средств пришлось также ввести институт вольных слушателей. Летом 1867 года дирекция сообщила, что, кроме основных учеников, в консерваторию будут приняты «вольные слушатели». Они не обязывались никакими экзаменами и могли посещать общеобразовательные классы и групповые занятия по своему желанию и выбору. Плата назначалась за каждый предмет. Не закончившие полного курса вольные слушатели могли получить аттестат по отдельным предметам с обозначением «времени их пребывания в консерватории и степени их внимания, оказанной отдельным предметам».

Эти условия казались многим тяжёлыми и трудными. В прессе тех лет нередко критиковалась организация учебного дела в консерватории.

Дальнейшая история усилий Н. Г. Рубинштейна и его сотрудников — превратить молодую консерваторию в подлинно профессиональное учебное заведение — идёт рука об руку с историей тяжёлой и трудной борьбы по изысканию средств существования и развития дела. Энтузиазм и энергия директора, инспектора К. К. Альбрехта, молодых профессоров и педагогов поразительны. Н. Г. Рубинштейну приходилось невероятно изворачиваться: он тратил на консерваторию личные средства, устраивал большие концерты в пользу консерватории и т. п.

Большие расходы консерватории были связаны с переездом в 1871 году в новое здание. Значительно увеличившееся количество учащихся, образование коллективных классов (оперный, оркестровый и хоровой) потребовало другого, более поместительного здания. Кроме того, владелица дома на Воздвиженке предполагала при возобновлении контракта повысить арендную плату. Тогда дирекция РМО решила арендовать новое помещение для консерватории — дом Воронцова на Большой Никитской улице (стоявший на месте теперешнего здания консерватории), просторный и удобный, в котором можно было свободно разместить все классы. Однако здание требовало ремонта и переделки для работы учебного заведения, устройства звуконепроницаемых дверей и т. п.  .

В 1871 году дирекция РМО снова обратилась в Городскую думу с ходатайством о финансовой поддержке, указывая на то, что лишь консерватория не получает субсидии от города Москвы в виде какой-либо ощутимой суммы. Существовать на доходы от концертов и частные пожертвования консерватория не может и терпит значительные материальные затруднения, тогда как московские театры, получающие от города субсидию в сумме пятидесяти семи тысяч рублей, в сущности не нуждаются в ней. В результате этого были установлены ежегодные взносы Думы на нужды консерватории в сумме двадцати тысяч рублей. Оставшуюся сумму в тридцать семь тысяч рублей комиссия постановила использовать на организацию хоровых классов в городских училищах (о чем также просили консерватория и РМО). Так консерватория получила пекоторую помощь от города.

И всё же этого было недостаточно. В начале 70-х годов Московское отделение РМО находилось в состоянии непрерывного дефицита, причиной которого были расходы на содержание консерватории. В городских общественных кругах стали упорно говорить о закрытии консерватории. Однако Н. Г. Рубинштейн со своими сотрудниками по дирекции РМО решил использовать все возможные пути для увеличения доходов, но ни в коем случае не допустить закрытия консерватории. Главной задачей было — получить постоянную правительственную субсидию. Для этого надо было широко показать успехи консерватории и сделать их известными в высшей придворной сфере, вплоть до самого царя. Оперный класс консерватории, подготовивший в 1869 году удачную постановку «Ивана Сусанина», мог сыграть решающую роль. Особые надежды директор возлагал также на спектакль «Орфей», который летом 1872 года посетил сам царь вместе с наследником. Результатом было назначение правительственной субсидии Московской консерватории на пять лет в сумме двадцать тысяч рублей ежегодно. Впоследствии срок был продлён. Материальное положение консерватории упрочилось, и вопрос о её закрытии больше не ставился.

С середины 70-х годов стабилизируется и внутренняя жизнь консерватории. Материальная обеспеченность, сохранение более или менее крепкого ядра основного профессорско–преподавательского состава, возрастающий авторитет консерватории в Москве — всё это создало общее благоприятное положение для музыкального образования.

Рассматривая Устав Московской консерватории 1866 года и контракты с профессорами, которые заключала дирекция РМО, можно убедиться, что условия работы молодого учебного заведения были трудными. В этих документах на первый план выступают заботы о прочности организации дела, личные интересы подчинены интересам общественным. Так, пункт 4 Устава консерватории говорит о непосредственном подчинении всех работающих в консерватории её директору, который избирается дирекцией РМО на три года и должен быть «непременно из артистов». В его обязанности входит: избрание старших и младших преподавателей, которых он представляет на утверждение РМО; наблюдение за преподаванием, прием учащихся, перевод их с курса на курс, одним словом, — всё, что касается учебной части.

Сосредоточение всех этих дел в руках директора, естественно, давало ему очень широкие полномочия и превращало его в художественного и хозяйственного руководителя учреждения — только такая централизация управления в консерватории и могла обеспечить правильную и четкую организацию всего дела.

Устав содержит перечисление прав и обязанностей Совета профессоров, образуемого из старших преподавателей. Совет должен распределять учащихся по классам, утверждать экзаменационные программы учащихся и т. п. Директор являлся председателем Совета, и Совет обычно поддерживал решения Н. Г. Рубинштейна. С годами роль Совета делалась всё более значительной.

Контракт, заключавшийся с профессорами, представляет собой любопытный и показательный документ, в котором ясно отражено трудное положение молодой консерватории. Профессора консерватории должны были обещать отказаться от частных классов, чтобы конкуренцией не ослабить консерваторию. Условие, особенно стеснявшее профессоров, было связано с регламентацией их артистической деятельности: профессор консерватории не мог без согласия Совета консерватории и дирекции РМО участвовать ни в каких концертах, кроме концертов РМО. Это было усилено дополнительными обязательствами о репертуаре профессора–артиста, утверждавшемся дирекцией, и о неустойке в случае, если артист не подчинится распоряжениям дирекции.

Желание всемерно укрепить музыкальное просвещение в Москве заставило Н. Г. Рубинштейна (кстати, первым подписавшего этот стеснительный контракт) и других членов дирекции оградить от конкуренции концерты РМО, бывшие (кроме их просветительского значения) основным источником доходов, на которые существовала консерватория. Н. Г. Рубинштейн верно рассчитал, что, если публика будет ходить на концерты, устраиваемые артистами помимо РМО, то концерты Общества могут потерпеть материальные убытки, а это тяжело отразится на финансировании консерватории. Ограничение концертной деятельности профессоров–артистов было, таким образом, связано с трудным материальным положением консерватории. Однако было тут ещё одно очень важное обстоятельство. Н. Г. Рубинштейн тщательно обдумывал программы симфонических и камерных собраний РМО, стремясь к расширению знакомства публики с лучшими произведениями классической и современной музыки. Как мы увидим дальше, руководитель концертов чуждался поверхностных модных пьес, какими нередко прельщались отдельные артисты. Думая в первую очередь о просветительском значении концертов в Москве, Н. Г. Рубинштейн пошёл на ограничения артистических выступлений и контроль над репертуаром профессоров консерватории.

Дирекция РМО неоднократно подчеркивала, что консерватория — не коммерческое предприятие и что её дело — принести большую общественную пользу. Отметая обвинение в произволе, дирекция ссылалась на права Совета. Запрещение же частных уроков было произведено не только из-за боязни конкуренции, а из «опасения преподавания несогласного с правилами музыкального искусства, принятыми в консерватории, отчего образовался бы разлад в преподавании, вредный для успеха учащихся».

Приведённые примеры дают представление о сложности обстановки, в которой развивалась деятельность консерватории в первые годы её существования, о трудных условиях борьбы за направление её работы, проводимой группой энтузиастов во главе с Н. Г. Рубинштейном.

В течение двенадцати лет консерватория существовала, руководствуясь Уставом 1866 года. Но жизнь во многом изменила положение консерватории, и к 1878 году оказалось нужным внести в Устав изменения. Новый Устав был рассмотрен Министерством внутренних дел, получил «высочайшее утверждение» и введён в действие с 1879 года. Изменения коснулись многого, прежде всего сроков обучения в консерватории. Курс пения был сохранён по-прежнему пятилетним; значительно увеличился срок обучения в инструментальных классах: по фортепиано, скрипке и виолончели он возрос до девяти лет с разделением на два отделения  (младшее с I по V курс и старшее — с VIпо IX); срок обучения игре на арфе и контрабасе был установлен в семь лет.

Произошли изменения и в учебном плане по музыкально–теоретическим предметам, подсказанные опытом занятий предшествующих лет. Занятиям по элементарной теории отводилось полгода, однако для поступления в этот класс ученики должны были выдержать экзамен за два года сольфеджио. Класс сольфеджио продолжался три года. Специальный курс теории начинался по окончании общего курса гармонии и продолжался четыре года с разделением на дисциплины: контрапункт, фуга, формы, свободное сочинение и инструментовка.

Московской консерватории предоставлялось право иметь свои программы, отличающиеся от программ, принятых в Петербургской консерватории, однако утверждаться они должны были Главной дирекцией РМО в Петербурге. Профессора и преподаватели по новому Уставу получили значительные преимущества. Лицам, преподающим в консерватории художественные предметы не менее шести лет, дано право именоваться профессорами и достигать почетного звания заслуженного профессора, жалуемого «высочайшим» утверждением. Всем служащим консерватории дано было право считаться на государственной службе со всеми вытекающими отсюда льготами — наградами, пенсиями и т. п. Ученики, как и по Уставу 1866 года, имели освобождение от обязательной воинской повинности. Советы профессоров обеих консерваторий получили право присваивать выдающимся артистам звание почетного члена консерватории.

Принятие нового Устава, дававшего Московской консерватории большую самостоятельность, свидетельствовало о признании её заслуг и успехов не только обществом, но и правительственными учреждениями. Устав 1878 года действовал более двадцати пяти лет.