Совсем другая обстановка царила в лейпцигском оркестре Гевандхауза, руководителем которого Мендельсон стал в октябре 1835 года. Оркестр имел давние традиции, но под управлением нового дирижера стал первым в Германии. Всех поражало, что он дирижировал палочкой, стоя за пультом: раньше капельмейстер либо стоял со скрипкой в руках, либо сидел за фортепиано. Даже друг Мендельсона Шуман не одобрял этого нововведения — палочка ему мешала. «Оркестр должен быть республикой, над которой не стоит никто», — считал он. А вот как современники описывали взаимоотношения Мендельсона с оркестром: «Мендельсона отличал не только его исключительный дар руководителя, но и духовное превосходство его обаятельной личности. Все участники постоянно чувствовали полное самоотречение и верность долгу этого человека… Огненные глаза Мендельсона все время охватывали весь оркестр и царили над ним. А глаза всех оркестрантов были прикованы к кончику его дирижерской палочки».
В ноябре 1835 года композитора постиг тяжкий удар — смерть горячо любимого отца. Утешение он нашел в работе: закончил начатую несколько лет назад ораторию «Павел», дирижировал ораториями Генделя, кантатами и сюитами Баха, поразил лейпцигскую публику исполнением Девятой симфонии Бетховена, которая считалась безумным плодом буйной фантазии глухого композитора, дал цикл исторических концертов — от Баха до современников. Мендельсон стал первым исполнителем романтических симфоний: найденной Шуманом до-мажорной Шуберта, двух первых симфоний Шумана. В церкви Святого Фомы, где столетие назад работал Бах, он продирижировал своей симфонией-кантатой «Хвалебная песнь», давал органные концерты, сбор с которых шел на установку мемориальной доски в честь Баха. Выступал он и как пианист, в частности, — в концерте для трех клавиров Баха, где одну из партий исполняла 16-летняя Клара Вик, еще не ставшая женой Шумана; в другом концерте его партнером был Лист, гастролировавший в Лейпциге. Кроме того, Мендельсона регулярно приглашали руководить летними музыкальными празднествами в Дюссельдорфе и Кельне, где он обычно дирижировал ораториальными сочинениями Генделя, Баха, Бетховена.
Летом 1836 года к нему пришла любовь. Во Франкфурте-на-Майне он встретил дочь французского протестантского священника прелестную Сесиль Жанрено и влюбился с первого взгляда. Однако был так сдержан, что его избранница долго не подозревала о чувствах 27-летнего музыканта. А он писал сестре: «Я так ужасно влюблен, как еще ни разу в жизни, право, не знаю, что и делать. Послезавтра я должен уехать из Франкфурта, а между тем у меня такое чувство, что отъезд может стоить мне жизни». В марте следующего года Сесиль стала его женой. Семейная жизнь сложилась счастливо: по его собственным словам, Мендельсон жил как в раю и через несколько лет стал отцом трех детей. Авторитет композитора все возрастает, к нему обращаются музыканты за помощью и советом, его мнение о новых сочинениях считается непререкаемым. Он много размышляет о профессиональном музыкальном образовании молодежи и, наконец, в апреле 1840 года обращается с ходатайством об организации в Лейпциге консерватории. И хотя он отказывался от какого-либо руководящего поста, стал и главой и душой первой немецкой консерватории, торжественно открытой 2 апреля 1843 года. Мендельсон вел классы композиции, инструментовки и сольного пения, Шуман — фортепиано, композиции и чтения партитур, некоторое время фортепиано преподавала Клара Шуман. Воспитанники консерватории стали организаторами аналогичных музыкальных учебных заведений в других немецких городах.
Из концертных турне особую радость приносили Мендельсону посещения Англии. В Бирмингеме он с большим успехом продирижировал ораторией «Павел» и «Хвалебной песнью», в Лондоне в 1842 году исполнил только что законченную Шотландскую симфонию, задуманную еще во время первого путешествия в 1829 году. Однако когда он вернулся в Лейпциг, Шуман увидел на лице друга «какой-то налет печали» и задался вопросом: что это — понимание, что композитор уже на вершине славы и не сможет подняться выше, или осознание бренности всего земного, вызванное внезапной смертью матери? Позднее о том же писал другой друг Мендельсона: «Цветущая, брызжущая молодостью веселость уступила место какой-то досаде, усталости от земных дел, а это привело к тому, что он видел все вещи в ином свете, чем обычно». И в музыке его появились более тревожные настроения, драматически взволнованные, иногда героические образы. Таковы сочинения середины 40-х годов — знаменитый Скрипичный концерт, Фортепианное трио, оратория «Илия». И лишь «Песни без слов» — романтические миниатюры для фортепиано, которые композитор издавал тетрадями по шесть пьес в каждой с 1832 по 1845 год, сохраняли лирический склад, рожденный близостью к вокальному жанру.