Юноша учился в консерватории, одновременно занимался в университете, где прослушал курсы истории, философии, истории музыки. В консерватории он занимается у Эпштейна (фортепиано), Р. Фукса (гармония и контрапункт), Т. Крейна (композиция). Каждый год на студенческих конкурсах он получает первые премии и как композитор и как пианист. Ему сулят блестящую исполнительскую карьеру: он может стать пианистом такого масштаба, как Лист или Антон Рубинштейн. К композиторским данным относятся более сдержанно, его поиски не встречают отклика в консерватории. Настоящее понимание он находит в университете, где с 1868 года гармонию, контрапункт и органную игру преподает А. Брукнер. Малер не стал его учеником в прямом смысле — не брал у него уроков. Однако старательно посещал все его лекции, навещал старого профессора дома, сопровождал на концерты. Они стали настолько близки, что Малера называли «приемным сыном» Брукнера. Малер поддержал его и в тот тяжкий день, когда провалилась Третья симфония, посвященная кумиру обоих музыкантов Вагнеру. Юноша был в восторге от этой музыки и даже сделал ее фортепианное переложение.
Окончив консерваторию в 1878 году, Малер продолжает еще год посещать университет, чтобы систематизировать свои знания. Он поглощает множество книг: его привлекают биология и психология, он с увлечением читает Гете, Шиллера, Гельдерлина, Э. Т. А. Гофмана, в особенности же — Жан-Поля, надолго оставшегося властителем его дум.
Живется молодому музыканту очень трудно. Он бегает по урокам, живет в дешевых комнатушках, ищет случайных заработков. Летними каникулами нанимается дирижировать на курортах, где идут оперетты, фарсы, водевили. К 1880 году им написано уже довольно много музыки — фортепианные квинтет и квартет, скрипичная соната, опера «Герцог Эрнст Швабский», Северная симфония, Сюита для фортепиано, песни и кантата для солистов, хора и оркестра «Жалобная песнь». На нее композитор возлагает большие надежды и представляет на бетховенский конкурс. Он рассчитывает, что, получив премию в 600 гульденов, сможет на некоторое время избавиться от угнетающих поисков заработка и отдастся творчеству. Но жюри, в состав которого входили крупные музыканты, в том числе выдающийся композитор Брамс, несколькими годами ранее горячо поддержавший Дворжака, отклонило сочинение Малера. Приверженец классических традиций в искусстве, Брамс не воспринял новаторской по сути музыки, представленной на его суд. Это решило судьбу молодого музыканта.
Он бы мог рискнуть остаться в Вене, вести полуголодное существование ради творчества. Но здоровье отца ухудшалось, ему была необходима помощь. Старший после отца мужчина в семье, Малер не мог оставить без поддержки мать, братьев и сестер. И не теряя времени он стал подыскивать работу. Ему предложили место дирижера в оперном театре Лайбаха (ныне Любляна). Там он провел один сезон — 1881/82 годов. Следующий ангажемент привел его в Моравию, в город Ольмюц (ныне Оломоуц), осенью 1883 года он получает место второго дирижера в оперном театре Касселя.
С первых шагов в театре Малер отдает дирижерской деятельности, хотя и вынужденной, всю свою неуемную энергию, поражая окружающих творческим горением и полной самоотдачей. К сожалению, чаще всего в ответ он встречает равнодушие, непонимание, закулисные интриги, ограниченность, невежество. Единственная отдушина тех лет — паломничество в «вагнеровский город» Байрейт, которое Малер совершил после смерти Вагнера в 1883 году. Там в построенном специально для вагнеровских опер театре он слушал оперы великого реформатора.
Услышанное в Байрейте потрясло его, но тем труднее было возвращаться к серым провинциальным будням. Узнав, что в Пражском Немецком театре есть вакансия второго дирижера, он написал директору: «Не понадобится ли Вам молодой энергичный дирижер, который (я вынужден сам себя рекламировать) обладает знаниями и навыком и не лишен способности вдохнуть пламя и в произведение искусства и в артистов, работающих с ним?»
Кроме творческой, была и личная причина, по которой музыкант стремился уехать из Касселя: мучительная неразделенная любовь. Она оставила след в творчестве Малера — его первый вокальный цикл «Песни странствующего подмастерья», написанный в 1884 году и открывающий список зрелого творчества композитора, посвящен этой любви. «Я написал цикл песен, все они посвящены ей. Она их не знает. Да и что они могут ей сказать, кроме того, о чем ей уже известно?» — пишет он самому близкому другу.