«К зиме 1925–1926 года, — писала дочь учёного Ирина, — папа стал тяготиться преподаванием в Свердловском университете. Ему было трудно решиться уйти со сносно оплачиваемой работы в „чистую науку“ (в МГУ). Вопрос этот, я знаю, обсуждался дома: как существовать на мизерную зарплату? Мама предложила продать свой каракулевый сак — этих денег хватило на целый год. Впоследствии мама относила одну за другой свои фамильные золотые вещи в торгсин и ломбард (откуда их, конечно уже не выкупали)».
Первые научные исследования Тамм в начале двадцатых годов проводил под руководством Леонида Исааковича Мандельштама, профессора Одесского политехнического института, выдающегося советского учёного, внёсшего вклад во многие разделы физики. Тамм занимался электродинамикой анизотропных твёрдых тел (т. е. таких, которые обладают самыми различными физическими свойствами и характеристиками) и оптическими свойствами кристаллов. Тамм поддерживал тесную связь с Мандельштамом вплоть до смерти последнего в 1944 году.
Обратившись к квантовой механике, в 1930 году Тамм объяснил акустические колебания и рассеяние света в твёрдых средах. В его работе впервые была высказана идея о квантах звуковых волн (позднее названных «фононами»), оказавшаяся весьма плодотворной во многих других разделах физики твёрдого тела.
В 1930 году Тамм стал профессором и заведующим кафедрой теоретической физики МГУ. В 1933 году он получил степень доктора физико-математических наук, тогда же стал членом-корреспондентом Академии наук СССР. Когда академия в 1934 году переехала из Ленинграда в Москву, Тамм стал заведующим сектором теоретической физики академического Института им. П. Н. Лебедева, и этот пост он занимал до конца жизни.
В конце двадцатых годов важную роль в новой физике играла релятивистская квантовая механика. Английский физик Дирак развил релятивистскую теорию электрона. В этой теории, в частности, предсказывалось существование отрицательных энергетических уровней электрона — концепция, отвергавшаяся многими физиками, поскольку позитрон (частица, во всём тождественная электрону, но несущая положительный заряд) ещё не был обнаружен экспериментально. Однако Тамм доказал, что рассеяние низкоэнергетических квантов света на свободных электронах происходит через промежуточные состояния электронов, находящихся при этом в отрицательных энергетических уровнях. В результате он показал, что отрицательная энергия электрона является существенным элементом теории электрона, предложенной Дираком.
Тамм сделал два значительных открытия в квантовой теории металлов, популярной в начале тридцатых годов. Вместе со студентом С. Шубиным он сумел объяснить фотоэлектрическую эмиссию электронов из металла, т. е. эмиссию, вызванную световым облучением. Второе открытие — он установил, что электроны вблизи поверхности кристалла могут находиться в особых энергетических состояниях, позднее названных таммовскими поверхностными уровнями, а это в дальнейшем сыграло важную роль при изучении поверхностных эффектов и контактных свойств металлов и полупроводников.
Одновременно он начал проводить теоретические исследования в области атомного ядра. Изучив экспериментальные данные, Тамм и С. Альтшуллер предсказали, что нейтрон, несмотря на отсутствие у него заряда, обладает отрицательным магнитным моментом (физическая величина, связанная, помимо прочего, с зарядом и спином). Их гипотеза, к настоящему времени подтвердившаяся, в то время расценивалась многими физиками-теоретиками как ошибочная. В 1934 году Тамм попытался объяснить с помощью своей так называемой бета-теории природу сил, удерживающих вместе частицы ядра. Согласно этой теории, распад ядер, вызванный испусканием бета-частиц (высокоскоростных электронов), приводит к появлению особого рода сил между любыми двумя нуклонами (протонами и нейтронами). Используя работу Ферми по бета-распаду, Тамм исследовал, какие ядерные силы могли бы возникнуть при обмене электроннонейтринными парами между любыми двумя нуклонами, если такой эффект имеет место. Он обнаружил, что бета-силы на самом деле существуют, но слишком слабы, чтобы выполнять роль «ядерного клея». Год спустя японский физик Хидеки Юкава постулировал существование частиц, названных мезонами, процесс обмена которыми (а не электронами и нейтрино, как предполагал Тамм) обеспечивает устойчивость ядра.