В конце 1936 года из Великобритании возвратилась жена ученого с детьми. В 1937 году Петр Капица основал знаменитый «физический семинар П. Л. Капицы», который в дальнейшем стали звать «Капичником». На «Капичники» приезжали физики со всего Союза.
В своем институте Капица продолжил активные научные исследования в области физики низких температур. Он разработал новый метод ожижения воздуха с помощью цикла низкого давления и высокоэффективного турбодетандера с к. п. д. 80–85 %. Метод Капицы стал определяющим во всемирном развитии современных крупных установок разделения воздуха для получения кислорода, азота и инертных газов. С помощью сконструированного Капицей турбодетандера можно было ежегодно добывать более 50 млрд кубических метров кислорода.
В результате исследований свойств жидкого гелия Петру Леонидовичу удалось открыть необычайное уменьшение вязкости жидкого гелия при охлаждении его до температуры ниже 2,19К, при которой он переходит в форму, называемую гелием-2. Знаменитый ученый показал, что при температуре ниже 2,19К жидкий гелий может вытекать через любые тонкие щели и даже взбираться по стенкам контейнера, как бы «не ощущая» действия силы тяжести. Открытое явление Капица назвал сверхтекучестью.
Гениальный ученый сделал вывод о существовании в гелии двух жидкостей с совершенно различными свойствами, которые могли двигаться навстречу друг другу. Его исследования положили начало развитию новой области физики – квантовой физики конденсированного состояния.
Кроме Капицы аналогичные исследования проводили его бывшие сотрудники Кавендишской лаборатории Дж. Ф. Аллен и А. Д. Мизенер.
Результаты работ ученых были опубликованы в одном и том же выпуске британского журнала «Природа».
В 1940 году Капица установил, что при передаче тепла от твердого тела к жидкому гелию на границе раздела возникал скачок температуры, значение которого увеличивалось с понижением температуры. Этот факт получил название «скачок Капицы».
13 марта 1941 года Капице была присуждена Сталинская премия 1-й степени за работу «Турбодетандер для получения низких температур и его применение для ожижения воздуха». Ученый пользовался уважением и авторитетом даже среди недоброжелателей.
В то время активизировались сталинские чистки, и многие ученые были арестованы. Капица не побоялся вызвать на себя гнев властей и открыто выступил в защиту физика-теоретика Владимира Фока и своего близкого друга, заведующего теоретическим отделением ИФП Льва Ландау. В последнем случае Капица побывал в Кремле и обещал подать в отставку с поста директора ИФП, если не отпустят Ландау.
Во время Второй мировой войны ученый был членом научно-технического совета при Государственном комитете обороны и начальником главного управления кислородной промышленности при Совнаркоме СССР. 22 марта 1943 года ему была присуждена Сталинская премия 1-й степени за открытие и исследования явления сверхтекучести жидкого гелия, а 30 апреля 1945 года – присвоено звание Героя Социалистического Труда «за успешную научную разработку нового турбинного метода получения кислорода и за создание мощной турбокислородной установки для производства жидкого кислорода».
Еще в начале войны Капица предупредил руководство страны о возможном создании одной из воюющих сторон атомной бомбы. После того как американские ученые сконструировали атомную бомбу и сбросили ее на Хиросиму, советские власти начали активные действия по разработке атомного оружия в СССР.
20 августа 1945 года был образован специальный комитет для руководства «всеми работами по использованию внутриатомной энергии урана», председателем которого стал Л. П. Берия; из ученых-физиков в комитет были включены только И. В. Курчатов и П. Л. Капица.
Почти с первых же дней работы начались столкновения Капицы с Берией. Ученый дважды обращался к Сталину, указывая, что некомпетентные действия Берии только мешают научным работам, но на сей раз Сталин не принял доводов Капицы. 21 декабря 1945 года Капица был выведен из состава комитета. В августе 1946 года его сняли со всех должностей и отправили под домашний арест.
Под домашним арестом Капица находился в течение восьми лет. Он жил на своей даче под Москвой, на Николиной Горе, где самостоятельно сделал домашнюю лабораторию, которую шутя называл «избой физических проблем», с намеком на ИФП. Даже в таких условиях ученый провел важные исследования в областях механики и гидродинамики, а позже электроники больших мощностей и физики плазмы. Капица разработал новый тип СВЧ-генераторов – планотрон и ниготрон (названный так в честь Николиной Горы) мощностью 300 кВт (в непрерывном режиме) и осуществил открытие плазменного шнура в плотных газах при высокочастотном разряде.
Проигнорировав юбилейные празднования 70-летия Сталина, Капица попал в еще большую опалу. Через некоторое время его изгнали с профессорской должности и освободили от работы в МГУ «за отсутствием педагогической нагрузки».