Интерес к полупроводникам будущий ученый-изобретатель проявлял с детства: первый детекторный приемник Жорес собрал в десятилетнем возрасте. Кроме того, как отзывался сам академик, у него был потрясающий учитель физики – «Яков Борисович проводил сдвоенные уроки, вернее, это даже трудно было назвать уроками: он читал настоящие лекции, обращался с нами не как со школярами, а как со взрослыми студентами. В десятом классе Яков Борисович, рассказывая о радиолокации, объяснил устройство катодного осциллографа, и я был просто поражен этим умным устройством. С тех пор электроника стала для меня самым интересным делом». Нельзя не отметить, что положительное влияние оказал на него и старший брат Маркс, который впоследствии погиб на фронте. Во время пребывания с семьей после ранения его фронтовые рассказы и горячую веру в силу науки и технической мысли Жорес запомнил навсегда. В 1947 году Жорес закончил обучение с золотой медалью. По совету преподавателя физики Я.Б. Мельцерзона поступил на энергетический факультет Белорусского политехнического института. Проучившись год, Жорес Алферов перевелся в Ленинградский электротехнический институт (ЛЭТИ) на факультет электронной техники. Он сразу включился и в учебу, и в студенческую жизнь, и в науку – в стройотряде участвовал в строительстве Красноборской ГЭС, возглавил студенческое научное общество факультета, работал в вакуумной лаборатории, проводил свои первые научные эксперименты. Темой его работ были пленочные полупроводниковые элементы. В 1952 году Жорес окончил институт по специальности «Электровакуумная техника» с красным дипломом, поэтому ему дали направление в Ленинградский физико-технический институт (ЛФТИ), чтобы он мог готовиться к кандидатской диссертации и участвовать в разработке первых советских транзисторов. Очень быстро он влился в процесс и стал первоклассным специалистом по квантовой физике полупроводников. Буквально за несколько лет научная группа, в которую входил Алферов, создала кремниевые солнечные батареи, силовые выпрямители, транзисторы, не уступающие лучшим мировым образцам.
В 1958 году, когда он являлся младшим научным сотрудником, ему лично звонил заместитель председателя Совета министров с просьбой принять участие в проекте полупроводниковых технологий для советских атомных подводных лодок. «“Товарищ Алферов, – сказал Д.Ф. Устинов, – у меня к вам большая просьба. Нужно ускорить изготовление устройств и представить их на завод не к 17‑му, а к 1 октября”. “Хорошо”, – ответил я. Положил трубку, поехал домой, взял из дома одеяло, подушку, переселился в лабораторию и с тех пор работал каждый день примерно с шести утра до двух часов ночи. С двух до шести спал, а потом работал снова. И мы в нашей лаборатории все сделали к 1 октября». Жорес выполнил поставленную задачу быстро и эффективно, за что в 1959 году получил первую правительственную награду – орден «Знак Почета». В 1961 году Алферов защитил диссертацию.
В то время главным направлением научных изысканий Алферова была проблема гетеропереходов. Причем тогда это считалось абсолютно безнадежным делом, многие отговаривали Жореса заниматься данным вопросом. Однако в марте 1963 года он нашел рабочую схему гетеропереходов – на месяц раньше, чем решили американцы в IBM; тем более следует учитывать, что гетероструктуры группы Алферова обладали преимуществами перед американскими аналогами. Стоит пояснить: гетероструктуры представляют собой многослойные конструкции, состоящие из различных полупроводниковых материалов, отличающихся физико-энергетическими характеристиками. Они позволяют достигать высокой эффективности и точности в полупроводниковых устройствах. Но для того, чтобы этого добиться, параметры полупроводников в конструкциях должны быть точно подобраны, необходима идеальная гетеропара. Алферов, бесконечно экспериментируя, сумел найти подобную пару, она отличалась большей стойкостью к окислению на воздухе.