Он пишет в автобиографии: «Пришло время, когда отсутствие дисциплины в практике настигло меня. В 1921 году после одного из концертов в Нью-Йорке музыкальный критик из „Нью-Йорк таймса“ У. Дж. Гендерсон поместил критическую рецензию. Он написал, что я уронил себя во мнении публики и в его мнении и что я должен следить за собой, что недостаточно играть пьесу — нужно думать о ней. Что у меня есть долг по отношению к себе и к музыке, который никогда не будет оплачен. Я знал, что этот человек желает мне добра: описанное было для меня чувствительным ударом, ибо это была правда. Я начал серьезно практиковаться, я изменил своей юношеской экстравагантности. Я буду всегда благодарен Гендерсону. Он выбил из меня дурь и наставил меня на истинный путь.
Критики могут временами делать полезные вещи. Он умер несколько лет назад, и я буду всегда сожалеть, что не встретился с ним». По-видимому, нужно быть незаурядной личностью, чтобы воспринять такой урок и так написать о нем.
В 1925 году Хейфец принял американское гражданство, а в 1929 году Хейфец женился на известной американской кинозвезде Флоренс Apта (до этого бывшей замужем за выдающимся американским кинорежиссер ром Кингом Видором). В следующем году у них родилась дочь Жозефа (ставшая впоследствии пианисткой и композитором, занималась в Париже у Д. Мийо), а в 1932 году — сын Роберт.
В конце 1930-х годов скрипач утверждал, что уже четыре раза совершил кругосветное путешествие, а по протяженности маршрутов дважды добрался до Луны. В 1920 году он впервые выступил в Лондоне, в следующем году совершил большое турне по Австралии. В 1922, 1924, 1925 годах снова давал концерты в Англии, в 1923 году состоялось его длительное турне по Востоку. В 1926 году прошли его гастроли по странам Южной Америки и Ближнего Востока. Он играл с лучшими оркестрами мира и получал наивысшие гонорары среди исполнителей. В 1933 году состоялась премьера Второго скрипичного концерта М. Кастельнуово-Тедеско «Пророк», посвященного Хейфецу. Оркестром Нью-Йоркской филармонии дирижировал А. Тосканини, высоко ценивший талант скрипача.
Хейфец всегда держался осторожно, в том числе и в политических вопросах. Это позволило ему сохранить неплохие отношения с советским режимом. Он не считался белоэмигрантом или невозвращенцем и был, наряду со Зворыкиным, одним из немногих, которые посетили СССР в первую советско-американскую оттепель в 1934 году. Проезжая через фашистскую Германию, он отказался там выступать. Шесть концертов артиста в Москве и Ленинграде, выступления перед студентами консерваторий (где он также отвечал на вопросы) прошли с огромным успехом. Его игра во многом перевернула устоявшиеся представления и оказала заметное влияние на исполнительство и педагогику.
Тогда известный критик М. Сокольский писал: «Что больше всего поражает в игре Хейфеца? Это его техника, огромнейшее, вызывающее восхищение виртуозное мастерство. Техника эта чрезвычайно разнообразна, математически выверена и ровна. Тон его изумительно сильный, насыщенный, глубокий. Хейфец не знает в своем искусстве непреодолимых трудностей Легкость, с которой он побеждает все технические препятствия, покоряет. Причем непринужденность и свобода мастерства Хейфеца, правда, несколько холодного и строгого, таковы, что подчас могут ввести даже в заблуждение: непосвященный слушатель может и впрямь поверить, что то, что исполняет Хейфец, легко и просто. Но нужно действительно знать, какие, например, исключительные трудности представляет для скрипача 24-й каприс Паганини, чтобы полностью оценить то совершенно ослепительное, баснословное мастерство, с каким он исполняет это произведение».
В 1938 году Хейфец снялся в игровом фильме «Shall Play Musik», где играл самого себя. Это — первая видеозапись игры великого артиста. В 1939 году скрипач впервые исполнил посвященный ему концерт Уолтона.
В 1940 году он купил дом в Беверли-Хиллз, а также небольшой домик неподалеку в местечке Малибу на берегу океана. В том же году начал преподавательскую деятельность в университете Южной Калифорнии, концертировал в Южной Америке. Во время Второй мировой войны Хейфец вместе с Рахманиновым, Пановым, Андерсен, Пирсом и другими музыкантами много выступал в госпиталях и перед солдатами.
В 1945 году Хейфец развелся с женой, а в начале 1947 года женился на Френсис Шпигельберг. В следующем году у них родился сын Иосиф. К 1950 году относятся съемки фильма о Хейфеце — встреча со студентами Калифорнийского университета.
Вторая оттепель в советско-американских отношениях, пришедшаяся на 1950-е годы, обошлась без Хейфеца: его политические привязанности тогда уже целиком принадлежали Израилю. В значительной мере на его средства были построены концертный зал и консерватория в Хайфе.
Хейфец был разносторонне развитым музыкантом. Он прекрасно играл на рояле, нередко аккомпанировал в классе Ауэра своим товарищам, одно время работал дирижером «Метрополитен Опера» в Нью-Йорке, писал музыку к некоторым кинофильмам.