Кеннеди, однако, крайне сомневался, примет ли Джонсон его предложение, не сочтет ли его за оскорбительную подачку. Роберт Кеннеди полагал, что его брат предложил Джонсону номинацию «из вежливости», и надеялся, что тот от нее откажется. Сам Роберт считал наилучшим кандидатом в вице-президенты председателя АФТ Уолтера Рейтера. Суждения Р. Кеннеди можно поставить под сомнение, но тот факт, что от Джонсона ожидался, скорее всего, отрицательный ответ, вполне вероятен.
Кеннеди встретился с Джонсоном наутро после собственной номинации. Получив предложение, Джонсон, к удивлению Кеннеди, не ответил отказом, а попросил разрешения подумать. После кратких консультаций с элитой своего штата он дал согласие баллотироваться вместе с Кеннеди, хотя в предыдущие месяцы оба они отзывались друг о друге не весьма благоприятно. Это согласие многим показалось удивительным, ибо Джонсон являлся влиятельным и авторитетным политиком, был хорошо известен стране. Теперь же в случае победы ему предстояло занять пост, о котором большинство американцев знают лишь, что он существует. Единственное, на что мог надеяться Джонсон, — это выдвижение кандидатом в президенты через восемь лет, ибо никто не сомневался, что Кеннеди будет баллотироваться в президенты второй раз, если добьется успеха в 1960 г. Преодолев колебания, Джонсон пошел на блок с Кеннеди.
После избрания 8 ноября 1960 г. и вступления в должность властолюбивый Джонсон чувствовал себя обделенным. На его долю оставалась восьмилетняя «полуспячка» при молодом и активном президенте. Он попытался расширить полномочия вице-президента и почти сразу после инаугурации представил Кеннеди проект исполнительного распоряжения, предоставлявшего вице-президенту право «общего руководства» делами, связанными с национальной безопасностью, и требовавшего от правительственных учреждений «полного сотрудничества с вице-президентом в выполнении связанных с этим задач». Джонсона, однако, ждало разочарование: вместо распоряжения Кеннеди обратился к Джонсону с неофициальным письмом, в котором просил его «вести наблюдение» над делами, связанными с национальной безопасностью. Точно так же Кеннеди отверг просьбу Джонсона предоставить ему кабинет в Белом доме. После этого Джонсон буквально затаился и появлялся в президентской резиденции только по вызову, что происходило нечасто. Более того, в непосредственном окружении Кеннеди к Джонсону относились недоброжелательно и даже высмеивали его грубые манеры и властолюбивый характер. Пример в этом подавал генеральный прокурор Роберт Кеннеди, который фактически стал вторым лицом в государстве. Конгрессмен О’Нил вспоминал, что «люди Кеннеди… просто получали удовольствие, унижая его [Джонсона]». Вице-президент не принимал никакого участия в делах, связанных с опаснейшим Кубинским кризисом 1962 г. Сам Кеннеди, правда, несколько осаживал своих соратников. Он давал Джонсону отдельные задания, а Роберту и другим членам команды разъяснял: «Я не могу позволить себе иметь вице-президента, который знает каждого репортера в Вашингтоне, чтобы он расхаживал везде, говоря, что все мы слегка подвыпили, так что надо, чтобы он чувствовал себя довольным».
Основное поручение, которое получил Джонсон, состояло в руководстве Комитетом по равным возможностям рабочего найма — одного из органов, созданных для частичного преодоления расовой сегрегации. Хотя вначале предполагалось, что эта работа будет чисто номинальной, Линдон проявил присущую ему активность. По мнению современников, комитет под руководством Джонсона толкал администрацию вперед в решении проблем, связанных с гражданскими правами черного населения. Его инициативы, которые, впрочем, скрывались под видом активности комитета как такового, вызвали даже удивление у братьев Кеннеди, которые полагали, что Джонсон как представитель южного Техаса будет отстаивать консервативную позицию. По-видимому, у вице-президента всплыли в памяти установки «нового курса», сторонником которого он когда-то был.
Джонсон совершил несколько малозначительных дипломатических поездок, которые позволили ему лучше ознакомиться с глобальными проблемами и в то же время удовлетворяли его самолюбие. В реально сложившихся условиях ему было весьма приятно, когда на аэродромах в его честь исполняли государственный гимн США и перед ним проходили части почетного караула. Но особенно почетным для Джонсона стало назначение его руководителем Национального совета по аэронавтике и космическому пространству. Именно под его руководством был подготовлен первоначальный проект высадки американских астронавтов на Луне к 1970 г. Программа была представлена Конгрессу и всему народу США от имени Кеннеди, и Джонсон довольствовался тем, что в основе лежал проект, которым руководил он сам.