После окончания техникума Андропов попал в Ярославль и пошел по комсомольской линии. В 1935 г. он женился на Нине Янгалычевой, а через год в молодой семье родилась дочь. Андропов назвал ее в честь своей матери Евгенией. В 1940 году родился сын Владимир. Тогда же Юрий получил новое назначение и уехал в Петрозаводск. Нина с двумя детьми осталась в Ярославле. Муж к ней не вернулся и к себе не забрал. Что произошло между ними, никто не знает. По словам дочери Андропова, мама терялась в догадках. Ведь с отцом они никогда не ссорились. Перед отъездом он ничего жене о разрыве не говорил. Нина утешала себя тем, что всему виной была начавшаяся война, и уверяла в том детей. Она часто вспоминала некую цыганку, нагадавшую им с Юрой разлуку, а ему – высокое положение в обществе. Евгения стала врачом и отцу особо не досаждала. А вот с сыном Андропов имел большие проблемы. Владимира устроили сначала в Суворовское, затем в Нахимовское училище. Но мальчик военной муштры не выносил и сбегал, затем попал в плохую компанию и сел в тюрьму за мелкую кражу. Весной 1963 года, когда Юрий Владимирович стал секретарем ЦК КПСС, его сын вышел на свободу после второй отсидки, перебрался в Тирасполь и устроился работать на текстильную фабрику. В отделе кадров, заполняя анкету, Владимир упомянул только мать и сестру. Про отца писать ничего не стал, возможно, не хотел бросать на него тень. К тому времени Андропов был уже второй раз женат и имел сына и дочь от нового брака. Узнав, чей сын работает на фабрике, директор предприятия по приезде в Москву связалась с Юрием Владимировичем. Складывалось впечатление, что Юрий Владимирович очень не хотел, чтобы о его первом браке узнал Хрущев, но пообещал помочь сыну, который начал сильно пить. Слово свое Андропов сдержал. Между его новой семьей и Владимиром установилась постоянная связь. В мае 1967 года, когда Юрий Владимирович стал председателем КГБ, его подчиненные в Бендерах решили проявить инициативу. Владимира перевели на завод «Прибор», дали двухкомнатную квартиру. На радостях он запил и вскоре умер от цирроза печени…
Карьера Андропова складывалась удачно. В Петрозаводске на него обратил внимание О. В. Куусинен, которого Сталин намеревался поставить во главе Финляндии после ее присоединения к СССР. Но финны в войне с Советским Союзом свою независимость отстояли, Куусинен свой высокий пост так и не получил, однако остался в числе коммунистических руководителей Карелии. Андропов же возглавлял карельский комсомол. Он считал Отто Вильгельмовича своим вторым учителем. Первым был боцман из Рыбинска, научивший Юрия Владимировича, как нужно руководить людьми. От него будущий глава КГБ усвоил уроки вежливой настойчивости и спокойствия.
В 1948 году началось знаменитое «ленинградское дело». Сразу после окончания Великой Отечественной войны Сталин приблизил к себе партийное руководство города на Неве. А. Жданов и его товарищи получили большую власть в ЦК и попытались добиться определенных изменений в государственной и политической системе СССР. С их точки зрения, РСФСР была ущемлена в правах: не имела своей столицы и государственных органов. Сталин обвинил Жданова в попытке ослабить централизованную власть. Андропов, симпатизировавший «ленинградцам», оказался перед лицом реальной угрозы репрессий. Но он вовремя сориентировался и выступил с критикой. Это спасло ему и жизнь, и карьеру. А несколько позже он снова оказался перед выбором: Сталин взялся за Куусинена. Довести расправу до конца Иосиф Виссарионович не успел. Умер. Но Андропов выступил против своего учителя… «Ленинградское дело» оказало большое влияние на Юрия Владимировича как на политика. Он научился впредь не афишировать свои симпатии и антипатии, быть в курсе всех интриг среди высшего руководства, но самому в них не вмешиваться.