13 июля операция началась, и к 18 июля оборона противника была прорвана на глубину 50—80 км. Немецкое командование ожидало главного удара на львовском направлении, сосредоточив здесь значительные силы, и потому сопротивление на рава-русском направлении оказалось незначительным. Поэтому часть войск Конев повернул в тыл Львовской группировки. Вскоре под Бродами было окружено 8 немецких дивизий. К концу дня 22 июля вражеская группировка была ликвидирована. 27 июля были освобождены Львов, Перемышль, Станислав. К 1 августа в районе Сандомира была форсирована Висла и создан важный плацдарм для дальнейшего наступления.
Немецкое командование, понимая всю опасность этого плацдарма, попыталось нанести по оборонявшимся на нем советским войскам несколько контрударов, подтянув для этого 16 пехотных и танковых дивизий. Тогда Конев ввел в сражение 5-ю гвардейскую танковую армию из своего резерва, которая отразила натиск противника.
За Львовско-Сандомирскую операцию Коневу было присвоено звание Героя Советского Союза.
1 октября войска 1-го Украинского фронта перешли чехословацкую границу северо-западнее Дукельского перевала и при содействии чехословацких войск овладели перевалом.
В завершающем году войны войска 1-го Украинского фронта начали наступление с Сандомирского плацдарма. В ходе наступления были разгромлены как тактические, так и оперативные резервы противника и создана угроза его окружения между Пулковским и Сандомирским плацдармами.
Незадолго до начала операции Сталин в разговоре с Коневым потребовал предотвратить разрушение немцами важного Домбровско-Силезского района и сохранить Краков.
Коневу пришлось отказаться от применения артиллерии и авиации и создать для немецких войск угрозу окружения, предварительно оставив для них коридор для отхода на юг. Но лишь только противник оставил Краков и стал отходить, как его колонны были накрыты артиллерийским и авиационным огнем.
Краков послужил для Конева ключом к Силезии. 3-я гвардейская танковая армия была повернута с вроцлавского на силезское направление. Армии полукольцом охватывали двухсоттысячную группировку немцев, угрожая ей окружением. Но, учитывая приказ Сталина сохранить Силезский район от разрушения, Конев вновь оставил немцам коридор для отступления.
Уже к 20-м числам января войска Конева вышли к Одеру и форсировали его. Вместе с командующим 1-м Белорусским фронтом маршалом Г.К.Жуковым Конев настаивал на немедленном наступлении на Берлин, где не было создано прочной обороны и не имелось достаточного количества войск. Но Жуков опасался удара по своему правому флангу со стороны Восточнопомеранской группировки.
Коневу же пришлось проводить Нижнесилезскую операцию с целью разгрома группы армий «Центр». В течение суток 8 февраля войска 1-го Украинского фронта прорвали Одерский оборонительный рубеж. Были захвачены плацдармы на западном берегу Нейсе. 1 апреля капитулировал 18-тысячный гарнизон города-крепости Глогау. В районе Бреслау была окружена 40-тысячная группировка противника. Войска 1-го Украинского фронта овладели Нижней Селезией и охватили верхнесилезскую группировку. На правом крыле фронта войска были готовы к штурму Берлина.
Однако Жуков по-прежнему хотел захватить Берлин самостоятельно. Войска Конева должны были разгромить противника южнее Берлина и выйти к Эльбе на соединение с союзными войсками.
В первый же день наступления 16 апреля войска Конева прорвали главную полосу обороны противника и форсировали Шпрее. В это же время войска Жукова застряли на достаточно укрепленных Зееловских высотах.
Желая взять Берлин к 1 мая, Сталин приказал Коневу повернуть танковые армии на Берлин, сказав обоим командующим, что «Берлин возьмет тот, кто первым туда ворвется».
Танковые армии, дополнительно усиленные артиллерийскими и авиационными соединениями, перешли в наступление и 22 апреля вышли к южной окраине Берлина. 25 апреля войска 1-го Белорусского и 1-го Украинского фронтов соединились западнее Берлина. Вся группировка противника была окружена.
Гитлер приказал 12-й армии Венка оставить на западе рубеж своей обороны против американцев на Эльбе и направиться к Потсдаму на соединение с окруженной 9-й армией. В штаб Венка для координации боевых действий был направлен главный советник Гитлера по оперативно-стратегическим вопросам фельдмаршал В.Кейтель. С севера действия Венка должны были поддерживаться контрударами армейской группы.
Но пробиться к окруженному Берлину Венк не смог. 2 мая 1945 года столица Германии капитулировала.
Последним актом в войне для Конева было взятие Праги 9 мая и пленение остатков группы армий «Центр».
За победы на завершающей стадии Великой Отечественной войны Конев дважды был удостоен звания Героя Советского Союза и награжден орденом «Победа».
В первый послевоенный год Конев был назначен главнокомандующим Центральной группой войск и Верховным комиссаром по Австрии.
После своего возвращения из Австрии он назначается главнокомандующим сухопутными войсками и заместителем министра обороны. На этом посту он пробыл до 1950 года.