Первыми вступили в бой танки Т-28 5-й танковой дивизии, расположенной в литовском городе Алитусе. Части дивизии, ещё 19 июня выведенные из военного городка, заняли оборону на восточной окраине города на правом берегу реки Неман. Поэтому когда 22 июня 1941 года в 4.20 утра немецкая авиация стала бомбить парки дивизии, там уже никого не было. Вслед за этим танки и пехота 39-го моторизованного корпуса вермахта стали переправляться через Неман по двум мостам, и здесь они были встречены огнём артиллерии и контратаками советских танков. В документах о боевых действиях дивизии сказано следующее: «К началу боевых действий 27 танков Т-28 были небоеспособны вследствие изношенности. Во время боя за мосты геройски действовал личный состав 1-го батальона 9-го танкового полка. Он имел 24 танка Т-28 и с места артогнём поддерживал наступление 2-го батальона (танки БТ-7 — Прим. авт.). Движение противника через северный мост было приостановлено… Только в 7.00 23 июня, при появлении новых частей противника и вследствие нехватки боеприпасов, части 5-й тд отошли в направлении Дауги — Вильно. За день боя 9-й танковый полк потерял из 24 Т-28 на поле боя 16, остальные вышли из строя и были подорваны экипажами».
Танки Т-28, находившиеся на складе под Минском, были захвачены немцами в первые же дни войны. Только одна машина, управляемая старшиной Д. Малько, 29 июня на предельной скорости промчалась по улицам Минска, тараня вражеские автомобили и тягачи. Танк прошёл через весь город и был подбит на его восточной окраине. Малько был ранен, но сумел покинуть танк и выйти к своим. Уже после войны Д. Малько за этот бой был награждён орденом Отечественной войны I степени.
На Юго-Западном фронте Т-28 4-го и 15-го механизированных корпусов вступили в бой 23–24 июня. Однако сильная изношенность матчасти и отсутствие запасных частей не позволили в полной мере использовать их боевые качества. Вот что, например, сообщал помощник командира по технической части 4 мк в донесении начальнику АБТУ Юго-Западного фронта от 25 июня 1941 года: «Совершенно нетронутым остался вопрос со снабжением запчастями, особенно боевых машин, в результате чего 25 Т-34, 5 КВ, 12 Т-28 и 14 БТ вышли из строя и находятся в ожидании среднего и текущего ремонта». Спустя сутки всё тот же помпотех 4 мк сообщает: «Основным недостатком большого выхода из строя машин и потребности в ремонте — отсутствие запчастей текущего довольствия и запасов „НЗ“. К Т-34 и Т-28 запчастей совсем нет».
Судьбу танков Т-28 4 мк можно узнать из «Ведомости потери боевой материальной части с 22 июня по 1 августа» (1941 г. — Прим. авт.): «Отправлено в ремонт на рембазы и заводы промышленности — 12; оставлено на месте расквартирования и захвачено противником — 5; отстало в пути во время маршей и пропало без вести, уничтожено артогнём противника — 58».
По танкам Т-28 10 тд 15 мк сведений сохранилось несколько больше. В «Докладе о боевой деятельности 10-й танковой дивизии на фронте борьбы с германским фашизмом за период с 22.6 по 1.8.41 г.» говорилось: «По своему техническому состоянию танки Т-28 имели запас хода в среднем до 75 часов. В большинстве своём они требовали замены двигателей и по своему техническому состоянию не могли быть использованы в длительной операции. К 22.6 имелся 51 танк Т-28, из них выведено по тревоге 44 машины. Практически полное отсутствие запчастей сразу пагубно сказалось в период военных действий. Машины зачастую выходили из строя по малейшим техническим неисправностям. За время боёв ремонтными средствами дивизии было сделано 4 средних и 38 текущих ремонтов Т-28».
Потери Т-28 10 тд с 22 июня по 1 августа 1941 года:
оставлено в месте расквартирования в г. Злочев из-за технических неисправностей и впоследствии захвачено противником — 7;
разбито и сгорело на поле боя — 4;
вышло из строя при выполнении боевой задачи и оставлено на территории, занятой противником, — 4;
осталось с экипажами в окружении противника из-за технической неисправности или отсутствия горюче-смазочных материалов — 6;
осталось из-за отсутствия горюче-смазочных материалов и невозможности их подать, так как район расположения машин захвачен противником — 4;
пропало без вести вместе с экипажами — 3;
уничтожено на сборных пунктах аварийных машин в связи с невозможностью эвакуировать при отходе — 6;
оставлено при отходе части по техническим неисправностям и невозможности восстановить и эвакуировать — 15;
застряло на препятствиях с невозможностью извлечь и эвакуировать — 2;
всего — 51 машина.