21 июня 1941 г. «Айнзац-группа А» двинулась с немецкой армией на северный отрезок советского фронта. 25 июня Шталекер со своей группой был уже в Ковно, которое немецкие войска заняли днем раньше. «Айнзац-группы» сопровождали также первые отряды немецких войск, занявшие Либаву, Митаву, Ригу, Тарту (Дерпт) и Таллин (Ревель).
Немцы заняли Ковно 24 июня 1941 г. Военные операции совершались с молниеносной быстротой и лишь очень немногим евреям удалось своевременно эвакуироваться в глубь советской России. Пытавшиеся бежать были в большинстве застигнуты продвигающимися вперед отрядами немецкой армии. Многие евреи были задержаны членами литовских националистических дружин и тут же уничтожены. Небольшому числу беглецов удалось вернуться в Ковно. В руки гитлеровцев попало в Ковно около 35 тысяч евреев.
С 24-го на 25-е июня в предместье Вильямполь (Слободка) с большой жестокостью было истреблено около тысячи евреев. Десятки евреев были замучены на смерть на Битовском проспекте и в других местах. Во всех частях города было арестовано до 10 тысяч мужчин, женщин и детей. Арестованных свозили на седьмой форт старой ковенской крепости и в начале июля около семи тысяч евреев было там перебито; несколько тысяч женщин и детей перевели на 9-й форт, оттуда их позже освободили. Сотни арестованных евреев были потом убиты в тюрьмах.
8 июля Гестапо вызвало несколько еврейских общественных деятелей и объявило им, что все ковенские евреи должны в течение одного месяца, — с 15 июля по 15 августа, — переселиться в гетто, которое будет находиться в предместье Слободка. Через несколько дней этот приказ был развешен на всех улицах города. Для организации переселения в гетто евреям было предложено выбрать комитет, который впоследствии получил название «Совета старейшин еврейской общины в гетто». По просьбе членов совета, во главе его стал доктор Эльхонон Элькес. В ведении совета находились «гетто-полиция», отделы труда, хозяйства, продовольствия, квартирный, охраны здоровья и социального обеспечения, а короткое время также школьный отдел и суд. Летом 1943 г., когда гетто превратилось в концлагерь и перешло в ведение c.-с., наиболее важные функции Совета перешли к лагерному управлению и его начальнику Оберштурмбанфюреру Геке. Д-р Элькес, получивший титул «Обер-Юде» выполнял функции связи между населением гетто и комендантом лагеря. В состав Совета старейшин входили адвокаты Л. Гарфункель и Я. Гольдберг, раввин Снег, раввин Шмуклер, Г. Левин и др.
В приказе о переселении в гетто было также указано, что евреи должны носить желтые нашивки, что им воспрещается появляться на улицах с 8 ч. веч. до б час. утра и что конфискуются все принадлежащие евреям радиоаппараты.
17 июля 1941 г. Комиссаром города был назначен фюрер бригады С. А. Ганс Крамер, а референтом по еврейским делам фюрер штурмовиков С. А. Иордан. Для связи между магистратом и еврейским населением был назначен литовец Каминскас.
Городской комиссар тотчас же по вступлении в должность издал приказ, по которому евреям запрещалось ходить по тротуарам, а только по мостовой, пользоваться публичными средствами передвижения, иметь телефон, держать христианскую прислугу, покупать продукты на базарах, передавать или продавать христианам свое имущество. Нарушение этих предписаний каралось смертью. Население гетто первоначально составляло 29.760 душ. В течение двух с половиной месяцев здесь проводились «ликвидационные акции», которые стоили жизнь тринадцати тысячам евреев. 28 октября состоялась «большая акция»: в этот день было отобрано свыше девяти тысяч мужчин, женщин и детей, которые были убиты на девятом форту. После этой «большой акции» в гетто оставалось 17 тысяч душ.
В ноябре-декабре 1941 года в Ковно привезли около 30 тысяч иностранных евреев, — главным образом из Франкфурта, Берлина, Бреславля и других мест. Всех их убили на 9 форту.
В начале 1942 г. из Корейского гетто были депортированы в Ригу около пятисот человек на принудительные работы, а в конце октября 1942 были вновь высланы в Ригу 300 человек. 26 октября 1943 три тысячи человек отправлены были на работы в эстонские концлагеря Клогу, Вайвери и другие.
После депортаций в Эстонию гетто превращено в «концентрационный лагерь Кауэн». Оно было тогда изъято из юрисдикции ковенского городского комиссара и С. А.-дружин и перешло в руки С. С. К концу 1943 г. началось массовое выселение из гетто в рабочие лагеря, на аэродром в ковенском предместье Алексот, в предместье Шанцы, в Кейданы, на железнодорожную станцию Палемона по близости Ковно, в Кошедары. 27 и 28 марта 1944 г. в гетто и в лагерях проведена была новая «акция», жертвами которой были дети моложе 12-ти лет, мужчины и женщины — старше 55-ти и инвалиды. Погибло около двух тысяч душ.