Музей создан из трёх крупнейших военно-исторических музеев на основе Артиллерийского музея.
А начало музею в новой столице России положил своим указом Петр I. Он повелел всем воеводам «мортиры и пушки медные, железные, и всякие воинские сенжаки (знаки) осмотреть и расписки прислать». Было приказано доставлять на хранение «для памяти на вечную славу отечественные и трофейные орудия, – “достопамятные” и “курьозные”, – представляющие историческую значимость для потомков».
Один из крупнейших в наше время военных музеев мира берёт свое начало с цейхгауза (так в Петровскую эпоху назывался арсенал) Петропавловской крепости.
Сооружение нового вспомогательного земляного укрепления – кронверка началось вскоре после постройки земляной крепости на Заячьем острове. Отделённый от крепости водным протоком, кронверк был воздвигнут в виде многоугольника со рвами перед ним. Соединившиеся рвы превратились в Кронверкскую протоку и завершили формирование территории Кронверка как острова.
Постройка нового каменного здания Кронверка началась в 1850 году. Напоминающее в плане подкову здание Кронверка возведено в стилизованных формах средневекового крепостного зодчества. Стены сложены из известняковой плиты и облицованы кирпичом. В декоративном оформлении помещений использованы готические мотивы.
После окончания строительства этого здания в 1860 году оно использовалось как артиллерийский арсенал.
С 1869 года в восточной его части были размещены старинные русские и трофейные артиллерийские орудия, знамена, штандарты и другие предметы, ранее хранившиеся в здании Старого арсенала. В 1872 году это собрание реликвий боевой славы русской армии получило наименование Артиллерийского музея.
Два деревянных мостика через Кронверкский пролив – Западный и Восточный – существовали с начала XIX века.
В конце XIX века Западный Артиллерийский мост был разобран и исчез с карты, а Восточный со временем просто пришел в ветхость.
В результате создания в 70-х годах XX века широкой транспортной магистрали вдоль набережной Кронверкского пролива и благоустройства прилегающей к Кронверку территории мосты были восстановлены в новой конструкции, соответствующей облику близлежащих ансамблей. Мосты однотипные: однопролётные, железобетонные балочные, с декоративными фасадными арками, облицованными гранитом. Гранитный пирс на Кронверкской набережной, сооруженный в середине XIX века на берегу Кронверкского пролива, сохранился в первоначальном виде.
Среди уникальных экспонатов острова есть и памятный обелиск, который не относится к экспонатам музея. Он был установлен в 1978 году около Восточного Артиллерийского моста, на валу у Кронверкского рва, на предполагаемом месте казни декабристов.
Коллекция Военно-исторического музея артиллерии, инженерных войск и войск связи состоит из более чем пятисот тысяч экспонатов. Это образцы оружия (от древнеславянских мечей и пищалей до современного оружия), военной техники и военной формы, воинских знамён, орденов, боевых реликвий российской армии. Экспозиция размещается в 13 залах на площади более 15 тыс. кв. м.
Среди экспонатов военная форма разных эпох и родов войск, воинские знамена, ордена, произведения батальной живописи, боевые реликвии российской армии.
В музее представлена крупнейшая в мире коллекция стрелкового и холодного оружия – от железных устюженских пищалей и древнеславянских мечей до автомата Калашникова и многое другое.
В числе раритетов музея: парадная литавренная колесница для перевозки артиллерийского знамени, пушечки потешных полков Петра I, военные награды императоров России, подарки полкам российской армии, художественно оформленные из хрусталя и серебра, в том числе и фирмы Фаберже, личное оружие Александра I, Николая II, атамана Платова, Наполеона Бонапарта, маршала Мюрата, русских и советских полководцев и военачальников, руководителей страны.
Фонды музея содержат коллекции 27 полковых музеев армии Российской империи.
В музее есть зал русской ракетной техники – начиная от техники XVIII века и до ракет дальнего наведения и первых ядерных ракет. Экспозиция, посвященная М.И. Кутузову, состоит из принадлежавших ему вещей и располагается в реконструированной комнате, где он провёл свои последние дни. На третьем этаже музея находятся экспозиции, посвящённые Великой Отечественной войне.
Особо тяжелые орудия и ракеты, крупногабаритная техника демонстрируются на открытой площадке большого двора музея. На открытых площадках во внутреннем дворе Кронверка располагаются 250 единиц артиллерийского и ракетного вооружения, инженерной техники и техники связи. Здесь представлены как отечественные, так и иностранные орудия – от древних до самых современных, предназначенных для стрельбы ядерными боеприпасами.