Старинный шотландский род, к которому принадлежал Барклай-де-Толли, известен еще с XI в. Его предки в 1621 г. переселились в Росток, а отец, Вейнгорд-Готхард, поступил на русскую военную службу и, выслужив чин поручика, получил русское дворянство. Будущий полководец семилетним был записан в Новотроицкий кирасирский полк гефрейт-капралом. По малолетству в полку отсутствовал и, как было принято в то время, обучался дома, считаясь в отпуске. Действительную военную службу начал в 1776 г. вахмистром в Псковском карабинерном полку, а через два года был произведен в корнеты. Способности молодого человека были замечены генералом Паткулем, который взял его к себе в адъютанты. В 1788 г. был назначен адъютантом к принцу Ангальт-Беренбургскому и в чине поручика принял участие в штурме Очакова; был награжден золотым крестом с надписью «Очаков взят 6 декабря 1788 года». В следующем году участвовал в разгроме турок под Каушанамп, во взятии Аккермана и Бендер. В польскую кампанию, командуя батальоном, особенно отличился при взятии штурмом Вильно и за это в чине премьер-майора 16 сентября 1794 г. был награжден орденом св. Георгия 4-й степени. Произведенный в подполковники, был назначен командиром батальона в Эстляндском егерском корпусе. С воцарением Павла I батальон был переименован в полк, а Михаил Богданович, ставший полковником, назначен шефом этого полка, за отличное состояние которого в 1799 г. получил чин генерал-майора.
Военный талант Барклая-де-Толли полностью раскрылся в эпоху наполеоновских войн. В 1805 г. он участвовал в сражении при Аустерлице, а в кампанию 1806 г. в бою под Пултуском 14 декабря командовал правым флангом, выдержавшим стремительную атаку войск маршала Ланна, за что в январе следующего года получил орден св. Георгия 3-й степени. 24 января, командуя арьергардом при отступлении русской армии к Ландсбергу и Прейсиш-Эйлау, он дал возможность генералу Беннигсену сосредоточиться на позиции у этого города, выдерживая у Гофа напор почти всей армии Наполеона. В самом сражении был ранен в правую руку и уехал на лечение, получив кроме других наград и чин генерал-лейтенанта.
В русско-шведской войне 1808 1809 гг. Барклай-де-Толли командовал сначала отдельным отрядом, по разногласия с генералом Буксгевденом вынудили его покинуть армию и уехать из Финляндии. В 1809 г. он был вновь направлен на театр военных действий, где вместе с П. И. Багратионом руководил знаменитым Ледовым походом по льду Ботнического залива. После изнурительного 12-часового похода русские войска достигли шведского берега и, дождавшись артиллерии, овладели шведским городом Умео (Куопео). Пройдя за двое суток около ста верст через льды, в мороз и по глубокому снегу, Барклай-де-Толли опрокинул неприятеля при первой встрече и покорил целую область, после чего был заключен мир со Швецией. Произведенный в генералы от инфантерии, он был назначен генерал-губернатором Финляндии и главнокомандующим финляндской армией, получив еще и орден св. Александра Невского.
20 января 1810 г. Барклай-де-Толли занял пост военного министра; при его участии было составлено «Учреждение для управления большой действующей армией». Являясь также членом Государственного совета, подал в марте императору Александру I «Записку о защищении западных пределов России», в которой изложил план военных действий против наполеоновской армии в случае ее вторжения в Россию. План был одобрен, и согласно ему начались работы по подготовке театра военных действий в Прибалтике, Белоруссии и на Украине. Оставаясь на посту военного министра до сентября 1812 г., провел военные реформы, существенно увеличив численность армии.