В конце 1706 года, после возвращения из Астрахани, где он руководил подавлением стрелецкого восстания, Шереметев вновь оказался в действующей армии. К этому времени он был пожалован графским титулом. Это было незадолго до вторжения шведских войск в Россию, и теперь фельдмаршал вновь оказался на главном направлении. Под его непосредственным руководством сейчас было 57, 5 тысячи человек – главные силы русской армии. Ей противостояло 25-тысячное войско во главе с самим Карлом XII.
В августе 1707 года шведское войско покинуло Саксонию и вторглось в пределы России. Несмотря на то что шведский король мечтал о генеральном сражении, Петр I не дал Карлу XII такой возможности и начал отступление с целью постепенного изматывания войск противника.
В начале марта 1708 года в местечке Бешенковичи состоялся военный совет, который обсудил план предстоящей войны с Карлом XII. Предложенный Меншиковым план кампании, Борис Петрович подверг критике. В свою очередь, он предложил иной план. Суть его сводилась к тому, чтобы отходить с боями, разрушать коммуникации противника, изнурять его силы, а потом дать шведам решительное сражение на своей территории.
Шереметев разделял идеи Меншикова об оборонительной стратегии, но резко выступал против разделения русской армии, как того требовал план Меншикова, поскольку считал, что в подобном случае войскам невозможно будет поддержать друг друга в случае опасности. Споры переросли в конфликт между главнокомандующим и командующим кавалерией. Шереметев был даже готов отказаться от своего поста, если из армии не будет отставлен Меншиков. И все же на военном совете победило мнение царского фаворита. Петр, в целом разделяя взгляды Шереметева, оставил Меншикова на прежней должности.
14 июня Карл XII перешел Березину южнее Борисова. Этого Меншиков, сосредоточивший свою кавалерию у самого городка, никак не ожидал. После поражения в Головчинском сражении русские войска отошли к Днепру.
Вскоре в армию прибыл Петр I. Новая ситуация заставила его внести коррективы в планы кампании. Царь узнал, что на соединение с войсками Карла XII из Риги движется корпус Левенгаупта, сопровождающий огромный обоз с продовольствием и боеприпасами. Военный совет решил выделить из главной армии особый корпус (корволант) во главе с самим Петром I и направить его против Левенгаупта. Шереметеву же с остальным войском предписывалось продолжать отступление.
28 сентября корпус Левенгаупта был разгромлен у деревни Лесной. После разгрома корпуса Левенгаупта Карл XII повернул свои войска на Украину, куда звал его гетман Мазепа.
Зимой 1709 года Петр отозвал Меншикова в Воронеж, а Шереметеву приказал сформировать отряд для действий в тылу противника. Этот отряд должен был одновременно быть и достаточно подвижным и сильным, чтобы его молниеносные действия наносили урон войску шведского короля. Петр I ждал от своего фельдмаршала громких побед. Шереметев, однако, не оправдал его надежд. Военные действия продолжались, впереди была Полтавская битва, ставшая переломным моментом в ходе Северной войны.
4 июня 1709 года под Полтаву прибыл Петр I, взявший на себя руководство боевыми действиями. Перед сражением царь, оставив себе общее руководство, назначил Шереметева главнокомандующим. Решающее сражение (27 июня 1709 года) было скоротечным и закончилось полной победой русских войск. За Полтаву фельдмаршал Шереметев был пожалован деревней Царская Грязь.
Сразу же после небольшого отдыха Шереметев был отправлен в Прибалтику. Его главной задачей стало овладение Ригой. Осада города началась в начале октября 1709 года. В ноябре в осадный корпус приехал с инспекцией Петр I, лично сделавший по городу три выстрела. Царь скоро отбыл в Петербург, приказав корпусу продолжать осаду. В следующем году Шереметеву пришлось не только осаждать город, но и бороться с мором, охватившим как войска, так и жителей города. Рига капитулировала 4 июля 1710 года.
Но еще до сдачи Петр I известил Шереметева о его будущем новом назначении. Назревала война с Турцией, которая готовилась оказать поддержку ставленнику Карла XII Станиславу Лещинскому, претендующему на польский престол.
В ноябре 1710 года султан объявил войну России. Русские войска выступили в поход, но Шереметев покинул Ригу лишь 11 февраля 1711 года, обеспечивая оставленные там войска продовольствием и всем необходимым.
Борис Петрович был назначен главнокомандующим, хотя фактически первым лицом в армии оставался Петр I. Войска для похода не были собраны, но царь торопил события. Шереметев пытался возражать, доказывая, что войска устали после непрестанных походов 1709—1710 годов, не имеют ни продовольствия, ни подвод и ощущают недостаток в боеприпасах. Петр не желал ничего слушать и заставлял главнокомандующего двигаться быстрее. Однако лишь 30 мая армия Шереметева перешла Днестр, а к июню подошла к Пруту.