Тотчас по заключении мира с турками началась война со шведами в союзе с польским и датским королями. Петр в этой войне вовсе не искал ни военной славы, ни распространения своих владений. Он считал эту войну необходимою, во-первых, для того, чтоб добиться Балтийского моря, от которого оттолкнули русских немцы, поляки и шведы, и потом он видел в этой европейской войне хорошую школу для русского войска. Он знал, что новособранное русское войско, как бы его ни учили во время мира, не померившись с другим европейским искусным войском, не получит искусства военного, не выйдут из него свои хорошие офицеры и генералы, все будет нужда в иностранцах. Петр заранее знал, что школа будет тяжелая, что сначала будут неудачи, что русскому неопытному войску с первого раза не осилить шведского войска, знаменитого тогда своим искусством и давно привыкшего к победам. Петр знал, что постоянная удача балует, портит человека и самый народ, а неудача учит и укрепляет силы. Начало войны было неудачно: молодой шведский король Карл XII не испугался тройного союза против себя, начал действовать с необыкновенною силою и быстротою; сначала напал на Данию и принудил ее к миру; потом переправился на восточный берег Балтийского моря. Русское войско в это время осаждало Нарву; Карл XII внезапно напал на него и страшно поразил; русские потеряли много людей, все пушки. Но e них оставался царь Петр, которого никакая беда сломить не могла. Петр не потерял духа и сейчас же воспользовался тем, что Карл XII пошел в Польшу против тамошнего короля Августа II. Как после первого неудачного Азовского похода, так и теперь закипела изумительная деятельность. Через год уже были готовы новые пушки взамен тех, которые потеряли под Нарвою. В этом деле много помогал Петру старик Виниус, из давно поселившихся в Москве, обруселых иноземцев. Виниус замечателен тем, что указал на богатство Сибири относительно руд. «Такое множество нашел я здесь руд, — писал он царю из Сибири, — что, думаю, до конца мира не выкопать; особенно болит сердце, что иноземцы, продавши высокою ценою шведское железо и побрав русские деньги, за границу поехали, а наше сибирское железо гораздо лучше шведского». Петр очень любил таких людей, у которых болело сердце, что русские о своем не знают и покупают чужое дорогою ценою. Лили пушки; но прежде всего надобно было приготовить людей, искусных на войне; набрано было в школы 250 мальчиков, из которых должны были выйти инженеры, артиллеристы и всякие мастера.
В то время, когда спешили отливать пушки и заводить необходимые школы, русское войско под начальством Бориса Петровича Шереметева вступило в Лифляндию и уже стало с успехом проходить свою школу. В конце 1701 года Шереметев разбил шведского генерала Шлиппенбаха при селении Эрестфер. Эта победа сильно обрадовала, потому что была первою после нарвского поражения; Шереметев был сделан фельдмаршалом. Летом следующего года он одержал над тем же Шлиппенбахом другую победу при мызе Гуммельсгофе. Петр смотрел на ливонские походы как на школу для своих войск и как на средство ослабить неприятеля; утверждаться в Ливонии сначала он еще не думал; он хотел прежде всего утвердиться у Финского залива, где море всего ближе подходит к русским землям, где впала в море широкая река Нева, где Александр Невский победил шведов, но потом шведы отняли всю эту страну, овладели и русскою крепостью Орешком, которая находится при истоке Невы из Ладожского озера, так что вся Нева, вся прямая, кратчайшая дорога из русской земли в море, была в их руках. Петр сам взял этот Орешек жестоким приступом и писал к Виниусу: «Жесток был этот орех: однако, слава Богу, счастливо разгрызен». Взятый город был назван Ключом-городом (Шлиссельбург). Легко было догадаться, что хотел Петр отпереть этим ключом. В апреле 1703 года он добрался до устья Невы. 5 мая появились здесь два шведских корабля: Петр, посадив своих преображенцев и семеновцев на 30 лодок, окружил шведские корабли и взял их: это был первый успех на море. До моря дошли; но надобно было укрепиться на нем, и 16 мая 1703 года на одном из островов невского устья срубили деревянную крепость: то был Петербург. Добыли новый морской берег, надобно было строить новый флот, и в Лодейном поле начали строить морские суда; в глубокую осень, когда по Неве уже плавает лед, Петр около Котлина острова меряет глубину: здесь будут укрепления, здесь будет Кронштадт, оборона Петербургу, куда уже пришел первый иностранный купеческий корабль. Но Петр не покидает и старого, Азовского флота; из Петербурга спешит в Воронеж, смотреть, как там идет дело, как там строятся корабли. Весною 1704 года Петр уже опять на западе: здесь берет Дерпт, старый русский Юрьев, и пишет своим: «Сей славный отечественный град паки получен». Еще радостнее писал Петр о взятии крепкой Нарвы: «Где четыре года тому назад Господь оскорбил, тут ныне веселыми победителями учинил, ибо сию преславную крепость шпагою в три четверти часа получили».