24 июня 1897 года император Вильгельм II предложил Бюлову возглавить имперское ведомство иностранных дел. Приняв предложение, Бюлов попросил месяц для осмысления стоявших перед Германией внешнеполитических проблем, связанных с планами строительства военно-морского флота. Общий итог изучения мирового положения сводился к тому, что почетный мир с Великобританией может быть сохранен и при постройке флота.
Активно включившись в политическую борьбу, Бюлов сумел заручиться поддержкой программы строительства военно-морского флота со стороны большинства влиятельных государственных деятелей и лидеров буржуазных политических партий. Когда 6 декабря 1897 года началось обсуждение флотского законопроекта в рейхстаге. Новый статс-секретарь первым публично сформулировал экспансионистские устремления, находившие выражение в мировой политике, целью которой было обретение Германией статуса мировой державы, имеющей слово при решении всех важнейших международных вопросов.
При активном участии Бюлова как главы внешнеполитического ведомства Германии в 1898 году был принят закон о развитии флота; через два года флотская программа была удвоена. В 1897 году Германия высадила военно-морской десант в бухте Цзяочжоу (Киао-Чао), навязав вскоре Китаю договор о предоставлении ей в аренду этой бухты, о размещении в ней военно-морской базы и о протекторате над провинцией Шаньдунь.
В 1899 году германское правительство приобрело у ослабленной в войне с американцами Испании Каролинские и Марианские острова, а также острова Палау, существенно укрепив свои позиции в Океании. В эти же годы Германия развернула активное проникновение в Османскую империю и на Ближний Восток, получив у турецкого правительства концессию на постройку Багдадской железной дороги, и одним из ее руководителей и вдохновителей был статс-секретарь Бюлов.
17 октября 1900 года состоялась встреча Бюлова с императором, в ходе которой будущий канцлер изложил основы своей политики. «Мы должны, – сказал он, – найти путь между двумя маяками: энергичным покровительством сельскому хозяйству, с одной стороны, и торговыми договорами [с Россией, Австро-Венгрией, Италией, Румынией и Швейцарией], которые дали бы возможность нашей промышленности успешно развиваться, с другой стороны». Во внешней политике оба пришли к согласию «искать свой путь между Англией и Россией».
18 октября 1900 года Бюлов был назначен рейхсканцлером. По конституции, он, заняв высшую государственную должность Германской империи, одновременно возглавил прусское правительство, став его министром-президентом. Бюлову пришлось решать сложную проблему сохранения позиций Германии в Европе в условиях наращивания германских сухопутных сил и строительства мощного военно-морского флота. Серьезную опасность для сохранения мирных отношений с ведущими европейскими державами представляла непредсказуемость и амбициозность императора Вильгельма II, чьи выходки не раз ставили в тупик его министров и дипломатов.
Первым внешнеполитическом актом Бюлова на посту канцлера стало участие Германии в подавлении в 1900 году восстания ихэтуаней в Китае.
После подписания в апреле 1904 года англо-французского договора о Сердечном согласии (Антанте) Германия, пытаясь подорвать русско-французский союз, осенью 1904 года затеяла с Россией переговоры о возможном союзе. Вильгельму II даже удалось у себя на яхте заключить с Николаем II Бьеркский договор о дружбе (1905), но он был дезавуирован главами их дипломатических ведомств.
В 1906 году с появлением дредноута рухнули надежды Бюлова и адмирала Тирпица на создание противовеса английскому флоту. Создание нового типа корабля резко изменило соотношение сил на море и дало старт неудержимой гонке вооружений на море, во многом способствовавшей развязыванию Первой мировой войны.
Наконец, во время боснийского кризиса 1908–1909 годов, вызванного аннексией Боснии и Герцеговины Австро-Венгрией, Германия встала на сторону своего союзника по Тройственному союзу, окончательно определив свои приоритеты в Европе. Складывание двух блоков в Европе стало фактом.
В течение лета 1906 года внутриполитическое положение Германии значительно осложнилось.
Летом 1909 года Бюлов подал в отставку. 14 июля было опубликовано официальное сообщение об увольнении Бюлова с награждением бриллиантами к ордену Черного орла. На следующий день Вильгельм II распрощался с ним, назначив следующим канцлером Т. Бетман-Гольвега.
По словам самого Бюлова, он рекомендовал новому канцлеру всеми силами сохранять мир с Россией, крепить союз с Австро-Венгрией, но не ввязываться ради удовлетворения ее амбиций в конфликт с Россией, не ссориться с Англией, держать сухопутную армию, способную в любой момент противостоять французской, и помнить, что «время работает на нас».
Трудно сказать, как бы сумел реализовать такую программу сам Бюлов, но неискушенность Бетман-Гольвега в международных делах сыграла свою роль в том, что Германия ввязалась в роковую для нее войну с Россией, Англией и Францией.