Главным достижением его посольства, продолжавшегося чуть более года, было подписание договора о торговле и мореплавании, который устанавливал принцип наибольшего благоприятствования в экономических отношениях. Подписанный Бьюкененом и Нессельроде 18 декабря 1832 г. трактат объявлял торговлю и мореплавание во владениях обеих сторон свободными и основанными на взаимности. Жителям России и США разрешалось торговать везде, где позволялась иностранная торговля. Им гарантировались свободное ведение дел, безопасность и покровительство властей страны пребывания. Договор действовал до 1911 г.
Бьюкенен попросил отозвать его из Петербурга, ссылаясь на суровость русского климата. Но, по всей видимости, причина состояла в том, что он не желал долго оставаться на отшибе политической жизни своей страны. Действительно, по возвращении на родину он выдвинул свою кандидатуру в Сенат США, выиграл выборы и затем переизбирался еще два раза. Он явно стремился к высшим постам и даже отклонил предложение президента Ван Бюрена о назначении его генеральным прокурором.
Бьюкенену не раз приходилось высказываться по вопросу о рабовладении. Во всех этих случаях он ссылался на принципы «джексоновской демократии», то есть невмешательства в права штатов. Однажды он заявил, что права южных штатов столь же неоспоримы, как и право подачи петиций, предусмотренное Конституцией. Точно так же, соглашаясь на неоспоримое право северных штатов развиваться на основе вольнонаемного труда, Бьюкенен критиковал аболиционистов, считая, что они погрязли в «излишней и недопустимой страсти». Сенатор пользовался авторитетом прежде всего в южных штатах, однако и на севере его считали относительно умеренным и, главное, выступавшим за единство страны во что бы то ни стало. Его кандидатура в президенты обсуждалась на съезде демократов 1844 г., однако номинирован был Д. Полк.
Вспомнив, вероятно, миссию Бьюкенена в Петербург и в целом его авторитет, Полк предложил ему стать государственным секретарем. Рассматривая этот пост как важнейший шаг на пути к высшей власти, Бьюкенен принял предложение и руководил американской внешней политикой на протяжении всего президентства Полка — до 1849 г. Правда, руководство международными делами сосредоточивалось в Белом доме, и Бьюкенен в основном исправно выполнял указания президента, связанные прежде всего с территориальным расширением США. В отдельных случаях он, однако, позволял себе высказывать несогласие с мнением высшего исполнительного лица, в частности предложив в ходе войны против Мексики аннексировать бóльшую территорию, чем было первоначально намечено. Это вызвало недовольство президента, который увидел в действиях госсекретаря лишь намерение добиваться высшего поста. Действительно, имея в виду намерение Полка оставаться президентом только один срок, Бьюкенен всерьез полагал, что его шансы на номинацию велики. Однако съезд Демократической партии 1848 г. предпочел сенатора Луиса Касса, который на выборах потерпел поражение, уступив Белый дом Закари Тейлору.
Уйдя в отставку, Бьюкенен вернулся к частной жизни. На накопленные средства он купил дом с садовым участком на окраине Ланкастера, принимал высокопоставленных визитеров, внимательно следил за развитием политической обстановки и готовился к новым боям. Он закрепил свое общественное положение, возглавив наблюдательный совет колледжа Франклина и Маршалла в этом городе и занимал эту должность почти до конца жизни, включая президентские годы. В 1852 г. его опять выдвигали в президенты от Демократической партии, и вновь он не прошел номинацию, причем отказался от предложения Ф. Пирса стать его партнером на выборах в качестве кандидата в вице-президенты.
Поскольку к власти вновь пришла его партия, Джеймс согласился возобновить дипломатическую деятельность, приняв пост посла в Лондоне. Скорее всего, это было признанием, что в Белый дом попасть так и не удастся, и Джеймс решил, что представительство в наиболее мощной стране Европы и «царице морей» будет достойным завершением политической карьеры. Ему пошел уже седьмой десяток лет, что в те времена считалось старостью.