Джеймс-младший появился на свет в хижине в местечке Коув-Кэп, а вскоре после его рождения (он был первым из одиннадцати братьев и сестер) семья переселилась в окрестности городка Мерсерсберг, где приобрела более крупную ферму. Отец вел успешное хозяйство, выгодно продавал свою продукцию и вскоре стал одним из самых богатых людей в округе, занявшись также торговлей землей.
Джеймс-младший учился вначале в деревенской школе под пышным названием Академия Олд Стоун, а затем в течение двух лет (1807–1809) в колледже Дикинсон в находившемся неподалеку городе Карлайл. Преподаватели отмечали, что это был способный, но непослушный и недисциплинированный юноша, который даже за какой-то проступок был исключен. Правда, после покаяния он был восстановлен и завершил образование с отличием.
Сразу после получения удостоверения об окончании колледжа Джеймс отправился в Ланкастер — в то время столицу Пенсильвании, где поступил учеником к известному адвокату Джеймсу Гопкинсу. Три года, проведенные в адвокатской конторе, дали молодому человеку и основные прикладные знания в юридическом ремесле, и понимание жизненных условий разных слоев общества. В 1812 г. он, успешно сдав экзамен, был признан членом коллегии юристов. При этом Бьюкенен принял разумное решение: в то время как другие адвокаты один за другим отправились в новую столицу штата Харрисберг, он остался в Ланкастере и вскоре стал процветающим юристом, обычно выигрывавшим дела, для ведения которых его нанимали люди разного имущественного положения. Его практика росла, и в 1821 г. он заработал, например, 11 тыс. долларов (сумма, примерно равная 220 тыс. долларов в 2018 г.).
В 1818 г. Джеймс познакомился с Энн Коулмэн, дочерью местного торговца и владельца небольшого металлургического предприятия. Вскоре молодые люди объявили о предстоявшем браке. Однако внезапно отец Энн сообщил о разрыве помолвки, не объяснив причин. Скорее всего, это было связано со слухами о том, что Джеймс собирался жениться по меркантильным соображениям, в которые Коулмэн поверил. Объяснения Бьюкенена ни к чему не привели. В 1819 г. Энн скончалась от какой-то заразной болезни, в связи с чем Джеймс явно горевал, но ему запретили появляться на похоронах. Он так и остался холостяком. Впоследствии ходили всевозможные слухи по этому поводу, вплоть до того, что он был гомосексуалистом, однако никаких доказательств этого не приводилось. У него были друзья среди женщин, в той или иной степени интересовавшиеся политикой, но ни о каких сексуальных связях документы не упоминают.
Рост благосостояния вместе с опытом и авторитетом привел к тому, что Джеймс занялся политикой. Он присоединился к группе федералистов и при их поддержке был избран помощником прокурора в городе Либанон в Пенсильвании. На этом посту он отличился раскрытием нескольких преступных группировок, которые ранее власти не могли разоблачить, завоевал репутацию ответственного человека, достойно исполняющего обязанности. Результатом было избрание в Палату представителей штата в 1814 г., в которой Бьюкенен состоял, правда, всего два года, вернувшись затем к адвокатуре.
Перерыв в политической деятельности был связан, видимо, с тем, что у Джеймса были более амбициозные планы. Действительно, в 1821 г. он выдвинул свою кандидатуру в Конгресс США в качестве деятеля Партии федералистов, а затем избирался в Палату представителей еще несколько раз (до 1831 г.) как «республиканец-федералист», что было связано с постепенным упадком федералистской партии. В Конгрессе он стал приверженцем Эндрю Джексона и вслед за ним отстаивал права штатов, их приоритет перед федеральным правительством. Он участвовал в конструировании следовавшей за Джексоном Демократической партии. Связан он был в основном с деятелями юга и подвергал резкой критике деятелей Новой Англии как «опасных радикалов». Он был активен в комитетах Палаты представителей по сельскому хозяйству, а затем по правовым вопросам, председателем которого стал.
Прослужив в Конгрессе пять сроков, Бьюкенен возвратился было к частной жизни. Хотя у него не было никакого дипломатического опыта, он все же принял предложение президента Джексона отправиться послом в Российскую империю. В нескольких письмах на родину он писал, что его окружают доброжелательные люди, хотя и отмечал, что ему тяжело жить в стране, где отсутствует свобода печати и общественного мнения. Джеймс получил несколько аудиенций царя Николая I, на которого произвел положительное впечатление. Послу удалось сблизиться с министром иностранных дел графом К. В. Нессельроде.