Поселившись в столичном Мадриде, родители определили Хосе в престижную Семинарию благородных юношей, которая давала своим воспитанникам самые разносторонние знания. Однако Хосе де Сан-Мартин не закончил семинарию: в неполные 12 лет он избрал для себя военную карьеру. В 1789 году, несмотря на протесты родителей, Хосе завербовался в испанскую королевскую армию и отправился в свой первый поход — в Северную Африку — воевать против свободолюбивых мавров. Он участвовал в бою под Мелильей, а в 1791 году отличился при обороне Оранской крепости на территории современного Алжира.
После войны с североафриканскими маврами Сан-Мартин участвовал в войне против французов. В 1793 году Испанское королевство вступило в военную коалицию против республиканской Франции, и на Пиренеях начались военные действия. Юный Хосе де Сан-Мартин сражался в войсках генерала Рикардсона и не раз проявлял храбрость и героизм.
Боевые заслуги 15-летнего смельчака были замечены армейским командованием, и он вскоре получил чин младшего лейтенанта. После боев при Пор-Ванде и Кольюре последовала новая награда — чин лейтенанта.
Испания проиграла войну Французской республике и в 1796 году заключила с ней мир. После этого Мадрид начал новую войну, на сей раз против "владычицы морей" Англии, которая не раз пыталась завоевать часть испанских колоний, прежде всего на американском континенте.
17-летний лейтенант Хосе де Сан-Мартин становится флотским офицером. Он вновь отличается в боях теперь уже с новым противником и не на суше, а на море: сперва в сражении при Сан-Висенте в 1797 году, затем в августе 1798 года в ожесточенной схватке на борту испанского фрегата "Святая Доротея", который англичане брали на абордаж.
В юности Сан-Мартин познакомился с французскими республиканцами, которые смело бросили вызов всей монархической Европе. Революционные идеи увлекли молодого офицера испанской королевской армии и в скором времени стали смыслом всей его жизни.
В 1800 году 22-летний Хосе де Сан-Мартин выглядел закаленным на войне офицером, познавшим ее тяготы и радость побед. Он не раз проявлял личное мужество и научился водить за собой в атаку солдат. Военное искусство он познавал не в теории, а на практике. Увлечение французскими революционными идеями сделало свое дело.
Когда на Пиренейский полуостров вторглась армия Наполеона, испанская знать вместе с королем Карлом IV бросили страну на произвол судьбы. Королевская чета покинула Мадрид, а Совет Кастилии склонил голову перед завоевателями. Однако именно в Испании наполеоновская армия впервые столкнулась с восставшим народом (второй раз — в 1812 году, когда Великая армия императора Наполеона вторглась в Россию).
Народное восстание охватило большую часть Испании. Хосе де Сан-Мартин стал командиром одного из партизанских отрядов на юге страны. В 1808 году он участвовал в ожесточенных боях против французских войск. За взятие вражеской позиции на высотах под Архонильей был произведен в капитаны Бурбонского полка. Затем его отряд выиграл бой под Альбуэрой и участвовал в сражении при Байлене.
За отвагу и героизм, проявленные в Байленском сражении 19 июля 1808 года, Сан-Мартин производится в подполковники. В той битве наполеоновский генерал Дюпон потерпел полное поражение от своего противника генерала Кастаньоса, который имел под своим началом 15 тысяч человек. Французские потери составили более 2 тысяч человек. Оставшиеся в живых из 20-тысячного корпуса вместе со своим командиром генералом Дюпоном сдались в плен.
В 1811 году Хосе де Сан-Мартин узнал о Майской революции в Аргентине, на своей родине, которую он помнил смутно. В Испанию стали приходить известия о революционных событиях в Ла-Плате. Освободительное движение охватило все испанские колонии в Латинской Америке.
Сан-Мартин выехал из Испании в Англию, чтобы оттуда отправиться на родину. К тому времени он был уже знаком с членами тайной патриотической организации "Общество Лаутаро" (названо так по имени одного из вождей индейцев-арауканов, возглавлявшего в середине XVI века восстание против испанского господства). Общество было основано в Лондоне венесуэльцем Франсиско де Мирандо. Теперь бывший подполковник испанской королевской армии Хосе де Сан-Мартин решил "обнажать свою шпагу только против врагов свободной Южной Америки".
В Аргентине его встретили с распростертыми объятиями, благодаря известности в испаноязычном мире как одного из героев народной войны в Испании против Наполеона. Через неделю он получил чин полковника и стал формировать эскадрон конной гвардии. В скором времени эскадрон вырос в полк конных гренадеров республиканской армии, которая только начинала создаваться.
Сан-Мартин лично обучал своих бойцов и офицеров военному мастерству и воспитывал их в духе свободолюбия и патриотизма, разжигая ненависть к врагам-испанцам. В полку по его инициативе был создан так называемый трибунал надзора. Он состоял из полковых офицеров и вершил суд, руководствуясь кодексом мужества и чести.