Хосе де Сан-Мартин родился в небольшом аргентинском городке Япею в современной провинции Корриентес в семье состоятельных землевладельцев. Отец — дон Хуан де Сан-Мартин был главой департамента Япею. Когда его сыну Хосе исполнилось шесть лет, семья Сан-Мартинов покинула Аргентину, которая была одной из многих испанских колоний в Америке, и переехала в Испанию.

Поселившись в испанской столице Мадриде, родители определили Хосе в престижную Семинарию благородных юношей, которая давала своим воспитанникам самые разносторонние знания. Однако Хосе де Сан-Мартин не закончил семинарию: в свои неполные 12 лет он избрал для себя военную карьеру. В 1789 году, несмотря на протесты родителей, Хосе завербовался в испанскую королевскую армию и отправился в свой первый поход — в Африку — воевать против свободолюбивых мавров. Он участвовал в бою под Мелильей на севере Африки, а в 1791 году отличился при обороне Оранской крепости на территории современного Алжира.

После войны с североафриканскими маврами Сан-Мартин участвовал в войне против французов. В 1793 году Испанское королевство вступило в военную коалицию против республиканской Франции, и на Пиренеях начались военные действия. Юный Хосе де Сан-Мартин сражался в войсках генерала Рикардсона и не раз проявлял храбрость и героизм. Боевые заслуги 15-летнего смельчака были замечены армейским командованием, и он вскоре получил чин младшего лейтенанта. После боев при Пор-Ванде и Кольюре последовала новая награда — чин лейтенанта.

Испания проиграла войну Французской республике и в 1796 году заключила с ней мир. После этого Мадрид начал новую войну, на сей раз против владычицы морей Англии, которая не раз пыталась завоевать часть испанских колоний, прежде всего на американском континенте. 17-летний армейский лейтенант стал флотским офицером. Он вновь отличается в боях теперь уже с новым противником и не на суше, а на море — сперва в сражении при Сан-Висенте в 1797 году, затем в августе 1798 года в ожесточённой схватке на борту испанского фрегата «Святая Доротея», который англичане брали на абордаж.

В юности Сан-Мартин познакомился с французскими республиканцами, которые смело бросили вызов всей монархической Европе. Революционные идеи увлекли молодого офицера испанской королевской армии и в скором времени стали смыслом всей его жизни.

В 1800 году 22-летний Хосе де Сан-Мартин принимал участие в своей четвёртой войне, на сей раз против Португалии, и отличился в бою под Оливенсой. Через два года он воевал у Гибралтара и на севере современного Марокко, в городе Сеуте, который и в следующем веке остался испанской колонией. После этого Сан-Мартин служил в гарнизоне приморского города Кадиса в пехотном полку волонтёров.

В 26 лет Хосе де Сан-Мартин выглядел закалённым на войне офицером, познавшим её тяготы и радость побед. Он не раз проявлял личное мужество и научился водить за собой в атаку солдат. Военное искусство он познавал не в теории, а на практике. Увлечение французскими революционными идеями сделало своё дело.

Когда на Пиренейский полуостров вторглась армия Наполеона, испанская знать вместе с королём Карлом IV бросили страну на произвол судьбы. Королевская чета покинула Мадрид, а Совет Кастилии склонил голову перед завоевателями. Однако именно в Испании наполеоновская армия впервые столкнулась с восставшим народом (второй раз — в 1812 году, когда Великая армия Наполеона вторглась в Россию).

Народное восстание охватило большую часть Испании. Хосе де Сан-Мартин стал командиром одного из партизанских отрядов на юге страны. В 1808 году он участвовал в ожесточённых боях против французских войск. За взятие вражеской позиции на высотах под Архонильей был произведён в капитаны Бурбонского полка. Затем его отряд выиграл бой под Альбуэрой и участвовал в сражении при Байлене.

За отвагу, проявленную в Байленском сражении 19 июля 1808 года, Сан-Мартин был произведён в подполковники. В той битве наполеоновский генерал Дюпон потерпел полное поражение от своего противника генерала Кастаньоса, который имел под своим началом 15 тысяч человек. Французские потери составили свыше 2 тысяч человек. Оставшиеся в живых из 20-тысячного корпуса вместе со своим командиром генералом Дюпоном сдались в плен.

В 1811 году Хосе де Сан-Мартин узнал о Майской революции в Аргентине, на своей родине, которую он помнил смутно. В Испанию стали приходить известия о революционных событиях в Ла-Плате. Освободительное движение охватило все испанские колонии в Латинской Америке.

Сан-Мартин выехал из Испании в Англию, чтобы оттуда отправиться на родину. К тому времени он был уже знаком с членами тайной патриотической организации «Общество Лаутаро» (названо так по имени одного из вождей индейцев-аракуанов, возглавившего в середине XVI века восстание против испанского господства), основанной в Лондоне венесуэльцем Франсиско де Мирандо. Теперь бывший подполковник испанской королевской армии Хосе де Сан-Мартин решил «обнажать свою шпагу только против врагов свободной Южной Америки».

В Аргентине его встретили с распростёртыми объятиями. Через неделю он получил чин полковника и стал формировать эскадрон конной гвардии. В скором времени эскадрон вырос в полк конных гренадеров республиканской армии, которая только начинала создаваться.

Сан-Мартин лично обучал его бойцов и офицеров военному мастерству и воспитывал их в духе свободолюбия и патриотизма, разжигая ненависть к врагам-испанцам. В полку по его инициативе был создан так называемый трибунал надзора. Он состоял из полковых офицеров и вершил суд, руководствуясь кодексом мужества и чести.

3 февраля 1813 года полковник Сан-Мартин одержал свою первую победу на земле Ла-Платы. Во главе эскадрона численностью в 125 человек он разбил при монастыре Сан-Лоренсо моряков испанской военной флотилии, действовавшей на реках Парана и Уругвай. Эта победа укрепила веру местных жителей в республиканскую армию, облегчила связи Ла-Платы с провинцией Парагвай и снабжение патриотических войск Хосе Ронде, осаждавших город Монтевидео.