1905年，日俄戰(zhàn)爭(zhēng)結(jié)束，馬占山率領(lǐng)同伙接受懷德縣衙的收編，成為地方游擊隊(duì)，負(fù)責(zé)維持地方社會(huì)秩序。馬占山任哨官，駐守懷德縣城。

1908年，游擊隊(duì)被提督張勛劃歸清政府直屬的正規(guī)部隊(duì)，移駐昌圖，在追擊陶克陶胡和白音大賚的過(guò)程中嶄露頭角。

二、投靠奉軍

1911年，馬占山投靠清軍奉天后路巡防營(yíng)統(tǒng)領(lǐng)吳俊升，任該部四營(yíng)中哨哨長(zhǎng)。

1913年，吳俊升部改編為民國(guó)中央騎兵第二旅，馬占山被任為三團(tuán)三連少校連長(zhǎng)。

1916年，日本帝國(guó)主義支持下的蒙古巴布扎布由海拉爾南下，企圖在東北建立滿蒙帝國(guó)，馬占山隨吳俊升受張作霖命令派兵鎮(zhèn)壓有功，晉升為營(yíng)長(zhǎng)。兩年后，隨督軍吳俊升到黑龍江赴任，擢升為團(tuán)長(zhǎng)，駐防海倫。

1925年，提升為東北陸軍騎兵第十七師第五旅旅長(zhǎng)，第二次直奉戰(zhàn)爭(zhēng)爆發(fā)，奉命駐守河南新鄉(xiāng)。戰(zhàn)爭(zhēng)結(jié)束后，回防東北。11月，爆發(fā)郭松齡倒戈事件，馬占山在新民縣白旗堡擊敗郭軍，并活捉郭松齡夫婦。因?qū)鲬?zhàn)有功，于次年提升為騎兵十七師師長(zhǎng)，不久被提升為騎兵第二軍軍長(zhǎng)。

1930年，張學(xué)良宣布東北易幟后，被派往黑河，擔(dān)任警備司令，統(tǒng)轄沿江10余縣防務(wù)。

三、江橋抗日

1931年“九·一八”事變，馬占山在齊齊哈爾就任黑龍江省政府代理主席兼軍事總指揮，率領(lǐng)愛(ài)國(guó)官兵奮起抵抗日本侵略軍。他當(dāng)眾宣布：“倘有侵犯我疆土，及擾亂我治安者，不惜以全力除之，以屬我保衛(wèi)地方之責(zé)”。