那时的中国是一片混乱,东北地区尤甚。清朝政府腐败透顶,中国大好河山任人瓜分。沙俄强行割去中国领土100多万平方公里,仍觊觎中国东北的广袤土地;中国甲午战争失败,日本魔爪伸入中国东北。官吏横征暴敛,百姓不堪忍受。亡命之徒便铤而走险,啸聚山林,土匪蜂起,打家劫舍,百姓生活更加痛苦了。
张作霖小时候就常跟他的父亲出入赌场,受到熏陶,也爱赌博。开始时,他靠卖烧饼赚点钱,可是很快就输光了。他的母亲让他改学木匠,他嫌拉锯太累,不爱干。他曾一度流浪街头,沿街乞讨。后来流浪到营口高坎镇,他在大车店给人家打杂。有时骡马病了,他就弄点草药给治,还真的就治好了。他很聪明,一来二去,就成了兽医,这个行当他还比较喜欢。后来,他开了一个兽医桩,以此为生 。以后,他命运多舛,被人冤枉,遭受痛打,差点送命。经好心人帮助,得以不死。他似乎降到了人生的最低点,走投无路,死又不甘,求生无门。恰在此时,中日甲午战争爆发,他便抱着一线求生的希望,从军了。他投到宋庆毅军马玉昆的门下,当了一名骑兵。那年,他20岁。他喜好马匹,“以精骑击,得名擢哨长” 。
关于张作霖从军的这段生活,张学良在口述历史中有所叙述:
(王家那件事后)我父亲没办法,就逃走了,逃到了毅军。那时候毅军是宋庆的部队,当他的部下。
我父亲年轻时候,也很会挑很会打的,人家挑他当护兵。那时候叫“戈什”,我想可能是满洲话。后来我父亲的那些卫士还有叫“戈什”的……我父亲给宋庆当卫士,因为这个缘故,那个宋庆对我父亲很好,很不错。后来过了几年,我父亲就升官了,是外委,这个官就是现在的准尉……升官了,就要荣耀回家,我父亲就回到我们乡下来了……刚到家里,乡下旁的人就给我父亲送信,说王家的人看见你回来了,上乡政府报告去了,要抓你。没办法,我父亲又跑……他认识一个兽医,治马的。他就跑到那儿避难去了,帮着人家,当一个下手,所以我父亲会当兽医。
就打这儿起,他反而起来了。
那时候的草莽英雄,凡是有马的人,大多数都是有问题的。还有一种叫贩马的,就是偷人家马来卖,都差不多,都经过这个兽医,都在这个地方转手。所以兽医呀,跟这些人最容易接触。因此,我父亲自然就认识一批草莽英雄。后来他们这些人,有些就成了我父亲的朋友。
这是说,张作霖在宋庆的毅军当上了一名卫士。后来逐渐升迁为准尉那么大的官,也即是哨长,相当于排长。
甲午战败,他逃回了辽西。1895年,他21岁时同赵家庙地主赵占元的二女儿赵春桂结婚。赵春桂是张作霖的原配夫人,是张首芳、张学良、张学铭的生母。张作霖是个不甘寂寞的人。他不想像他的同乡那样过着衣食无着、平淡无味的生活,他想换个活法。