张作霖及其同伙被收编后，极力表现效忠朝廷。他带队东挡西杀，奋勇打仗，披星戴月，艰苦倍尝。受到地方官的夸奖。1902年9月2日在广宁高平镇辽西区，巨匪海沙子被张作霖马队包围，激战中海沙子被乱枪打死，其匪徒一哄而散。这以后他又协助其它清军剿灭惯匪李凤山，以及辽阳海城、彰武一带的张海乐，陈殿文和李二皇上等十几股胡匪。取得清廷的信任，成了地方统治者的得力鹰犬。
随即，张作霖的保险队被改编成“新民府地方巡营前营马队”，共编为伍哨：中哨哨官张景惠、前哨哨官张作相、左哨哨官汤玉麟、右哨哨官王利友、后哨哨官孙福山。最初张作霖任该营帮带，大小哥们都捞到一个官位，皆大欢喜。
1904年，张作霖升任为游击中营管带，张景惠为帮带。管带是清末新军制中统辖一营的最高长官。从那时起，张作霖有了每月130两银子的月俸，还有办公银。张作霖成了清军正规的管带，这是他政治生涯中的关键一步。他从此开始了官场上的角逐。
这时的张作霖头戴五品亮白顶蓝翎，身穿天青宁绸军制服，周身沿黑色缎边，袖盘黑缎盘卡，腰佩洋式军刀，足蹬薄底快靴，显得威风凛凛，气度不凡。
张作霖及同伙被收编后匪性不改，仍然四处掳掠。曾有人向奉天府控告，“张作霖率同伙三四百人跑到广宁县属高平屯，以攻打土匪为名，放纵士兵焚烧民居、抢劫财物，把从各村抢来的财物装了十几大车拉回驻地。”广宁县要求省里给予张作霖处分。
奉天将军增祺闻讯震怒，要另派亲信接替张作霖的职务。由于张作霖在新民府士绅中结交广泛，他马上动员这些人替他求情，一些豪绅便怂恿廖彭替张作霖辩护。
1902年10月，廖彭向增祺禀称，“张作霖投靠朝廷已经快一年了，肯定没有再回去做土匪的可能。他是忠心耿耿效忠朝廷的。如果另外派人接替张作霖，恐怕他底下人不服，万一要是有什么事处理不当，反而对地方稳定不利。”
增祺一听有道理，加上他夫人在一旁替张作霖说好话，也就乐得少操一份心。他只是要求廖彭对张作霖严加管控，抢劫的事不了了之。
当时，新民府巡警局局长兼练字军第一步兵营管带王奉廷，是新民府拥有兵权的实力派人物。张作霖极力讨好知府增韫，然后怂恿增韫驱逐王奉廷。结果张作霖垂手得来王奉廷250名正规军。这样张作霖在1905年就把新民府的军事大权牢牢地抓在手中。
张作霖对危及自己地位的人从不手软。当地有个土匪叫侯老疙瘩，也想投靠官府混个一官半职。他手下有40多人，都配有俄式快枪。张作霖对此垂涎三尺。侯老疙瘩先派个中间人告诉新民府增韫，约定好投诚日期。
到了这一天，增韫升堂，张作霖忙说侯老疙瘩野性难驯，主动要求站堂以防万一。增韫点头同意。侯老疙瘩领手下人进了大堂，他们见堂上戒备森严，以为官军要强行缴械，就在知府升堂时拔出了枪。张作霖早就吩咐手下对侯老疙瘩格杀勿论，看侯老疙瘩一拔枪，趁势一阵乱枪把他当场击毙，手下人也被撂倒不少。
增韫不知底细，把张作霖大大夸奖一番。增韫决定，侯老疙瘩的手下全归张作霖收编。张作霖垂涎已久的俄罗斯快枪也成了他的囊中之物。之后，增韫又拨了些银两，给张作霖买了些新式武器，以示奖励。
张作霖羽翼渐丰，在追求权力的道路上一路狂奔。下一步，他的枪口就对准了两次救了他性命的洪辅臣！
