黎元洪写下一道命令，起用段祺瑞为国务总理，责成段举兵讨伐叛逆。另外，由天津发出通电，请冯国璋代行总统职权。
3日，张勋调换总统府卫队。乘卫队交替忙乱之机，黎元洪扮作普通职员离府，避入日本公使馆。
同日，段祺瑞在天津组织“讨逆军”总司令部，自任总司令，以徐树铮为讨逆军总参谋长，以段芝贵、曹锟分任东、西路总司令，吴佩孚为前敌总司令，于马厂誓师“讨逆”，通电复任国务总理，重新组阁。4日，段祺瑞以讨逆军总司令名义发出讨伐张勋的通电和“讨逆檄”。
6日，冯国璋通电宣布代理大总统职务。他在军署接见英国领事，说：“中国政体已走上了共和，不容许再有皇帝。我可以告诉你们，我跟段总理都是站在反对地位的。”
为“讨逆”，段祺瑞派人把冯玉祥请到家里。
当年，袁世凯当上了民国总统，立即着手扩充军队，陆建章出任左路备补军统领，借机召回冯玉祥，任命为营长，令他赴直隶景县和河南郾城一带招募、训练新兵。1913年，冯玉祥皈依基督教，常请牧师向官兵宣讲教义，作为治军的辅助手段。1914年，所部改编为第16混成旅，被任命为旅长，晋升陆军少将，加封焕威将军，授予一等嘉禾勋章，归北洋政府直接指挥，人称“布衣将军”，又称“基督将军”。
一见面，段祺瑞满面堆笑，说：“焕章，我们谈谈目前的问题。你的16混成旅吃了千辛万苦，真可以说是和民国共生死的。现在张大辫子又闹出这种事，16旅正好驻廊坊，非得你出一番力不可，我们现在给你一个委任……”
冯玉祥宽大的脸庞写满愤怒，魁伟的身材大义凛然，说：“加委的事倒不必。张勋危害共和，祸国殃民，我和他势不两立！”冯玉祥说完告辞。
冯玉祥回到廊坊，对旧部讲话，痛斥张勋复辟倒行逆施，号召官兵奋起讨伐，并发出通电申讨张勋。他一面与马厂的讨逆军取得联系，一面命部队在廊坊挖断铁路，构筑工事，准备进攻。
