在图谋收复燕云的同时，宋太祖还在考虑另一个关乎大宋国运的问题，那就是“迁都”。
大宋建国之初，承袭后周旧制，将都城定在了河南开封。从经济和交通上看，开封简直完美:它地处华北平原的南端，是中原的腹心，南面有江、淮两大水系通过汴水与之相连，漕运极其发达，南方的粮食和财富可以源源不断地运抵京城。
经过历代经营，到宋朝时，开封已经是全国的政治和经济中心了。
然而，从军事防御的角度来看，开封却有着一个致命缺陷，那就是“四战之地”:它身处大平原，周边无险可守，唯一的天然屏障就是北面的黄河。
在燕云十六州被辽国掌控的情况下，一旦北方铁骑突破黄河防线，开封城就将完全裸露在敌军的屠刀之下。
在宋太祖看来，迁都长安是上策，迁都洛阳是中策，留在开封则是最无奈的下策。他计划分两步走，先西迁至洛阳，然后再迁往长安。
洛阳地处伊洛盆地，控扼东西南北交通要冲，形势险要。而长安位于关中平原的中央，南有秦岭，北有渭水，是传统的天然壁垒。
然而，宋太祖的迁都构想，遭到了满朝文武的一致反对。
大家的理由也很现实：唐朝以后，经济重心已经南移，长安和洛阳历经战火，城池凋敝，漕运艰难。如果迁都，将要花费巨额钱币修缮宫室、完善防务，百姓和军队的吃饭问题也难以解决。
宋太祖的弟弟赵光义，站出来带头反对迁都，并提出，江山稳固，在德不在险。意思是说，国家的安危在于君王修德，而不在于山川险阻。
因此，宋太祖被迫放弃了迁都的打算，依旧定都开封。这一举措，此后演化为大宋的百年顽疾。
