1944 年日军攻占长沙后，立即南下，20多万大军就像奔腾的洪水，沿着湘江两岸，向着衡阳滚滚而来。日军计划一举击溃衡阳守军，然后沿湘桂线西进， 攻入西南腹地。
衡阳地处湘南，粤汉线和平汉线从城内穿过，向南直达广东，转个弯向西，就进入了西南大后方。衡阳既是交通重镇，又是西南大后方的前哨阵地，战略地位非常重要。
奉命守卫衡阳的第10军，是一支抗日的英雄部队，尤其擅长防守，被称为泰山军。第三次长沙会战时在长沙与日军两个精锐师团血战几个昼夜，最终迫使日军败退而去，现任军长方先觉当时就任守卫城南主阵地预10师师长。
方先觉率领第10军于1942年6月1日进入衡阳，受到衡阳市民的热烈欢迎，衡阳市长赵君迈组织民众积极协助第10军修筑工事，并提供第10军所需要的各种材料，其中光木料就达120余万根。
进入衡阳后，方先觉立即率领部下全面勘察衡阳地形，确定防御部署。
衡阳东西宽约1500米，南北长约2600米，防区面积3.9平方公里，城墙以内的城区只有0.8平方公里。东有湘江，北有蒸水，西面是沼泽和水田，南面是丘陵，湘桂铁路从南面丘陵边缘切过。
城西地势比较平坦，方便展开兵力，适合日军机械化部队进攻。城南是丘陵地带，进攻难度大。当时大部分人都认为日军会选择城西作为主攻方向，但方先觉力排众议，把主阵地放在城南。
城南的丘陵地带虽然不适合进攻，但却是衡阳的核心所在。日军即使占领了衡阳城区，驻守在城南丘陵里的守军随时可以出击日军，所以日军要占领衡阳，就必须占领城南。
日军发动“一号作战”的目的是打通大陆交通线，最终目的是进入广西，这就必须控制湘桂线，所以日军必须控制湘桂线所经过的城南丘陵地带。
虽然现在都知道日军发动“一号作战”的目的，但当时并没有明确的信息显示日军的意图，中国对日军意图也没有形成统一意见，其中第9战区司令薛岳就认为日军会沿粤汉线南下广东，而把大量的部队布置在粤汉线经过的湘江以东。
方先觉在当时信息有限的情况下，清晰的判断出日军的意图，充分显示了他不只是一个普通的守城军官，还是个具有战略眼光的将领。
第10军下属3个师，分别是第3师、预备10师、第190师，共约1.7万余人。其中190师专门负责训练新兵，只有570团比较完整，其它两个团只有干部没有士兵。期间另有新19师和暂编54师归方先觉指挥，但真正留下来的只有暂编54师一个营。
第3师战斗力最强，预10师战斗虽然不及第3师，但也能挑重担、独当一面，方先觉就曾任该师师长。
当时很多人都认为，守卫城南主阵地的是第3师。但方先觉别出心裁，把预10师摆在第一线，守卫城南主阵地，而第3师则放在第二线。
这样做一则充分显示了方先觉抵抗到底的决心。二则方先觉看出日军对衡阳志在必得，外围守军不一定能在10天后就能成功解围，衡阳保卫战将是个长期的过程，把第3师放在二线，就为日后长期抵抗提供了绵绵后劲。
方先觉对主阵地的判断和兵力主次布置，是后来衡阳坚守47天的两大重要条件。
凡是把自己的部队放在重要位置的军官，都是能打硬仗的，而战斗结果大都朝着预期的方向发展。平型关战斗时，林彪就把自己长期的手下杨得志放在日军前进方向，直接面对日军的进攻。
第10军各师接到任务后，立即开始构筑工事。衡阳是军事重地，已经修筑了大量的钢筋混凝土工事。但这些工事按3个军设计，以第10军的兵力远不够分配，方先觉经过勘察后，主动放弃一些外围工事，缩小防御面，并将放弃的工事彻底破坏，以防被敌利用。
第10军久经战阵，尤其擅长防守，构筑工事更是得心应手。
城西沼泽和水田全部放满水，放眼望去，一片汪洋，不管是日军步兵还是战车，都无法通过。沼泽之间有高地的地方，修筑了明碉暗堡，内部配备足够的火力封锁日军前进的道路。
城南的丘陵地带，沿着依次展开的丘陵，构筑了多道防线。
每个山丘面对日军进攻的正面，全部削成断崖，在断崖顶部挖出战壕，里面储存大量手榴弹。在后来的战争中，当日军冲到断崖前时，由于无法攀登，全部拥挤在断崖底部，守军从崖顶投出密集的手榴弹将他们全部炸死或炸伤。
无法削成断崖的山丘前则挖出5米宽、5米深的壕沟，日军冲过来时，全部掉进壕沟里。壕沟里修有地堡，配备了兵力携带轻机枪，以彻底清缴掉入壕沟的日军。这些壕沟后来被称为“方先觉壕”，现在还留有很多处。
丘陵侧面都修筑或明或暗的碉堡，形成严密的交叉火力，以控制丘陵之间的凹地。后来日军攻打一个编号为“58”的山丘时，就被侧面一挺机枪射杀了上百人，由于构筑巧妙，日军一直无法找出其准确位置，而一旦日军进攻，就吼叫不停。
碉堡之间的火力配合相当完美，侧射、斜射、直射火力可以任意发挥，每一个碉堡前都能形成猛烈的交叉火力。
城东、城北依托湘江、蒸水设防，构筑少量碉堡，监视水面。在上游位置储备大量石油，一旦日军渡河，就向河中注入，然后点燃，火烧日军。
第10军的炮兵不多，但进入衡阳后，炮兵就对周围的丘陵、山地、村落、路口等日军必经的路线、兵力可能集结的地方进行了详细测量，一旦步兵需要，就直接开炮，轰击日军。
战斗中，部队之间的通信联络非常重要，尤其是上、下级之间。方先觉下令将电话线尽量埋在地下，以避免被日军飞机或大炮炸毁。战场上的通信兵经常出入各地抢修电话线，为避免地形生疏而导致抢修不及时，方先觉要求通信部队组织白天、黑夜线路抢修演习，以熟悉环境，便于战时抢修。
当时中美空军虽然还没完全掌握制空权，但与日本空军不相上下，能直接支援步兵作战，并空投粮食、弹药。方先觉除了按地、空联络规定准备白天需要的白布板外，还准备了100多个饭碗，内置桐油，一旦夜间需要联络，即点燃碗内桐油，与空军联络。
方先觉估计衡阳的战斗不止预计的10天，在城内储藏了大量的弹药、粮食、被服、药品，并分散隐藏在地下，以免被炸毁，这些物资后来发挥了重大作用。
方先觉的布防计划在日军到达前就全部完成。密密麻麻的电话线从各个指挥部伸出，一直延伸到前沿阵地；无数支机枪、步枪藏在城郊东、南、西、北的碉堡内，指向日军进攻方向；丘陵断崖的顶部已经囤积了大量的手榴弹；城内炮兵已经全部进入阵地。
方先觉巧妙利用地形，精心构筑，将衡阳打造成一个坚固、完备的防御体系。后来的战争中，日军碰得头破血流，原计划的一举突破变成整整的47天，中间多次因伤亡惨重而停止进攻，等待后援。
