徐蚌会战结束后，国民党军从长江北岸退守江南，西起湖北宜昌，东至江苏南通，长达数千里的宽阔长江，成为国民党军最重要的防线。从历史经验而言，长江并不是中国统一的真正障碍，但刚刚在三大战役中损兵折将、师老兵疲的国民党军，也只能利用“长江天险之利，拒止匪于长江以北，争取适当时间，重新整备新生战力，企图再举”。担任国民党军江防作战的计有155个师70万人，并得到海军江防、海防舰队和空军支持，其中由汤恩伯指挥75个师45万人，担任江西湖口以东的长江江西、安徽、江苏段的防务，白崇禧指挥40个师25万人，担任湖口以西的长江湖北、湖南段的防务。国民党军长江防线面临的最大问题是防线过长而部队太少，湖口以东平均每师的防守正面长至50公里，又不能控制有力的预备队，因此只能采取缺乏纵深的正面一线式布防，“各部队均直接配备，缺乏打击兵力，致使匪一旦渡江成功，国军江防全线即告溃决”。负责指挥江防作战的汤恩伯和白崇禧有不同的考虑重点。汤恩伯为蒋介石的亲信干将，在防守上最为关注上海，负有在情况不利时掩护上海撤运物资并将部队转运台湾的任务，因此随时准备自防地东撤，向上海收缩，依托海口，俾便进退自如；白崇禧为桂系统兵之将，与蒋系素有隔阂，除了力图保持部队的实力外，更为关注桂系的根据地——广西，因此随时准备南撤，以湘西山地掩护广西后方。双方考虑重点的不同，直接影响到国民党军的长江布防。汤恩伯以京沪杭三角地带为布防重点，以淞沪地区为防守核心，准备首先依靠长江防线阻挡中共部队渡江，然后在不利时将镇江以东的部队撤至淞沪，镇江以西的部队撤至浙赣路，再不利时即退守舟山与台湾。具体兵力部署是：淞沪地区3个军，镇江至上海4个军，南京正面4个军，南京以西至铜陵2个军，铜陵至湖口2个军，另在镇江附近集结2个军、皖南集结2个军作为机动部队，还有7个军部署在浙赣铁路及浙北、浙东。根据汤的部署，在江防一线部队19个军中，南京及其以东有13个军，而南京以西至湖口，虽然防线长度超过南京以东，但只有6个军，尤其是汤、白两部结合部的兵力部署更为单薄，几成空白。就当时国民党军的实力而言，确无在长江全线布防作战的能力，因“长江江防过于宽广，处处设防，绝难周全”，平均分配兵力将被各个击破，汤以南京以东为重点自有其道理；但就长江防御而言，汤的部署在南京以西留下了重大缺口，一旦中共大军突破，势将切断汤部与白部的东西联络，打乱其防御体系，并自皖南分进江西、浙江，造成迂回国民党军后路的有利局面。南京国防部认为，汤的部署偏重于南京以东以迄上海而忽视皖南，提出应调动部分兵力至南京以西，适当保持长江防线的兵力平衡。但汤恩伯既不准备守长江全线，所以也无意改变部署。3月18日，他到溪口向蒋介石报告长江防务计划，蒋表示“决心固守上海，甚以为然，但认皖南防御薄弱，惟有于战术上与方略上图谋补救之耳”。最后国防部决定自南京增调第20军和第96军至芜湖至安庆一线。4月20日，北平和谈最后破裂，国民党军参谋总长顾祝同电令各防区，“判断匪军有于本月二十日前后，利用夜间向我渡犯之企图”，“国军决固守长江，击灭任何地区渡犯之匪于水中”，“我江防各部队应速即自行调整部署，立刻集结兵力及各种轻重武器，直接配备于巩固匪军渡点之我岸（或沙州），加强戒备，并于其后方严密戒备监视，以便集中全力，适应战机，击灭渡河之匪”。