虽然国民党军在宿北和鲁南的进攻受到挫折和打击，但始终没有放弃与山东和华中野战军决战的企图。在鲁南战役尚未结束的时候，国民党军趁陈毅、粟裕部无暇南顾，大举向共产党兵力薄弱的苏北地区进攻，至一月二十六日，国民党军占领了苏北解放区的大部，并将战线推进到陇海路一线。
国民党军认为，以损失二十多万兵力的代价，占领物产丰富的苏皖地区，并将陈毅、粟裕部全部挤进山东境内，完全可以视为"战略上的胜利"。山东和华中野战军在连续作战后必定伤亡巨大，所以在占领陇海路两侧的军事要点时，国民党军并没有遭到剧烈的抵抗。于是，参谋总长陈诚断言："国军部队虽略受损失，但就全盘战局而言，实属莫大之成功。"
此时，由于陈毅、粟裕部主力全部集结在山东解放区首府临沂附近，国民党军因此判断，"共军大势已去"，很难再实施回旋作战，只剩下死守临沂这一条路了。蒋介石严令要一鼓作气，迅速在山东境内与共产党军队决战，不但要占领临沂，还要完全占领山东解放区，以彻底平定山东战事。为此，国民党军决心发动一次以夺取临沂为目标的"鲁南会战"。为了会战成功，陈诚亲自前往徐州坐镇督战，宣称："这次会战关系重大，党国前途，剿匪成败，全赖于此。只许成功，不许失败。"
