1938年1月26日，日军第13师团向安徽凤阳、蚌埠进攻。
日军以为拿下蚌埠已是易如反掌之事，不料进至明光以南，即为李宗仁部署的李品仙的第11集团军和于学忠的第51军，利用淮河、淝河、汇河等地形堵截。
中日双方军队血战月余，不分胜负。
第5战区以第59军军长张自忠率部驰援，进至固镇地区，协同第51军在淮河北岸地区顽强抗击日军。
敌军在此停留，竟不能越雷池一步，这大出日军主将畑俊六所料。为此他十分恼怒。
于是，畑俊六遂自南京调集援兵及坦克、野战炮等重武器，倾巢来犯。
敌人汹汹而来，李宗仁感到硬拼、硬堵要吃亏。
于是，待敌援军聚集明光一带时，李宗仁命坐镇蚌埠的李品仙将31军于1月18日自明光全线西撤山区，伺机出击，将津浦路南端正面让开。
尔后，将于学忠的51军南调，布防淮河北岸，凭借险要地形，拒敌越河北进。
敌援军以饿狼扑食之势猛扑明光，结果扑了个空，没有捕捉到李品仙的主力。
接着日军攻下定远、怀远等地，但一无所获。
此时西撤的31军遵李宗仁指示，从敌军左侧向东出击，将津浦路之敌截成数段，围而歼之。
淮海前线之敌，后路忽被斩断，不知凶吉，费九牛二虎之力将31军从津浦线向西压。
李宗仁遂命部队采用敌进我退、敌退我进的战术，牢牢地盯住津浦线。
此时参加淞沪会战的第21集团军北调合肥，以其第48军固守炉桥地区，第7军协同第31军迂回攻击定远日军侧后，迫日军第13师团主力由淮河北岸回援。
第59、51军乘势反攻，至3月初恢复淮河以北全部阵地。
第21集团军和第31军旋由淮河南岸向北岸集中，淮河两岸日军首尾难顾，与中国军队胶着于津浦沿线，从而使日军对淮河流域的进攻宣告彻底破产。
徐州以南地区之战，日军损失达三四千人，中国军队取得了辉煌的战绩。
这次胜利，除了中国军队的浴血奋战之外，皖北人民对军队给予了极大的支持。
皖北人素称强悍，英勇善战，当地有句俗话说：“纸糊的江南，铁打的皖北”。
当日军侵入淮河流域之际，皖北人民就自动组织起来，协助中国军队阻击日军。在定远、明光等地，日军都遭到了当地民众武装的袭击，把日军搞得像热锅上的蚂蚁。
这些武装的民众潜伏在城镇中、村庄里、山林间，日军每到一村一镇都会遭到他们的打击。
当时的红枪会等武装组织约有3000多人在皖北到处袭击日军，搅得日军日夜不得安宁。
中国共产党领导的抗日武装在淮河流域的阻击战中也起了配合作用。
在南京沦陷前不久，中共驻南京代表团就派李世农到安徽，组建中共皖中工委，动员和组织皖中各县人民抗战。
1938年春，中共无为县委领导的游击武装就开始在淮南铁路两侧进行游击活动。
1938年初，中共中央从延安将张如屏、曹云露等派回寿县，成立中央安徽工作委员会，开展抗日游击活动。
1938年3月上旬，白崇禧奉命去徐州协助李宗仁作战之前，曾请周恩来、叶剑英商谈作战方针。
当时周恩来、叶剑英建议：津浦线南段应采取以运动战为主、游击战为辅的联合行动，使日军不敢贸然北上支援南下的日军。
而在徐州以北应采取阵地战与运动战相结合的方针，以达到穿插分割、各个击破的目的。
白崇禧对此建议非常赞赏，并在后来基本照此实行了。
中国共产党领导的新四军也积极配合淮河沿岸李宗仁的部队，阻击日军北犯。
张云逸所率新四军一部曾遵照中央军委指示，进入蚌埠、徐州、合肥三点之间作战。
周恩来曾指示新四军配合李品仙集团军，牵制由南京渡江北上的日军。
新四军积极配合淮河正面战场的国民党军开展游击战争，成为全民族抗战的一个重要组成部分，在抗战史上写下了光辉的一页。
这次淮河血战，虽然没有把北犯日军全部歼灭，却使日军付出了巨大的代价，并将日军迟滞于淮河一线，粉碎了日军预定的“南北夹击”的战略。
并迫使日军改取“南守北攻”战略，从北面取道山东，进攻滕县、峄县，造成孤军深入的局面，从而为中国军队在台儿庄歼灭日军造成了良好的战机。
李宗仁在指挥徐州以南阻击北进之敌的同时，又积极阻截华北日军南下。
按原定作战方案，徐州以北保卫战，由第5战区副司令长官兼第3集团军总司令韩复榘指挥，岂知驻扎山东的韩复榘，大敌当前，还为保存实力打小算盘。
1937年12月23日，日军一部攻陷归仁镇后，韩复榘未战而走，造成了严重后果。
27日，济南失守，日军由博山、莱芜进攻泰安。
1938年1月1日，泰安落入日军北方军第2军矶谷廉介之手。韩复榘连连丧池失地，致北段津浦路正面大门洞开，使日军得以沿线长驱直入，给徐州会战投下阴影。
李宗仁屡屡严电韩复榘夺回泰安，并以此为根据地阻截南下之敌。韩复榘对李宗仁的命令置若罔闻，一错再错。
韩复榘的不战自退，非但使我军失去了黄河天险，更将济南、泰安等地拱手让敌，其后果之恶劣，实难形容。他也因此成为在抗战中第一个被处决的高级将领。
日军骄狂无忌地南北乱窜，他们做梦也没想到，此时的中国军队，经过蒋介石杀韩复榘，以镇军威以后，中国军队上自战区司令长官下至普通士兵无不受到震动，士气大振。
为确保徐州地区的安全，李宗仁命孙桐萱部（原韩复榘的第3集团军），向运河以东推进，袭击济宁、汶上的日军据点，以牵制敌人主力。
孙桐萱部第22师于2月12日晚由大长沟渡过运河，14日晚有一小部攀登进入济宁城。
双方短兵相接，血战数日，终因敌我双方力量悬殊，入城部队伤亡极大，17日晚撤至运河西岸。
与此同时，第12军81师也直取汶上，于12日晚由开河镇渡运河，一部由城西北攻入汶上城内，与日军进行激烈巷战。
但终因人少势弱，损失严重，13日奉李宗仁之命撤向运河西岸。
19日，日军攻陷安居镇，22日突破曹福林第55军阵地。
25日，日军突破杏花村阵地，守军被迫撤至相里集、羊山集、巨野一线。
但李宗仁在这一线布置大量兵力，不断侧击北段南下之敌，使敌军在这一带徘徊不能南进，暂时稳定了战局。
日军津浦线主力南攻不成，遂改变策略，由少壮派军人板垣征四郎、矶谷廉介率2个师团企图会师台儿庄。
日军一旦在台儿庄得手，便可策应津浦路南端日军攻势，一举拿下徐州。
板垣、矶谷两师团，是日军精锐之师，此次进攻，来势相当凶猛，大有一举围歼中国军队之势。
日军以七八万兵力，在华北方面第二军司令官西尾寿造指挥下，分两路向台儿庄进发。
其一路为板垣第5师团，沿胶济路西进，进逼临沂；一路为矶谷的第10师团，该师团沿津浦路南下，直取台儿庄。
中国军队为堵截日军前进，在临沂、滕县同日军发生了激烈的战斗，揭开了台儿庄会战的序幕。
2月下旬，日军东路第5师团从山东潍县南下，连陷沂水、莒县、日照，直扑临沂。