抗戰(zhàn)全面爆發(fā)后，根據(jù)國共兩黨關(guān)于編組新四軍的協(xié)議，原活動在閩北、閩東等地的紅軍游擊隊，改編為新四軍三支隊。張云逸兼任支隊司令員，譚震林任副司令員，下轄第五、第六團，全支隊共2100余人，擔任策應(yīng)第一、第二支隊挺進蘇南，保衛(wèi)新四軍軍部領(lǐng)導(dǎo)機關(guān)及后方單位等任務(wù)。
1938年6月，日軍為了控制長江航運線，以策應(yīng)對武漢的進攻，命令駐蕪湖的日偽軍加強攻勢。日偽軍沿青弋江不斷南犯，駐守在該地的國民黨軍節(jié)節(jié)敗退。應(yīng)國民黨第三戰(zhàn)區(qū)之邀，新四軍三支隊開赴皖南前線，接替國民黨軍一四四師在紅楊樹鎮(zhèn)、青弋江、峨橋一帶的防務(wù)。
10月7日，第三支隊進入青弋江西岸的西河鎮(zhèn)地區(qū)。西河鎮(zhèn)地處長江南岸，迫近日軍重兵據(jù)守的蕪湖和日軍在華中的指揮中心南京，本屬國民黨第三十二集團軍第一四四師和第一〇八師防守，兩個師的防線以紅楊樹鎮(zhèn)為界。新四軍第三支隊接防前，紅楊樹鎮(zhèn)已被日軍占領(lǐng)。
國民黨交給新四軍的任務(wù)是：在敵后側(cè)進行游擊戰(zhàn)爭，襲擊敵人，破壞敵人交通，以牽制敵人。但國民黨軍交給三支隊的“防區(qū)”卻是一片寬100公里、縱深不足50公里的狹長沿江地帶，駐守這一地區(qū)的國民黨一〇八師、一四四師名義上是和新四軍三支隊協(xié)同作戰(zhàn)，但其陣地完全“收縮”至三支隊“防區(qū)”的后方。
三支隊以大局為重，毅然挑起這一地區(qū)正面戰(zhàn)場的守備任務(wù)。鑒于紅楊樹鎮(zhèn)是防區(qū)前沿的一個要點，譚震林等研究后決定：采取靈活機動的游擊戰(zhàn)術(shù)，趁敵立足未穩(wěn)之際奪回該鎮(zhèn)。此后，化裝成農(nóng)民的新四軍頻繁出現(xiàn)在紅楊樹鎮(zhèn)，不僅很快摸清了敵情，還多次伏擊下鄉(xiāng)搶劫的小股日軍。十幾名作戰(zhàn)經(jīng)驗豐富的偵察員利用夜色掩護進入紅楊樹鎮(zhèn)，對日軍進行襲擊、騷擾，副司令員譚震林親率兩個連埋伏在鎮(zhèn)外指揮、策應(yīng)。幾天下來，搞得敵人身心俱疲，無奈之下只好放棄紅楊樹鎮(zhèn)，狼狽撤回灣沚鎮(zhèn)。
三支隊收復(fù)紅楊樹鎮(zhèn)，極大鼓舞了戰(zhàn)區(qū)各部隊的士氣和皖南人民的抗戰(zhàn)熱情。為防止敵人反撲，三支隊一面迅速構(gòu)筑工事，做好阻擊日軍進犯的戰(zhàn)斗準備，一面通過集思廣益，迅速制定出一套行之有效的“運動防御”戰(zhàn)術(shù)。
10月底，駐灣沚的日軍糾集500多人，向三支隊的防區(qū)南陵東北馬家園等地發(fā)起進攻。三支隊以六團三營位于馬家園、夫子決、十甲村一線，擔任正面防御任務(wù)；第五團團部率領(lǐng)第二營駐扎于西河鎮(zhèn)，為指揮中心；五團三營位于跑馬山，擔任側(cè)擊和警戒；五團一營和第一團第二營位于蒲橋、青弋江一線，為預(yù)備隊，隨時準備迎擊來犯之敵。
10月30日，日軍分三路向紅楊樹鎮(zhèn)、清水潭一線發(fā)起進攻。清晨6時許，日軍進至清水潭一帶，遭到六團三營頑強阻擊。戰(zhàn)斗中敵人發(fā)現(xiàn)：新四軍的子彈往往從意想不到的地方飛來；可以用于隱蔽的地方，全被人挖開了豁口，讓他們“成了活靶子”；沖鋒時每前進一步都有掉進陷阱喪命的危險……鑒于此，敵人只好依仗炮火優(yōu)勢，向新四軍陣地猛轟。但三支隊事先已將工事挖掘成全部一線平行配置，沒有縱深，同時在工事下方挖掘了藏身坑道，讓敵人的炮火優(yōu)勢無法發(fā)揮。在阻擊1小時、斃傷日軍100余人后，三營主動轉(zhuǎn)移，途中與進攻紅花鋪的另一股日軍相遇，“順便”斃傷敵人十余人。
11月3日，不甘心失敗的日軍增兵400余人，分四路向三支隊防地撲來。三支隊戰(zhàn)士們沉著射擊，打退敵人進攻，殲敵數(shù)十人。敵人久攻不下，呼叫汽艇前來支援，企圖從河上向新四軍陣地掃射投彈。但汽艇上的敵人發(fā)現(xiàn)河道中有障礙物堵住，根本無法靠近戰(zhàn)場。經(jīng)兩小時激戰(zhàn)，第三支隊主動轉(zhuǎn)移，將敵人誘致馬家園、十甲村后，突然向敵人發(fā)起猛烈反擊。當日晚，第三支隊派出小分隊，突襲灣沚、九里山等日偽軍據(jù)點。日軍被打得焦頭爛額、疲于奔命，不得不于4日上午全部撤回原駐地。此次戰(zhàn)斗歷時6天，是第三支隊進入皖南前線進行的第一次大規(guī)模戰(zhàn)斗。在戰(zhàn)斗中，三支隊將游擊戰(zhàn)和陣地戰(zhàn)有效結(jié)合在一起，共斃傷日偽軍300余人，收復(fù)一批被敵人占領(lǐng)的村鎮(zhèn)。此后，直到新四軍三支隊奉命撤出該地區(qū)，日軍始終不敢再次進犯。
