1946年，國民黨挑起內(nèi)戰(zhàn)后，其徐州綏署主任薛岳指揮25個半旅和1個快速縱隊分4路向蘇北和魯南解放區(qū)進攻，從北、西、南三面形成半包圍狀態(tài)。中共中央軍委指示，合并解放軍山東、華中兩個野戰(zhàn)軍指揮部，陳毅為司令員兼政委。10月上旬，薛岳派馬勵武率國民黨整編第26師和第1快速縱隊戰(zhàn)車營，自山東韓莊向嶧縣以西的解放軍發(fā)起攻擊，并占領棗莊。11月初，馬勵武率部進逼山東解放區(qū)的首府———魯南重鎮(zhèn)臨沂。馬勵武雖有孤軍突出之感，但自恃手中有第一快速縱隊的坦克開路，天上有飛機掩護，仍然保持進攻態(tài)勢，只是暫時就地筑工事防守，伺機繼續(xù)向臨沂方向進攻。

陳毅(坦克上中)等在繳獲的坦克前和戰(zhàn)士合影。

對于進攻之敵，中共中央軍委指示：第一仗擬以打26師為宜。因該師系魯南主力，該師被殲，全局好轉。陳毅等在權衡了敵我力量和利害后，隨即主持召集了師以上干部會議，傳達了中共中央軍委關于魯南戰(zhàn)役的指示，進行了具體的作戰(zhàn)部署。

戰(zhàn)役于1947年1月2日夜10時發(fā)起，由于行動突然，敵人在事前未能發(fā)覺，因而進展順利。到4日晨，國民黨第26師師部及兩個旅的大部已被殲滅，其殘部和第1快速縱隊也被包圍于陳家橋、作字溝等狹小地區(qū)。

第1快速縱隊為美蔣合建，由美軍裝備訓練、蔣介石的兒子蔣緯國苦心經(jīng)營的“國軍精華”，擁有坦克數(shù)十輛和汽車數(shù)百輛，而當時解放軍華東部隊中的絕大多數(shù)干部戰(zhàn)士不僅沒有打過坦克，而且也沒有看見過坦克。在宿北戰(zhàn)役之前的臺嶧線作戰(zhàn)中陳毅便發(fā)現(xiàn)和敵人坦克交手的部隊打坦克的辦法少，有恐懼心理。戰(zhàn)后，他親自調查總結打坦克的經(jīng)驗，提出“反坦克最有效是破路，鋸大樹作障礙并利用爆炸。我手榴彈、地雷爆炸力小，山炮、迫擊炮命中率不大，機關槍能穿甲者效力最好”。并掀起了反坦克與土工作業(yè)的熱潮。

1月4日上午，天氣由陰轉雨，雨雪交加，寒風刺骨，道路泥濘，敵人的重裝備幾乎陷于癱瘓狀態(tài)，解放軍立即對“快縱”發(fā)起攻擊。為了挽救失敗，敵人在徐州派了飛機給予地面部隊以支援，不過他所規(guī)定的空投聯(lián)絡信號和標志被陳毅指揮部的報話機收聽到了，也照樣布置了空投場，使敵人的很多物資被投送到了解放軍手上。

“快縱”見空中和地面增援無望，于10時左右開始突圍。陳毅、粟裕立即命令各部隊乘機突擊，將其80旅大部殲滅。未被殲滅的敵坦克、汽車、炮隊和步兵混雜一起，向嶧縣方向奪路潰逃，但主要逃路和橋梁已被解放區(qū)軍民破壞，埋了雷、挖了溝，加上洼地泥濘，車輛、火炮陷下不能動彈。解放軍指戰(zhàn)員不顧坦克、大炮和各種火器的攔阻射擊，奮勇沖入敵陣，他們用秫秸、稻草燒坦克，甚至爬上坦克用鐵鍬、鐵鎬砸天線、砸折光鏡；幾個小時便把這支裝甲部隊殲滅。到下午3時，國民黨整編26師和第1快速縱隊幾乎被全部消滅，只有7輛坦克逃跑。

戰(zhàn)斗勝利結束后，陳毅立即趕赴現(xiàn)場察看。在一輛剛繳獲的美制坦克車前，陳毅縱身登上坦克，在高高的炮塔頂上坐下，一腳踏著炮身，和同行人員合影留念，并乘興賦詩一首：

快速縱隊走如飛，印緬歸來自鼓吹。魯南泥濘行不得，坦克都成廢鐵堆?？焖倏v隊今以矣，二十六師汝何為。徐州薛岳掩面哭，南京蔣賊應淚垂。

9日晚，陳毅乘勝指揮部隊向嶧縣縣城發(fā)起攻擊，激戰(zhàn)至11日拂曉，殲整編第51師第114旅一部、整編第52師第98團及整編第26師后方機關、保安團隊等共7000余人，俘獲整編第26師師長馬勵武，繳獲逃入嶧縣的7輛坦克。

此役歷時19天，陳毅等指揮山東野戰(zhàn)軍和華東野戰(zhàn)軍共殲國民黨軍5.3萬余人，繳獲坦克24輛、各種火炮200余門、汽車474輛，首創(chuàng)華東戰(zhàn)場人民解放軍一次殲滅國民黨軍2個整編師(加1個快速縱隊)的紀錄。