1947年7月間，華東野戰軍外線部隊連續出擊魯南和津浦路以西地區，一方面給予敵人造成很大的傷亡，另一方面也打亂了敵人的軍事部隊，實現了拉扯調動敵人，尋找有利戰機的作戰目的。當時，國民黨方面在魯中地區部署了四個整編師，在各自的駐地內採取守勢。其中，駐守在南麻（今沂源）的由胡璉率領的整編第11師位置比較孤立，因此華東野戰軍決定對胡璉整編第11師實施圍攻，由此南麻戰役拉開了大幕。
華東野戰軍負責實施南麻戰役的共計有四個縱隊，分別是韋國清率領的第二縱隊，王必成率領的第六縱隊，成鈞率領的第六縱隊，以及許世友率領的第九縱隊。單單從兵力對比來看，華東野戰軍以四個縱隊對陣胡璉整編第11師，兵力人數處於優勢。不過，胡璉整編第11師作戰能力不算弱，而且事先就在南麻地區布置了防禦工事，將城內和城外連成一個完整的防禦體系，憑藉這些堅固工事拚命抵抗。
從1947年7月17日夜間，華東野戰軍發起進攻，到7月21日晚，華東野戰軍主動撤出戰鬥，南麻戰役一共進行了四天左右。經過一番連續而艱苦的激烈戰鬥，華東野戰軍並沒有實現作戰目的，一口吃掉胡璉整編第11師。關於華東野戰軍四個縱隊為什麼沒能夠一口吃掉胡璉整編第11師，原因是多方面的，除了客觀的大雨滂沱的天氣原因之外，一方面華東野戰軍此前連續作戰，部隊未加休整，戰鬥力有所下降；另一方面敵人依託堅固工事負隅頑抗，生存慾望很強。
還有一點原因很重要，那就是經過四天的戰鬥，華東野戰軍已沒有充裕的時間來吃掉胡璉整編第11師。當時，國民黨方面調集周邊部隊對胡璉整編第11師實施救援，即將趕到戰場，如果華東野戰軍不儘快撤出戰鬥，那麼必然會導致自己身處險境。所以說，從時間上講，已經不允許華東野戰軍繼續對胡璉整編第11師實施圍攻。南麻戰役之後，華東野戰軍總結經驗教育，當時擔任副司令員的粟裕就分析道明了此次作戰未能實現目的的三個原因。那麼，粟副司令員分析的三個原因是什麼呢？
一是，我們把對整個戰場形勢的樂觀，與南麻戰役實際情況混淆起來。在南麻戰役中，華東野戰軍各部隊對當面情況估計不足，過分樂觀，就產生了輕敵驕傲情緒，總想來個「空前的勝利」。因為什麼？通過此前一系列作戰，我們取得了較大的戰果，我們的胃口吃的也越來越大了，殲敵幾千人的捷報已無人要看，就像吸雪茄再吸黃煙那樣無味。其實這時我們已經分兵了，我們過低地估計了敵人，造成了某些錯誤。
二是，有人反映，胡璉整編第11師比張靈甫整編第74師強，其實不然。在南麻戰役中，主要是敵人構築工事多，在一個村子上就有三四百個地堡，南麻周圍就有一兩千個地堡。這些堅固的防禦工事，當然能使敵人可以守一下，另外再加上我們對攻堅戰術——打地堡缺乏足夠的經驗，因而拖長了作戰時間。如果我們再有三天時間，也還是可以打下的。可是，我們打援的部隊不大得力，甚至在敵我相等的兵力下還堵不住敵人。這裡得出一個經驗：打據點必須有充分的物質準備和充分的時間，同時必須有充分的打援兵力，而這次我們在主觀上是注意得不夠的。
三是，不可否認，這次有很多客觀的原因對我們作戰是有妨礙的。在南麻戰役中，連日來的大雨滂沱，我們有不少部隊被山洪所阻，不能按照計劃及時渡河作戰，延誤了相當長的時間，也就延誤了作戰任務。再加上此前連番作戰，我們的部隊連續夜晚行軍，白天露宿，過分疲勞，有的部隊整整二十天衣服和被子都是濕漉漉的，連武器彈藥也弄潮了，這些自然增加了我們在作戰方面的困難。