1947年7月间，华东野战军外线部队连续出击鲁南和津浦路以西地区，一方面给予敌人造成很大的伤亡，另一方面也打乱了敌人的军事部队，实现了拉扯调动敌人，寻找有利战机的作战目的。当时，国民党方面在鲁中地区部署了四个整编师，在各自的驻地内采取守势。其中，驻守在南麻（今沂源）的由胡琏率领的整编第11师位置比较孤立，因此华东野战军决定对胡琏整编第11师实施围攻，由此南麻战役拉开了大幕。
华东野战军负责实施南麻战役的共计有四个纵队，分别是韦国清率领的第二纵队，王必成率领的第六纵队，成钧率领的第六纵队，以及许世友率领的第九纵队。单单从兵力对比来看，华东野战军以四个纵队对阵胡琏整编第11师，兵力人数处于优势。不过，胡琏整编第11师作战能力不算弱，而且事先就在南麻地区布置了防御工事，将城内和城外连成一个完整的防御体系，凭借这些坚固工事拼命抵抗。
从1947年7月17日夜间，华东野战军发起进攻，到7月21日晚，华东野战军主动撤出战斗，南麻战役一共进行了四天左右。经过一番连续而艰苦的激烈战斗，华东野战军并没有实现作战目的，一口吃掉胡琏整编第11师。关于华东野战军四个纵队为什么没能够一口吃掉胡琏整编第11师，原因是多方面的，除了客观的大雨滂沱的天气原因之外，一方面华东野战军此前连续作战，部队未加休整，战斗力有所下降；另一方面敌人依托坚固工事负隅顽抗，生存欲望很强。
还有一点原因很重要，那就是经过四天的战斗，华东野战军已没有充裕的时间来吃掉胡琏整编第11师。当时，国民党方面调集周边部队对胡琏整编第11师实施救援，即将赶到战场，如果华东野战军不尽快撤出战斗，那么必然会导致自己身处险境。所以说，从时间上讲，已经不允许华东野战军继续对胡琏整编第11师实施围攻。南麻战役之后，华东野战军总结经验教育，当时担任副司令员的粟裕就分析道明了此次作战未能实现目的的三个原因。那么，粟副司令员分析的三个原因是什么呢？
一是，我们把对整个战场形势的乐观，与南麻战役实际情况混淆起来。在南麻战役中，华东野战军各部队对当面情况估计不足，过分乐观，就产生了轻敌骄傲情绪，总想来个“空前的胜利”。因为什么？通过此前一系列作战，我们取得了较大的战果，我们的胃口吃的也越来越大了，歼敌几千人的捷报已无人要看，就像吸雪茄再吸黄烟那样无味。其实这时我们已经分兵了，我们过低地估计了敌人，造成了某些错误。
二是，有人反映，胡琏整编第11师比张灵甫整编第74师强，其实不然。在南麻战役中，主要是敌人构筑工事多，在一个村子上就有三四百个地堡，南麻周围就有一两千个地堡。这些坚固的防御工事，当然能使敌人可以守一下，另外再加上我们对攻坚战术——打地堡缺乏足够的经验，因而拖长了作战时间。如果我们再有三天时间，也还是可以打下的。可是，我们打援的部队不大得力，甚至在敌我相等的兵力下还堵不住敌人。这里得出一个经验：打据点必须有充分的物质准备和充分的时间，同时必须有充分的打援兵力，而这次我们在主观上是注意得不够的。
三是，不可否认，这次有很多客观的原因对我们作战是有妨碍的。在南麻战役中，连日来的大雨滂沱，我们有不少部队被山洪所阻，不能按照计划及时渡河作战，延误了相当长的时间，也就延误了作战任务。再加上此前连番作战，我们的部队连续夜晚行军，白天露宿，过分疲劳，有的部队整整二十天衣服和被子都是湿漉漉的，连武器弹药也弄潮了，这些自然增加了我们在作战方面的困难。