1947年，敌人的进攻屡次失败，只好放弃原来的全面进攻，转而进行所谓的重点进攻。重点进攻就是集中大批部队，进攻陕甘宁边区和山东解放区。在这个计划下，敌人集中了13个整编师，共计约25万人，兵分五路向山东地区发起了进攻。
面对这种情况，陈毅和粟裕经过考虑后，决定趁着敌人还没有完全展开，先一步截断津浦线上徐州到济南段的交通，以打乱敌人的部署。为了达到这个目的，华东野战军留下部分兵力，在临城门洞沂一线摆出一副要与敌人决战的姿态，1纵、3纵、10纵等主力则甩开南面的敌人，经过500多里的急行军，穿越沂蒙山，直抵泰安城下。
泰安虽然面积不大，但却是一座非常著名的历史名城。因为在泰山南面，历代帝王要在泰山举行大典，都会驾临泰安。泰安北依泰山，西南有蒿里山，东北面有
摩天岭，地势十分险要。泰安不仅地势险要，还有八尺多高的城墙和护城河。敌人还在护城河外面修筑了大量碉堡，使得泰安更加易守难攻。
当时驻扎在泰安的部队是敌人的整编第72师，这是一支川军部队，里面老兵非常多，十分善于防守，而且山地战经验丰富。全师的主要装备以日械为主，还有一个榴弹炮连。整编72师的新15旅被布置在肥城，师部和新13旅、34旅分别把守着泰安的四关四门和外围据点。这其中，师部位于泰安城里的岱庙，新13旅负责守卫泰安东门、南门和城关，34旅旅部和102团负责守卫西门，101团负责守卫西关，还有一个营守卫蒿里山。敌人到达泰安以后，还在泰安城墙和城门的突出部修筑了大量地堡，杀伤力非常强。
按照计划，这次进攻泰安由10纵负责，1纵和3纵负责歼灭大汶口方向可能前来支援的敌军，保证10纵侧翼的安全。4月22日下午16点，华东野战军正式向泰安发起了进攻。10纵28师向东门、北门和摩天岭发起了进攻，29师向西关、南关和蒿里山发起了进攻。经过激战以后，敌人无力抵挡，只能放弃外围阵地，龟缩到城里、四关和蒿里山死守。
从4月23日开始，10纵继续进攻泰安，可因为敌人的拼死顽抗和牢固的防御工事，进展十分缓慢，依然只占领了摩天岭一线的阵地。原本1纵和3纵负责防备敌人在大汶口的两个师，可后来才发现，大汶口的敌人根本不敢前来支援，因此3纵8师和9师一部也投入到了泰安城下，负责接替10纵29师进攻西门、西关和蒿里山。
3纵8师的师长是王吉文，他是从8师22团出来的，很了解22团的情况。他想了一下，觉得22团参谋长夏天泰是泰安本地人，熟悉当地情况，于是便将进攻西门的任务交给了22团。按照计划，在23团进攻蒿里山的同时，22团需要夺取西关和敌人在火车站外围的据点，然后配合24团扫清西关的残敌，为后续突破城防打开道路。等到入城以后，再配合10纵消灭城里的敌人。
22团团长毕庆堂同样知道夏天泰是本地人，极为熟悉周围的地形，所以直接将进攻娘娘庙的任务交给了他。娘娘庙位于西关前沿，是一处重要的堡垒，能不能夺取娘娘庙，直接关系到了22团这次进攻的成败。夏天泰同样深知这一点，他毫不犹豫地接下了任务。经过了一个晚上的急行军，22团终于在天亮前到达了泰安以东80里的地方。由于22团这次任务极为重要，王吉文也亲自赶到了22团。
当天白天，22团便悄悄地从泰安南面绕了过去，到达了泰安西南方向。这时候天还没有黑下来，夏天泰便带着3营连以上的干部，悄悄摸到了泰安西关，实地观察敌人在娘娘庙的部署。西关面积极大，几乎可以与泰安城内的面积相比，娘娘庙就位于西关大街北面。敌人占据娘娘庙以后，在娘娘庙四角修筑了四个大地堡，大殿前面的钟楼也被改造成了核心碉堡。再加上外围的铁丝网和鹿砦，娘娘庙变成了一座防守严密的碉堡群。
4月24日午夜，22团开始向泰安外围发起进攻。22团2营首先进攻西关火车站，吸引了敌人的注意力，夏天泰趁机带着3营12连，迂回到了娘娘庙方向发起进攻。8师曾经出过一位著名的爆破大王马立训，他曾经在抗战中屡次爆破建功，是鲁南军区一位非常有名的战斗英雄。虽然当时马立训已经不幸牺牲，但他的爆破方法却传了下来，成为了8师克敌制胜的传家宝。
12连的爆破手们十分擅长马立训留下来的连续爆破技术，开始进攻以后，第一爆破手丁世富便连续送上去了三包炸药，第二爆破手和第三爆破手也送上去了两包炸药。这五包炸药爆炸以后，瞬间在娘娘庙炸开了一道缺口，12连的战士们一拥而入。经过了20分钟的战斗以后，12连成功夺取了娘娘庙。
3营这边进展顺利，2营那边进展却很不顺。火车站外围是一片面积很大的开阔地，没有任何隐蔽物，2营刚开始进攻就被敌人的火力压制在这片开阔地上，付出了不小的伤亡，却始终无法突破。22团未能夺下火车站，23团同样未能攻下蒿里山。这时候天已经亮了，敌人的飞机也开始前来轰炸。由于能不能扫清西关直接关系到了晚上能不能攻城，这让王吉文心头万分焦急，他亲自赶到22团，要求他们必须在天黑之前夺取西关。
22团这边同样下定决心要拿下西关，3营与2营一起首先打通了西关的道路。随后，3营营长亲自带着一个加强排冲破敌人的封锁，与2营一起夺取了火车站。到了下午，2营与3营开始一起向纵深发展，23团也趁机向蒿里山发起了进攻。到了黄昏时，22团终于将西关的敌人全部消灭。
当天晚上，22团开始向西门发起进攻。担任突击的部队是1连，这是一支著名的突击队，他们在连长林茂成的带领下，曾经先后17次成功完成任务。晚上21点，1连开始向西门突击。爆破英雄王本柱带着爆破队，首先冲向了西门。王本柱冲在最前面，抱着一包40斤重的炸药冲过敌人火力的封锁，将炸药包放在了城门下。
随后，第二爆破手甘玉品也冲了上去。王本柱一看甘玉品过来，立刻一把抢过炸药包，同时说道：“我路熟，把炸药包给我，你先回去。”不等甘玉品回答，他就冲了上去，将炸药包安置在了城门下。只听得一声巨响，爆破成功了。可谁也没想到的是，王本柱都回来了，甘玉品却没有回来，所有人都以为他已经牺牲了。
实际上，甘玉品并没有牺牲，他听到爆炸以后，为了查看城门有没有炸开，冒着危险跑到了城门那里。由于城门前烟雾弥漫，甘玉品一直爬进城门洞口才看清楚城门的情况。他看了一下，发现城门上有一个大洞，显然是刚才被炸开的。甘玉品又仔细向城门那里一看，结果顿时大惊：“怎么全是沙子？”
原来甘玉品发现敌人在城门后面堆了沙袋，刚才的爆炸将袋子也炸开了，沙子流了出来，竟然又慢慢将洞口堵住了。无奈之下，甘玉品只好跑了回来，准备再拿炸药去炸一次。因为甘玉品一直没有回来，1连正准备派第三爆破手上去。听到甘玉品带回的消息以后，第三爆破手将炸药包塞进了城门洞里，终于炸开了城门。随后，林茂成带着1连冲进了城门，为后续部队打开了前进的道路。
就在22团1连攻入泰安的同时，24团1连也打进了泰安，开始了巷战。从城关到岱庙，一路上都是敌人的地堡，1连在连长郭继胜的带领下，巧妙地利用“小群战术”，将全连分配成了一个又一个战斗小组，分别攻打不同的地堡，切断了敌人地堡之间的联系，等到打下一个地堡，就利用这个地堡去打下一个地堡。就这样，1连先后打下了10多个地堡，自身仅仅轻伤一人。整个战斗中，1连总共缴获了9挺重机枪、16挺轻机枪、5门大小炮和600多名敌人，担任突击的2班、6班无一伤亡。
在3纵的配合下，10纵经过激烈的巷战，终于夺取了泰安。到了天亮时，敌人全部被歼灭。整个泰安战役，我军全歼了敌人整编72师两万多人，师长杨文瑔、旅长杨本固等人全部做了俘虏。
