徐向前是山西五台县永安村人，与阎锡山的故乡—河边村隔河而望。更可以算是阎锡山的学生。1911年10月29日，在日本留过学的阎锡响应武昌起义，掌握了山西的军政大权，并于1919年创办了山西省立国民师范学校。徐向前经过考试，成为这个学校招收的第一批学生。学习期间，正值“五四”运动，徐向前参加了国民师范的学生游行。但思想保守的阎锡山却以残酷的手段镇压学生运动。令徐向前不禁对阎锡山的做法产生了疑问。为了自己的理想和追求，徐向前离开了山西老家，考入黄埔军校，迅速成为一名独当一方的大将之才。
在他的指挥下，蒋介石派来“围剿”红军的王牌主力军，一个个被打得落花流水。而此时的阎锡山却在与蒋介石的军阀混战中连连败北，不得不悄然下野。在此期间，他从各种渠道得知了永安村徐懋淮的儿子徐向前声威大震的消息，不由地对这个同乡后生产生一丝敬佩之意，对他的同乡将领们说道：“我倒想亲眼见见这位徐向前，和他攀谈攀谈。”
而曾经在黄埔军校以徐向前“不堪重用”论之的蒋介石这个时候也不得不对自己的学生另眼相看，想出了种种笼络的手段。一天，两名军官模样的人来到徐向前家，态度非常谦恭客气，进门就对徐老秀才说：“我们是南京蒋校长派来的，蒋校长要我们问问老先生知道不知道徐向前的下落。蒋校长很关心徐向前，蒋校长还要我们问一问老先生家里有没有什么困难？”徐向前的老父亲回答说：“自从象谦考上黄埔军校，就不知道哪里去啦？连点音讯也没有，我正要找你们蒋校长要人呢！”
机会总是有的，1937年徐向前和阎锡山第一次见面，而且就在故乡山西。当时******五届三中全会确定联共抗日，工农红军正式改编为国民革命军第八路军，徐向前被任命为八路军第一二九师副师长，而阎锡山也在山西重整旗鼓，恢复了其“山西王”的地位。由于徐向前与阎锡山的“特殊”关系，周恩来特地邀请他，参加了中国**同阎锡山的谈判活动。
1937年7月，当他们到达太原时，阎锡山正在部署大同会战，所以周恩来、徐向前与阎锡山的真正首次会面是在山西岭口。阎锡山半开玩笑地对周恩来说：“周公来山西也真会选人才呀，把我们五台同乡、又是我的学生徐向前带来与我会见谈判了？……你这次来山西，没有别的用意吧，可不要带徐向前来挖我的墙角啊。”说罢，又向徐向前笑了笑。周恩来说：“百川先生把话说到哪里去了。我这次和向前一块来，是因为他是山西人，要他给我带路的。同时，向前又是百川先生二战区八路军第一二九师副师长，以后是你的部属了，特来拜会你的。还要请先生多多关照哩！”
但是阎锡山与徐向前的共事并没有维持多久，1938年4月，徐向前便统帅率第一二九师和第一一五师各一部进入河北省南部，创建冀南抗日根据地去了。1939年6月徐向前又前往山东，担任八路军第一纵队司令员。而此时的阎锡山已经被日军赶出山西，在陕西的克难坡徘徊于联共抗日与联日求存之间。曾经的师生、同乡再度由于政见不同而分道扬镳。
1942年徐向前出任陕甘宁晋绥联防军副司令员，后由于身体原因出任抗日军政大学的代理校长。这位百战名将似乎距离战场越来越远。毕竟在那场惨烈的祁连之役中，这位红军时代便独挡一面的帅才，无论是身体还是精神都遭遇到前所未有的重创。他患结核性胸膜炎已三年多。这时，虽有所好转，但身体仍很虚弱。就在日本投降前夕，他还卧病在延安和平医院之中。
但1946年6月，以**进攻中原解放区为起点，爆发的全面内战。却促使正在延安养病的徐向前不顾还未完全康复的身体，主动向党中央请求去太行前线。“共军从山西倾巢南下，留给徐向前的不过数万地方部队，但是此人却仅以半年的时间整训出了一支铁军，其治军之能**之中无出其右者。”谈到山西战场这半年多形势的急转直下，李延年也不得不佩服自己的那位黄埔同学。
据说在送刘伯承出征时，两位沙场老将依依不舍。他们谈到战局的发展，徐向前说：“你们出中原以后，内线我军的压力会减轻。”刘伯承说：“你的负担可不轻啊!留下的部队太少了。”徐向前淡淡一笑，说：“有这几万人，最后解放山西，我看也差不多。只是主力少了点。”刘伯承则说：“全靠你扩编和训练了。”这简单的对话中，含有深厚的意境。此时，留给徐向前指挥的正规部队不到两万人。也许是他习惯于从小到大发展革命军队。一生都不会忘记：广州起义自己指挥的工人赤卫队只有两支手枪，几个手榴弹；初到大别山，自己指挥的队伍不过千把人，而后发展成为拥有三个正规军的红四方面军；初到四川，红军从两万人，一年多的光景就发展到近八万人。“兵在精，不在多。”
当时在山西的解放军主力部队已经少的可怜，即便补之以地方武装，也勉强不过凑成6个团，组建了第八纵队，算是军区的主力，另外把全区的地方武装和游击队编组成一些独立旅团，总兵力也不过5万人。而当时阎锡山的晋绥军虽然屡遭重创，但依旧占据着晋中的富饶之地，即同蒲路中段北起忻县、南至灵石及本段内汾河两岸略呈柳叶形的地区，以及晋南的运城、临汾和晋北的大同这三座中心城市，凭借这些地区的坚固工事，以及十多数精锐的野战部队，这场三晋大地之上的角逐似乎并没有什么悬念。
但徐向前上任伊始，协同王震所部便拿下了晋西南**最后的一个据点—运城，令三晋形势陡然一变。当然此时运城已被围困多时，虽然火力配备依旧严密，工事也较前加强，不仅全部修复了在前两次攻坚战中被解放军摧毁的工事，又在城东增修不少碉堡，但是守军的士气低落。徐向前的第八纵队又有王震所部配合，兵力上占据优势。因此并没有引起阎锡山的警觉。他自认晋中地区工事坚固，徐向前所部可以拿下运城，却未必可以啃得动自己的精心构筑的晋中防线。况且徐向前上控制了陇海路与潼关要冲，扼住了临汾胡宗南所部退陕增防西安的通路，更能强化临汾的防御。
临汾——这座晋南最大的城市，相传是唐尧建都的地方，历来是军事重镇。自从纵贯山西全省、沟通华北与西北交通的同蒲路建成以后，这里是南段的枢纽，地位益形重要。临汾城筑在汾河东岸一片冲积而成的黄土高地上，城外地势比城内低，黄土垒砌的城墙，黏结得非常坚固，基部最厚处有30余米，墙面如牛背，倾斜向上，高达14米，顶上有10米宽，可并行3辆大车；城周长近10公里；城外的东南部又加修了一座护卫城，高厚度略次于主城，周长3公里多。整座城，西傍汾河，南、东、北三面均为开阔地。从远处看，宛似伏在汾河边上的一头黄牛。所以，临汾又称“卧牛城”。
当地人吹嘘说，临汾城在历史上没有被攻破过，连扫荡山西的闯王李自成到这里也被射瞎一只眼，终究没有降伏得了这头“卧牛”，气得把盔甲挂在城外一棵树上撤兵而去。于是后人把那挂盔甲的村庄，称为“挂甲屯”。日军侵占临汾期间，在这里修筑了坚固的工事。日军投降后，进占临汾的阎锡山、胡宗南部对临汾城内外的防御工事又进行了增修和加固，筑起四道防线，构成了完整的防御体系。
而解放军收复运城，临汾已成为晋南的唯一的孤立据点。阎锡山自上党战役惨败后，为保住晋南，更加积极经营临汾防卫，不断加修工事。集中在临汾的兵力，除胡宗南所部的第三十旅和晋绥军的第六十六师两支正规军队外，还有逃到临汾的4个伪专员公署和14个流亡伪县政府所属的各种杂牌武装还乡团、保警队等，整编成的8个团，总兵力近2.5万人，统归阎锡山的第六集团军副总司令兼晋南地方武装总指挥梁培璜指挥。
梁培璜到任之时不仅以临汾为中心在纵深内外筑起四道防线，构成完整的防御体系：一道防线为外围阵地，由约二十里的无数据点组成，各据点都有高碉、明暗火力点及外壕、劈坡、鹿寨、电网、雷区等障碍物，形成独立的支撑点。第二道防线为环城阵地，以环城碉堡构成，每组碉堡的四围配有地堡和暗火力点，并挖有十米的外壕，设有铁丝网、鹿寨、雷区的防御物，这些明碉暗堡均能独立作战，且相互之间、与城之间又构成严密的立体交叉火力网，东城壕外还铺设铁轨，设置装甲车、火车头做为活动据点，往来巡回接应。第三道防线为城池阵地，包括外壕和城墙，深挖二十米、宽三十米的外壕内外沿均设火力点，壕底有伏击地堡，距城二十米，城墙高十五米，筑有三层作战工事，配备各种密集交叉火力，外壕火力与城墙三层火力构成立体火力网。第四道防线为城内纵深阵地和地道工事，城墙内挖内壕，深宽均有五六米，壕内每隔十五米即有一伏地堡，与城内核心工事、炮兵阵地和城上火力点形成纵深阵地。外壕、城墙与内壕形成了宽五十余米、高三十五米的巨大屏障。此外，临汾还有特别之处，它不像别的城市东西南北四处有关可攻，仅在城东偏南部筑有东关，其城墙高度、厚度及周边工事也异常坚固，它的这一特点又加大了解放军攻坚作战的难度。综观临汾，实属集天然与人工为一体的坚城要塞，城垣异常坚固，地势易守难攻，守军可谓得天独厚，梁培璜得意的称其为中国的“马其诺”防线。