不久，训练总监何应钦在南京创办步兵专校，由于校长王俊是李良荣的老上级。因此李征得张贞同意，于1931年12月考取步兵专校第一期，精研兵器与射击。1933年2月毕业后，李良荣跃升为中央嫡系部队八十八师上校补充团长（师长孙元良），不久即编入三十六师（师长宋希濂），任团长。时年不过25岁。
不过此时的国家时局已经颇为艰难，鲸吞东三省的日本帝国对华北和华东虎视眈眈。而江西的“剿共”战场又陷入胶着状态。身为军人的李良荣不得不在蒋委员长“瓤外必先安内”的口号之下，跟随第三十六师奉调，进入江西“剿共”，驻防抚州浒湾。
第三十六师抵达浒湾不过一个月，**名将彭德怀便率红军第三军团进袭抚州，至浒湾以北与蒋军第四师遭遇激战。红军派出约二千余人的部队进攻浒湾，截断四师的后路，抚州告急，南昌震动。李良荣率部顽抗，善于夜战的红军于夜间数次猛攻，均被李良荣所部击退。战斗十分激烈，双方均伤亡惨重。直到次日拂晓，红军主动撤围。
不过真正令李良荣一战成名的还是在抗日战场之上，1941年4月19日，日军从连江登陆，进攻福州。福建省主席陈仪及守备福州的八十师师长陈琪不战而退，21日福州失守，日军向闽北挺进。李良荣主动向兼任第25集团军总司令的陈仪请缨，任其第一纵队司令，率1500多名战士开赴前线。十几个小时后，李良荣的尖兵连即已抢先占领了闽侯白沙镇北的漈洋顶山头。日军为了争夺这一战略制高点，立即发起猛烈进攻。尖兵连在连长许祖义的率领下利用有利地形死守阵地，顽强抵抗，日本陆军在空军和优势炮火的掩护下也未能夺取这一战略要点。
同时，李良荣率主力一千多人隐蔽在白沙镇北的大湖山区待敌。5月25日，日军进入大湖包围圈时，激战展开，面对外辱，三军将士无不用命，浴血奋战，最终全歼了日军晋町部队三百多人。最终迫使日寇不敢再向闽北腹地深入。此役，有200多名**将士阵亡，但他们用鲜血和生命保卫了闽北的大好河山。日寇见福建难图，不久之后便只得撤出福州。战后，陈琪被撤职，李良荣随即调任八十师师长。此后在他的锐意整顿下，该师战斗力迅速提高，多次参与抗日战争，取得了优异的战果。
1944年9月26日，日寇长岭喜一旅团又由连江进犯福州。八十师在李良荣指挥下力战七昼夜，10月4日才奉命退出福建城区，但是依旧控制着福洲近郊伺机痛击敌人。1945年5月，李接获情报显示占据福州的日军近期将弃城北撤往浙江。当时海路已被盟军封锁，李良荣判断敌军可能翻越闽东崇山峻岭北退。他果断决定以239团反攻榕城，以238团直插宁德、罗源一带截敌退路。战斗打响之后，日军果然仓皇出逃。李率主力追至福安白马河时与敌激战一天。其部下李勇德在混战之中手刃日军大队长管野后腹部中弹牺牲。而残余的日寇也大部就歼，取得了八十师福建抗战的最后胜利，再度收复福州。由于李良荣的抗战功绩，受到陈仪与蒋介石的赏识，被升职为第二十八军中将军长。
1945年8月抗战胜利后，国民政府整编部队。将当时的二十八军改为整编二十八师。1946年春由闽浙地区调往苏北，归入徐州绥署薛岳所属的作战序列。当年秋李良荣便在徐州绥靖公署副主任李延年的指挥下，率整编二十八师向华北野战军进攻，执行蒋介石全面进攻解放区的战略。他配合张灵甫的整编七十四师，黄伯韬的二十五师，李天霞的八十三师、王泽俊的四十四师以及王铁汉的四十九师，李振的六十五师，王作华的四师等部队，向苏北解放区展开全面进攻。
在三野的逐步后撤之中李良荣所部进占了淮阴、涟水、东台、盐城等地。1947年春，李部又攻占海州，打通陇海路东段。但是在整编二十八师三次涟水战役中也同样伤亡颇大，不过由于李良荣工作认真勤劳，不贪图享受，不吃空缺，不乱要钱，在军中颇受上下好评。因此被提升为整编二十军军长，辖二十八师、四十四师和八十三师，其总兵力已相当三个军。
1947年春未，鉴于全面进攻失败，兵力与财力捉襟见肘，国民政府战略上改用重点进攻。一面由西北战场进逼延安，一面进攻华东重点根据地沂蒙山区。此时，李良荣率部由苏北进入鲁南。不过随着中国中原解放军—刘邓大军南渡黄河，向豫鄂皖三省交界的大别山区挺进，华中武汉震动，不得不蒋介石急命李良荣率部由华东进入华中。而随着1948年春，**第七兵团在豫东被歼、兵团长区寿年被俘之后，南京政府也不得不被迫放弃重点进攻，改为重点防御，可以说战略上已经全线转入颓势。
第9绥靖区可以说就是在这种情况下被组建起来的，不过由于徐州“剿总”和华中“剿总”之间的矛盾，李良荣麾下最具战斗力的第二十军被留在了华中战场之上，第9绥靖区的仅下辖第八十三军和第四十四军这支部队，事实上已无力控制所属绥靖区的全部县市。于是此时的李良荣已认识到八年抗日之后再打内战，国家经济紊乱，官贪民穷，将领怕死，士无斗志，已无胜利之望。
而与此同时1948年八月，与李良荣同为黄埔一期的同学黄维，被委任为第十二兵团司令官，辖第十八、第二十八、第十、第十四共四个主力军。而其中第二十八军无疑是李良荣的军事资本，他从不放弃这支老部队。因此为此李良荣向国防部建议由自己兼任第十二兵团的副司令官，协助黄维指挥作战。不过最终等待他却是被任命为福建省主席的调令。取代原来主闽的湘系军人刘建绪，回到故乡，实现福建各阶层人士所希望的“闽人治闽”要求。
而接替李良荣正是叶永茂的老上级—同为黄埔军校第一期的徐州“剿总”副司令，陆军中将—李延年。<div>