梁必业出生于1916年，江西省吉安县人，出生于一个普通的农民家庭。早年时期，梁必业曾在家乡读了4年小学，此后他辍学回家，当过药店学徒，早早就体会了生活的艰辛。1929年，梁必业参加了家乡的儿童团，开始为工农革命队伍站岗、放哨、传递情报……在此期间，梁必业还加入了共青团，走上了革命的道路。
1930年，梁必业参加了红军，成为红四军的一员。参加红军之后，因为表现优秀，他还前往瑞金的列宁青年学校学习，系统地学习了革命理论。1932年，梁必业转为正式党员，此后他长期活跃在中央根据地，参加了中央根据地的第一至第五次反“围剿”作战。
1934年10月，第五次反“围剿”失败后，梁必业随部参加了长征，并到达陕北。到达陕北之后，梁必业没有停止战斗的步伐，他又参加了直罗镇、东征、西征等巩固陕北根据地的战斗，壮大了陕北根据地。
抗日战争全面爆发后，梁必业所在的部队被改编为八路军115师，此后他担任了115师政治部总务处处长，随军东进到达山东。在山东期间，梁必业多次率部参加战斗，比如陆房突围、沂蒙山区反“铁壁合围”等作战，为抗日战争的胜利作出了重要的贡献。
抗日战争胜利后，梁必业前往东北，率部参加了秀水河子歼灭战、四平保卫战、三下江南、四保临江以及1947年夏季攻势作战等，见证了东北的解放。东北解放之后，梁必业随部入关，38军成立之后，他担任了38军第一任政委。在这之后，梁必业一路南下，参加了平津战役、衡宝战役、湘西战役、广西战役等，转战大半个中国，为新中国的成立立下赫赫战功。
新中国成立之后，梁必业留在中南军区工作，担任了中南军区政治部组织部部长、政治部副主任等职务，期间，他积极加强部队的思想政治工作建设，认真做好战备训练工作，提高了我军的战斗力。
1955年，梁必业被授予中将军衔，成为开国中将。也是这一年，他被调到了政治学院，担任副教育长兼政治部主任。1957年，梁必业被调到朝鲜战场，担任了志愿军副政委兼政治部主任，到朝鲜之后，他主要做好志愿军撤军工作，期间，他通过实地调查，主持起草了《撤军政治工作30条》等重要文件，指导志愿军回国。
1958年，回国后的梁必业被调到济南军区，担任了济南军区副政委、第二政委等职务。1960年，梁必业又被调到总政治部，担任了总政治部副主任。任职期间，他兢兢业业工作，为我军的思想政治建设做出了重要的贡献。
在授衔之后11年，也就是1966年，那段特殊的历史时期开始，梁必业也受到冲击，身心受到极大迫害。不过，虽然身处逆境，但梁必业始终保持着一个党员的铮铮铁骨，与造反派进行了坚决的斗争，并凭借顽强的意志与革命乐观主义精神度过了那段特殊的时期。
1974年年底，梁必业重新复出，继续担任总政治部副主任。1982年，他调任军事科学院政委，三年之后，梁必业离职休养。晚年的梁必业主要生活在北京，于2002年因病去世，享年86岁。
