梁从学出生于1903年，安徽六安人，出生于一个贫寒的农民家庭。因为家庭贫困，所以梁从学没有读书，九岁的时候，他开始放牛，后来又给地主做工，小小年纪就饱尝生活的艰辛。1929年，26岁的梁从学参加了当地的农民协会，同年，他加入了我党，成为一名光荣的党员。
1930年，梁从学参加了红军。参加红军之后，他先后担任了六安县红军独立团1营2连排长、红25军74师222团连政治指导员、红4军第12师34团1营3连副连长等职务，跟随红四方面军参加了鄂豫皖根据地的反“围剿”作战。
1932年10月，梁从学跟随红四方面军离开鄂豫皖根据地，准备转战川陕一带。不过，在穿越平汉路时，梁从学负伤，只能留守根据地。留守根据地期间，他参与了红25军的重建，担任了红25军第74师师长，并参加了火炮岭、葛藤山、凌云寺、长岭岗等战斗。
1934年11月，红25军离开鄂豫皖根据地，开始了长征。梁从学继续留守根据地，担任了鄂东北独立团副团长、红28军245团团长等职务，期间，他在鄂豫皖根据地坚持了三年游击战，策应了红军主力部队的长征。
1937年，抗日战争全面爆发后，南方八省的游击红军改编为新四军。同时，中央也派出一批干部重返豫鄂一带，改编留守红军。1938年，新四军第4支队成立，梁从学改任新四军第4支队游击纵队纵队长，此后他率部参加了开辟淮南津浦路西抗日根据地的斗争，与日本侵略者进行了不屈不挠的斗争。
1941年，皖南事变之后，新四军军部重建，梁从学改任新四军第2师第4旅旅长、第2师副师长等职务，率部参加了金牛山、大桥等战斗。抗日战争胜利后，梁从学担任了淮南军区副司令员兼参谋长，指挥部队转战江淮地区，参加了豫东、淮海以及渡江等战斗。
尤其是在渡江战役中，梁从学率部组织完成大量修桥筑路任务，支援了前线的战斗，为渡江战役的胜利奠定了坚实的基础。渡江战役之后，梁从学留在皖北军区，参与组织了大别山腹地的剿匪工作，稳定了社会秩序，巩固了新生的政权。
新中国成立后，梁从学担任了皖北军区司令员、江苏军区司令员等职务。江苏军区改为江苏省军区后，梁从学继续担任司令员一职，1955年授衔时，他被授予中将军衔，成为开国中将。授衔之后，梁从学继续投身我军的各项建设，尤其是在战备训练等方面，做了大量卓有成效的工作。
值得一提的是，革命时期，梁从学总是身先士卒，冲锋在前，舍生忘死，凭借一股大无畏的精神，驰骋沙场几十年。在这几十年光辉历程中，梁从学先后负伤十三次，新中国成立后，伴随着年龄的增长，梁从学的身体也大不如以前，因此，在授衔之后9年，也就是1964年，梁从学离职休养。
离职休养后，梁从学并没有闲着，他依然关心我军的建设，并力所能及地为我军的建设献言献策，提出建设性的意见与建议。晚年的梁从学主要生活在南京，1973年，梁从学因病去世，享年70岁。
