成钧出生于1911年，湖北省石首县人，出生于一个贫农家庭。1927年，大革命失败后，成钧开始参加各种革命斗争，加入了反帝大同盟以及农民赤卫队。在此期间，他积极参加各种反帝反封建爱国运动，走上了探索救国救民的革命道路。
1930年，成钧参加了红军。参加红军之后，他从普通的侦察员做起，后续担任了班长、排长、副连长、连长、营长、副团长、团长等职务，率部参加了湘鄂西、湘鄂川黔革命根据地的创建与巩固，为工农革命力量的发展壮大作出了重要的贡献。
1935年，成钧跟随红二军团、红六军团参加了长征，长征期间，他主要承担前卫任务，是红军的开路先锋。红二军团、红六军团合编为红二方面军之后，成钧担任了红二方面军第2军第6师第18团团长，此后他继续北上，于1936年秋天到达甘肃，见证了红军三大主力的会师。
长征结束后，成钧参加了山城堡战役。抗日战争全面爆发后，他进入抗日军政大学学习，1938年，成钧被派到大别山一带，参与大别山红军游击队的改编。新四军第4支队成立之后，成钧担任了第4支队第8团营长，后续他奔赴皖中一带，迅速投身对日战斗当中。
1941年1月，国民党包围了正在向江北转移的新四军，制造了皖南事变。皖南事变后，新四军军部重建，成钧进入新四军第二师，担任了第二师第五旅旅长。在这之后，成钧率部参加了开辟与建设淮南根据地的一系列战斗，比如淮南占鸡岗战斗等，立下赫赫战功。
抗日战争胜利后，成钧率部北上，前往山东，担任了山东野战军第2纵队5旅旅长，后续他长期活跃在华东大地，担任了华野第7纵队司令员以及三野25军军长，率部参加了华东战场的主要战役，例如苏中、涟水、宿北、孟良崮、兖州、淮海、渡江、上海等战役。尤其是在渡江战役中，成钧指挥部队率先突破敌人的防线，并星夜急行军80公里，全歼了敌人一个主力军。
新中国成立后，成钧担任了福建军区第一副司令员兼第10兵团副司令员。不久后，他调任华东军区防空部队司令员，从此投身我军空军建设当中。1952年，成钧被调到北京，担任了防空部队副司令员，次年，他率部奔赴朝鲜战场，参加了抗美援朝。
1955年，成钧被授予中将军衔，成为开国中将。两年之后，成钧晋升为空军副司令员。担任空军副司令员期间，成钧主要分管空军的地面部队，他积极加强空军的防空力量建设，还曾多次指挥防空部队击落U-2高空侦察机，为国防事业的建设与发展作出了重要的贡献。
在1966年开始的那段特殊历史时期中，成钧也受到冲击，不仅被审查，而且还被关入狱中，失去了自由。虽然身陷囹圄，但成钧始终保持着一个党员的铮铮铁骨与革命乐观主义精神，凭借顽强的意志度过了那段时期。
1973年，被关押5年后，成钧恢复了自由。恢复自由后，成钧重新复出工作，并官复原职，继续担任空军副司令员。此后他致力于我军的革命化、现代化与正规化建设，并为此倾注了大量心血。晚年的成钧主要生活在北京，于1988年因病去世，享年77岁。
