1927年9月10日，正是农历中秋节。那天，毛泽东从浏阳脱险来到铜鼓。在团部驻地肖家祠召开的排以上干部会上，陈伯钧听了毛泽东号召举行秋收起义的讲话。会后，毛泽东又亲切地询问了陈伯钧的年龄、籍贯和经历。
此后，独立团正式改编为工农革命军第一军第师第三团。陈伯钧任该团第三营第六连第一排排长。第三团的任务是协同第一、二团打下平江、湖阳、会攻长沙。前委书记毛泽东直接领导第三团行动。
9月11日，陈伯钧随军挺进浏阳白沙镇。第三团兵分三路，击溃一营敌军和当地挨户团，打死打伤敌军十余名，击毙敌连长一名，首战告捷。毛泽东称赞他们旗开得胜，马到成功。
9月12日下午，陈伯钧随三团继续西进，攻打浏阳东门市。是役击毙敌排长，守敌溃逃达浒。三营营部驻围山书院，各连分做群众工作。团长苏先骏因连战皆捷，骄傲自满，不听毛泽东的意见，未在制高点设了望哨，结果敌人从平江调来两个团，分两路包围工农革命军，占领了羊牯脑制高点。陈伯钧所在的三营配合一营在羊轱脑两侧拼命反攻，激战六小时，最后因伤病员太多，又遭敌入机枪猛烈射击，只得转移到上坪。
毛泽东在上坪召开三团干部会议，得知第一团进军长寿街，因遭到叛变的第四团邱国轩部的偷袭而失败，第二团攻克浏阳后被围，大部伤亡、失散。攻打长沙的计划已不能实现，遂决定通知一团速来会台，并亲率第三团退向铜鼓的排埠。
9月19日，陈伯钧和第三团随毛泽东进军文家市，接着卢德铭率第一团也来会合。毛泽东在文家市里仁学校召开前委扩大会议，说服师长余酒渡，放弃攻打浏阳、长沙的计划，决定向湘赣边界地区退却。
9月20日，毛泽东和卢德铭率一、三两团离开文家市南进。途经萍乡芦溪，又一次遭到敌人伏击，卢德铭英勇牺牲，后卫第三团遭到很大损失，仅陈伯钧所在的第三营在营长伍中豪带领下冲出重围，追上第一团，赶到永新县，参加了著名的三湾改编。
在三湾，工农革命军缩编为第一军第一师第一团，仅有三两个营。陈伯钧虽患虐疾，经张子清、游雷程推荐，仍担任了三营八连一排排长，还一度代理连长。
10月3日，部队到达宁冈的古城，陈伯钧参加了前委召开的扩大会议。毛泽东在会上总结了秋收起义的经验教训，决定在井冈山建立留守处，并争取袁文才、王佐领导的两支农民武装。
部队到酃县水口后，毛泽东派游雪程、徐彦刚、陈伯钓上井冈山，去做团结改造袁文才部的工作。出发前，毛泽东在水口朱家祠找他们促膝谈心，要他们充分认识争取这支武装的重要性，注意搞好团结。当天，陈伯钧等随袁部交通离开水口，经过三天行军，到达茅坪步云山。
袁部平时分散活动，陈伯钧等到职后，集中在步云山练兵。不久，毛泽东也到茅坪养脚伤，并进行调查研究。他经常找袁文才和陈伯钧等谈心，还到练兵场上检查战士们的军事训练，讲《封神榜》的故事，鼓励大家学土行孙和哪吒上天入地、能打能走的本事。在毛泽东的亲自指导和陈伯钧的努力下，袁部很快走上正规，并接受了作战任务。陈伯钧率一个排负责维护井冈山同茶陵前方的交通联络，掩护和接送来往的伤病员和工作同志。
12月，陈伯钧带一个班，护送毛泽东去茶陵找主力部队。出发第一天走了八七十里，夜宿茶陵坑口圩。次日，一班战士先回井冈山，只留陈伯钧和毛泽覃等毛泽东同行。大约离县城二三十里，前方传来机枪和步枪声。毛泽东决定在离城五六里的小村子住下，由赤卫队派人到城边侦察。晚上大家轮流放哨，毛泽东和陈伯钧值下夜班，以应付紧急情况。天刚亮，侦察员回来报告说，茶陵城东门通井冈山的浮桥被拆掉了，敌人尚未进城，而我军却向南撤退。
毛泽东判断情况有变，决定马上追赶部队。陈伯钧说：“我打掩护，你们往前走!”赶到水口，天已黄昏，终于追上了正在休息的部队。当晚,毛泽东召集会议,讨论部队行动方向问题,争论很激烈。毛泽东命令部队折同井冈山，向宁冈市开拔。散会后，毛泽东交给陈伯钧一封信，要他连夜走小路赶回市，送交中共永新县委。随后，毛泽东带着大部队返回砻市，召开了全体党员大会，处理了团长陈皓(旧军官)等企图把部队拖去投靠方鼎英的事件。
毛泽东总结这个事件的经验教训，决定成立工农革命军教导队，任命吕赤为队长，陈伯钧为副队长兼党支部书记。毛泽东很关心教导队的成长，经常抽空给教导队上课，听取陈伯钧等的军训工作汇报。
1928年1月，工农革命军攻打遂川时，陈伯钧等率教导队负责押运胜利品和俘虏。二月攻打宁冈县城(新坡)，教导队负责攻打西门。三月初，工农革命军应湘南特委的要求，调往湘南。陈伯钧随部队到达酃县,全军按毛泽东的主张，在中村整训后，在酃县、桂东一带打土豪、分田地，作群众工作。
1928年4月，陈伯钧从教导队调到第一团第一营第一连工作。为了接应朱德、陈毅率领的南昌起义余部和湘南暴动的农军，陈伯钧随毛泽东、张子清在酃县参加阻击战和掩护战。途中遇到不少困难，特别是山桂东向汝城的一段路，几乎每天都要与地主武装打几仗。
攻打汝城时,遭到敌人猛烈反扑,陈伯钧等奉命率第一连保卫团部。他们根据团长张子清的命令，跑步前进，迅速通过一条干涸的小河，沿着河边向敌人侧翼攻击，打败了敌人的反扑。
在酃县战斗中，敌人追兵有三个团，张子清带领第一团侧击来犯之敌，并亲率陈伯钓所在的第一营，抢先占领酃县县城和城北的高地堵击敌人。第一连在陈伯钧带领下积极参战，打败了敌入十多次冲锋，坚持了两三天，胜利完成掩护任务。
在毛泽东率部接应和掩护下，4月下旬，朱德、陈毅率领的部队到达宁冈砻市，两支革命军队胜利会师。
5月4日，在砻市召开会师庆祝大会，正式宣布成立工农革命军第四军(六月改称工农红军第四军)。陈伯钧所在的第一团改称第十一师第三十一团，陈伯钧任第一营第一连连长。
