人民军队在漫长的建军史上，曾经出现过以“兵团”命名的作战部队。但真正意义上的大兵团作战部队，是在解放战争中的1948年。最终，人民解放军一共成立了19个作战兵团，成为人民解放军各野战军与各纵队（军）之间连接的作战指挥机构。
解放战争时期成立的兵团部队机关，是1948年5月。当时华北军区正式成立，军区下辖第一和第二两个作战兵团。紧接着，人民解放军四个野战军也相继成立了16个兵团，加上国民党起义部队组成的3个兵团，共19个兵团。
成立作战部队兵团的原因，是解放战争进入到第三年后，随着人民军队的迅速发展和编制扩大，由野战军直接指挥各纵队（军），从作战指挥到任务下达，显得格外忙碌和诸多不便。在野战军和各纵队（军）之间，成立一级作战指挥机构，势在必行。于是，兵团便应运而生了。兵团级作战指挥机构，在解放战争后期动辄十几万、几十万部队参与的大兵团战役中，从部署、决策、调动、指挥等等方面，都是非常必要的。
兵团级编制的出现，野战军下辖若干个兵团，兵团下辖三四个纵队(军)，野战军指挥机构避免了一竿子插到底的指挥大兵团作战方式。野战军只要向兵团发号施令，兵团具体部署指挥，减轻了野战军指挥机构的压力，也调动了兵团作战的积极性和能动性。实践证明，解放战争后期的兵团建制，在消灭和围歼国民党军队数百万大军时，发挥了重要作用和积极意义。
1949年10月建国后，1950年初，在全国尚未完全解放之时，中央军委作出了撤销人民解放军作战兵团一级的决定。随后解放军19个兵团机构陆续撤销，抗美援朝战争结束后，大部分兵团撤销编制，最后一个兵团，也就是第19兵团，也于1962年11月正式撤销。此后，人民解放军编制序列里，作战部队兵团一级机构成为历史。兵团撤销了，解放军兵团级编制单位仍然存在。像各大军区的空军，海军的舰队，卫戍区等等，规格都是兵团级。
撤销兵团级作战部队机构，是中央军委在充分考虑到建国后大兵团作战的情况已经不复存在，大兵团作战部队存在的必要性已经淡化了（除了参加抗美援朝的作战部队）。
在各个野战军转化为各大军区后，在大军区和各军级部队中，夹着一个兵团级机关，从机构重叠、编制多余、人力资源等等方面考虑，撤销兵团机构编制，都是必须的和可行的。尤其是一个兵团机关，机构庞大，五脏俱全，机关臃肿，干部规格较高等等，都不太适应建国后军队的整编和裁员任务的完成。在这种客观情况下，存在数年的兵团机构，最终被裁撤了。
