宋王朝之建国立制，最重要的一个出发点就是革除前代的弊病，如何避免成为像前代一样的短命王朝，是制度建设的首要任务。
五代皇权政治有两大威胁：一是所谓“腹心之患”的禁军，一是“肢体之患”的藩镇。赵匡胤能当上皇帝依靠的是前者，后者则是唐代中期以来的政治痼疾。在武人政治的五代，兵强马壮是夺取政权的关键，要改变这样的游戏规则，最重要的就是“收兵权”，也就是改变统兵体制，从制度上着手解决这一大患。
“杯酒释兵权”常被后人用来形容赵匡胤收夺兵权时所采取手段的巧妙，另一方面也常被用来赞颂赵匡胤没有诛杀功臣的仁慈。事实上，“杯酒释兵权”只是宋太祖收夺兵权的措施之一，针对的是“腹心之患”的禁军，实际的情况要复杂得多。我们先来看“杯酒释兵权”的故事。关于这段故事，司马光在《涑水记闻》卷一中有绘声绘色的描述。故事的梗概如下：
宋太祖赵匡胤一天下朝后与故人石守信、王审琦等饮酒。石、王都是禁军主要将领，在后周时期就与赵匡胤共同掌管禁军，也是所谓“义社十兄弟”的成员，这十兄弟是赵匡胤的铁哥们，是他能够当上皇帝的主要助力。
当喝到酒酣耳热的时候，赵匡胤屏退左右，说：“我非尔曹之力不得至此，念尔之德无有穷已。然为天子亦大艰难，殊不若为节度使之乐，吾今终夕未尝敢安枕而卧也。”赵匡胤的这几句话讲得十分巧妙，先是承认石、王等人的功劳，暗示自己不会忘记他们的付出，又说做天子不如做地方的节度使，做天子总是睡不好觉。
石、王等人自然要问为什么，赵匡胤的回答一语道破天机：“居此位者，谁不欲为之？”皇帝谁不想做呢，这可是真正的大实话。石守信等人连忙起身跪下，连声否认。
赵匡胤接着又说：“汝曹虽无心，其如汝麾下之人欲富贵者何？一旦以黄袍加汝之身，汝虽欲不为，不可得也。”这可真是诛心之言，石守信等人能做的只是不断叩首，祈求皇帝指示一条出路。赵匡胤这才明确表示自己的想法：“人生如白驹之过隙，所谓好富贵者，不过欲多积金银、厚自娱乐，使子孙无贫乏耳。汝曹何不释去兵权，择便好田宅市之，为子孙立永久之业。多置歌儿舞女，日饮酒相欢，以终其天年。君臣之间，两无猜嫌，上下相安，不亦善乎！”
赵匡胤的策略十分明确，就是用厚禄换取诸大将交出兵权。
这样生动的场景可以和司马迁所描写的“鸿门宴”相比，但需要指出的是，这样的故事其实更多的是一种象征。事实上，这种收取禁军大将兵权的做法经历了较长的时间，分了好几个步骤，进行了好多次，并非一蹴而就。而这一做法的实质是以金银、田宅、官爵、婚姻为代价，采取利益交换的方式，和平转移大将兵权，这也成为后来赵宋王朝对待战功卓著的宿将的主要做法，南宋初年宋高宗对韩世忠等大将也是如此，只有岳飞是个例外。
“杯酒释兵权”实际上只是第一步，更重要的是防止禁军中继续出现能威胁皇权的人物，主要措施有以下几点：
第一，分禁军两司为三衙，不再设置最高军职。禁军作为皇帝的亲兵，在后周时分为殿前司和侍卫亲军司，其最高长官分别为殿前都点检和侍卫亲军都指挥使，前者即是赵匡胤在陈桥兵变之前的军职。入宋后，侍卫亲军司被分为侍卫亲军马军司和侍卫亲军步军司，与殿前司合称“三衙”，兵权被分散开来，以相互牵制。三衙名义上的最高长官开始是阙而不授，由职位较低、资望较浅的武将负责实际事务，直至该职位取消。
第二，将发兵权与握兵权相分离。枢密院有发兵之权，天下的兵籍、武官任命与升降等政令全部由枢密院来发布，但枢密院手下并无军队。三衙平时负责训练和管理禁军，却无发兵之权。需要部队出征时，由皇帝临时委派将领，避免军队成为将领私人的武装。这种做法为后代所承袭，有力地巩固了皇权。
相比于禁军这一“腹心之患”，收藩镇之权则是一个更大的命题。自唐代设立节度使以来，藩镇问题成为中央集权的最大威胁，藩镇之祸绵延百余年。
对此，宋初君臣采取的措施是：“稍夺其权，制其钱谷，收其精兵。”实际上，唐代藩镇问题核心有二：一是军事权与行政权合一，有了行政权，藩镇就把持了地方的土地、人民、赋税，有充足的财富养兵；二是地方握有重兵而中央却没有一支能威慑全局的武装。
因此，收藩镇之权的重点是要多管齐下，收夺兵权的同时还应收其财权。具体措施如下：
第一，整顿军队，以收地方精兵。后周时就曾要求地方藩镇筛选精兵增补到中央禁军。宋初继承了这一做法，对军队实行拣选制度，挑选精壮的士兵留在禁军，将老弱病残的禁军送到地方组成厢军，再将地方上强壮的厢军选到禁军，补充缺额。宋代厢军原本是州郡地方兵，后来逐渐演变成杂役兵，不再参加战斗，只负责看守仓库、运送官物、修筑河道等任务，基本失去了战斗力。
第二，在兵力部署上实行内外相制。宋太祖时期在京城养兵十余万，地方养兵十余万，“使京师之兵足以制诸道，则无外乱；合诸道之兵足以当京师，则无内变。内外相制，无偏重之患”。唐代“安史之乱”爆发的一个重要诱因就是内外兵力不平衡。
宋人吕祖谦在《历代制度详说》卷十中认为，宋代兵力部署策略是“守内虚外”，即兵力集中于内。此说值得商榷，虽然宋代京师驻军保持了相当的数量，但与此同时，为了应付边患，宋朝也在边境保持了相当的兵力。
在宋初，为了统一天下，军队会持续调往边境；到宋太宗后期，契丹军队不断南下，北宋不得不将重兵驻扎于宋辽边境；宋仁宗时期，北宋与西夏连年征战，重兵长年部署于西北边境；南宋时，赵宋偏安一隅，前有金朝威胁，后有蒙古不断南侵，更不可能实行“虚外”政策。
因此，有宋一代，大致还是沿袭内外相制的策略。
第三，收夺地方财权。唐代形成藩镇割据局面的一个重要原因，便是地方财权掌握在节度使手中。收财权的第一步就是中央任命官员收夺由藩镇把持的地方财权。宋代地方分路、州、县三级。宋初在诸路设置转运使，负责将地方财赋收入运往中央；在州设置通判，负责监察地方财务账目，以牵制地方长官。收财权的第二步就是将天下财赋的支配权集中于中央，没有中央规定，地方不得擅自支配。天下州军的财赋收入，须由中央规定其可以支用的项目与数额，除中央规定运用的各项经费之外，其他一切财赋，地方均不得动用。
第四，派遣文官到地方做知州、知县，逐渐剥夺节度使对地方的控制权。宋代的知州，全称“知军州事”，《文献通考》卷六十三中有一段简要的叙述：“宋太祖开基，革五季之患，召诸镇会于京师，赐第以留之，分命朝臣出守列郡，号‘权知军州事’，军谓兵，州谓民政焉。其后，文武官参为知州军事。”这段话简述了宋太祖利用朝臣出任知州来削夺藩镇权力的过程：赵匡胤一方面将诸镇节度使集中到京师，予以高官厚禄；另一方面派遣朝臣（主要是文臣）到各州，掌管军政和民政。宋人将知州的设立视作赵匡胤的一大发明，但实际上知州制度的形成，在历史上经历了一个漫长曲折的过程。五代时就已有“知州”之名，但一般是临时状况，并未制度化。
宋初统一战争持续了不短的时间，一次性解除节度使的兵权也是不现实的，实际状况只能是逐步进行。宋太祖起初先是命令新夺取的各州直属朝廷，不再归属藩镇，然后利用各种机会向已有藩镇派遣文臣“权知州事”，这个过程在太宗朝也一直持续。直至宋真宗时期，知州制度才全面确定下来，此后，节度使通常不再到本镇任职，最终成为代表崇高级别、优厚待遇的荣誉职衔。
宋初收夺兵权的过程也是藩镇割据局面结束的过程，相比于军事上的统一战争，制度建设更加重要，改变五代以来的游戏规则，才是避免宋朝成为“第六代”的关键。这一过程也非一蹴而就，而是经历了半个世纪左右的努力才基本完成。本质上是军阀出身的赵氏兄弟，依靠自身掌握的军事实力，通过兵变上台，这是五代时期司空见惯的事情。他们对于五代时期政权频繁更迭的教训心有余悸，在夺取政权后依然保持了清醒的头脑，吸取了历史的经验，采取了有效的措施防止新的动乱出现。这些措施虽然以武力作为后盾，但实施过程中却很少兵戎相见。
赵氏兄弟出身卑微，重视优容武将，对元老勋臣除给予优厚的经济待遇外，还与其联姻，以保持其家族的政治地位，维持了政治局势的稳定。
收夺兵权只是事情的一方面，设计一套制度以防止新威胁的出现才是重中之重，这就是赵氏兄弟和他们的臣子一起完善的所谓“二府”体制。
“二府”是指中书门下和枢密院，两者共同构成政权中枢机构的核心。二府对举的局面在五代其实已露端倪，宋初则加以完善。中书门下简称中书，是正副宰相集体处理政事的最高行政机构，其办公场所被称作“政事堂”。
北宋前期官衔中带有“同中书门下平章事”的就是宰相，太祖乾德年间又设置了参知政事作为副宰相，一方面辅佐宰相，另一方面也起着牵制宰相的作用。枢密院在唐代本是宦官机构，随着宦官的权力扩大而地位日渐上升，掌握了兵权；五代时枢密院长官一般是皇帝的亲信，其权力之大超过了宰相。北宋枢密院负责统理军务机要，是国家的最高军政机构，长官称作枢密使或知枢密院事，副长官是枢密副使或同知枢密院事。
这一体制的核心就是“平衡”，这种平衡不仅体现在行政权与军事权的平衡，具体到二府内部有正副长官的权力平衡，枢密院和三衙还有调兵和管军的平衡。鉴于前代的教训，宋初还是以防止兵权旁落为主，由此，在枢密院长官的人选方面就特别重视，不论文武都必须是皇帝信任的人。
由于国内尚未统一，因此武将中依然有不少人出任枢密院长官，统一战争结束后，枢密院长官开始倾向于专用文臣。文臣掌兵，也是一种平衡，当这一做法制度化后，武将专权的可能性就大大降低了。仁宗朝时，狄青因功升任枢密副使，文臣群起而攻之，原因不在于狄青个人，而在于破坏了原先制度设计的平衡，当然这种平衡是以效率降低为代价的，一旦战争爆发，这种互相牵制的制度设计便会延误战机，造成军队战斗力的下降。
