宋初时期，继续沿用五代的旧有制度，设立了枢密院与宣徽院。枢密院，简称密院，又叫枢府或西府，与中书省（即政事堂，也称政府东府）形成了明确的对峙关系，从而被称为“二府”，各司其政，体现了文武两权的分立。

枢密院作为最高的军事机构，掌握了兵部的权力，并从宰相的管辖中分离出一部分军事职权。与唐代的宰相兼管文武的制度有所不同，若宰相不兼任枢密使，则只能负责行政事务。这一制度变化反映了当时政治结构的调整与权力的重新划分。枢密院的最高首长称为枢密使，副手则为副长官。在太平兴国四年（979年）正月，设立了专门负责签署枢密院事务的次副长官；到了太平兴国八年十一月，又设立了同签署枢密院事务的末副长官，加强了枢密院的事务管理。

在淳化二年（991年）九月间，张逊被任命为枢密副使，并承担知枢密院事的职责，成为正长官。同时，寇准与温仲舒同样以枢密副使的身份担任同知枢密院事，成为副长官。他们在职务上依旧保留枢密副使的称号，并享有相应的礼遇。之后，新任的知、同知枢密院事不再保留枢密副使的职称，这一变动实际上将枢密院的最高长官由枢密使降级为知枢密院事。从此以后，枢密使作为长官的职位逐渐以文官为主，实施“以文制武”的方针，展现出文官主导的治理理念。

枢密院所设的办事机构为承旨司。宋初时期设立了承旨和副承旨作为管理长官，承旨司下又设立了兵、吏、户、礼四个房间，其中兵房设有两名副承旨，其他各房则各设一名。除此之外，兵马司也设有副承旨，各房及司的副承旨下则配有主事、令史和书令史等职务。至淳化四年（993年），设立了都承旨作为长官，并后续增加副都承旨作为副长官。承旨司的职能不仅包括处理各种事务，还负责在殿廷上宣读来自殿前司及侍卫亲军司的奏章。

宣徽院则设有南院使和北院使，其地位在枢密副使之上。直到至道三年（997年）八月，宣徽北院使的地位调整为位于枢密副使之下，但一般情况下，其与参知政事和枢密副使的任命顺序相关，显示了其地位的接近性。

枢密副使经常会同时担任宣徽使的职务，反之亦然，宣徽使通常被视为晋升为枢密副使的一个重要跳板。在宣徽使缺位时，参知政事或三司使有时会临时代理此职务。宣徽院的职权逐渐扩展，部分职能开始侵占吏部、兵部以及殿中省的职权，导致职权的重叠与交叉。宣徽院的办事机构设有都勾当官和勾当官作为长官，并下设兵、骑、仓、胄四个案件以进行管理；在此之前还曾设立官员统管枢密与宣徽院各房的公事，但在至道三年八月后，该设立被取消，进一步明确了各机构的分工与职责。