宋太祖建国初年，为加强皇权和军事阶层的稳定，决定加强中央集权，防止将领剥夺权利。建隆二年三月，宋太祖削去都点检这个重要的禁军职位。同年七月，宋太祖通过杯酒释兵权解除武官的军权，禁军的领导机构改为殿前司和侍卫司，分别由殿前都指挥使、步军都指挥使和马军都指挥使（三帅）统领。但是，三帅无发兵之权。宋朝在中央设立枢密院来负责军务。枢密院直接对皇帝负责，其他任何官员都不得过问。而枢密院虽能发兵，却不能直接统军，这样就导致统兵权与调兵权的分离。同时，宋朝经常更换统兵将领，以防止军队中出现个人势力，战争时战区司令皆由文官或太监担任，而且改变战略必须经过皇帝同意，对宋朝战力有负面影响。宋朝的建国兵力部署“守内虚外”，但在熙宁年后首都驻军减少。
宋朝实行自愿性的募兵制并且将灾年招募流民、饥民当兵，作为一项传统的国策，有社会福利性质，起到稳定政权作用。军队分为四种，即禁军、厢军、乡兵、藩兵。禁军是中央军，也是宋朝军队的主力。厢军是各州的镇兵，由地方长官控制。乡兵则是按机关抽调的壮丁。藩兵是防守在边境的非汉民族军队。
北宋中期以后对辽、西夏等国的战争，使得军事费用增加，对统兵将帅限制太多“权任轻而法制密”，将不专兵，动相牵掣，“元戎不知其将校之能否，将校不知三军之勇怯，各不相管辖，以谦让自任。”和军纪不明使宋军严重缺乏训练，终日“游戏于廛市间，以鬻巧诱画为业，衣服举措不类军兵”“卫兵入宿不自持被而使人持之；禁兵给粮不自荷而雇人荷之。”。张演评说：“宋朝之待武臣也，厚其禄而薄其礼。”王夫之指出：“宋所忌者，宣力之武臣耳，非偷生邀宠之文士也。”南宋军队的主力为屯驻大兵以及三衙。屯驻大兵战斗力较强，多属私人召募部队，如岳家军，有“撼山易，撼岳家军难”之说。这时朝廷控制军队的能力已经弱化，枢密院的权责也逐渐缩小。绍兴十一年，韩世忠﹑岳飞等将领的兵权相继被削减。