隋朝建立后，两代君主在国家机关和制度体系方面的改革措施
自西晋末年以来，少数民族南下，北方陷入分裂局面，传统的华夏文化中心从北方转移到了南方，东晋以后，宋齐梁陈等南方政权自认为是华夏文明的正统所在。隋文帝杨坚以北方统一南方，在政治上和军事上虽然强于南方，但在传统文化方面，却难以与南方匹敌。
为了承续华夏文明的主流传统，杨坚在总摄北周朝政的时候，就已改蕃姓为汉姓。后来，他还致力于恢复传统的华夏礼仪制度，命牛弘、辛彦之等修订五礼。在建立宗庙和社稷坛的时候，他恢复了传统的“左宗右社”的规则，并下诏定隋为火德，服色尚赤。
制礼必作乐。当时，"太常雅乐，并用胡声"，"音律多乖，积年议不定"。平陈后，隋文帝得到了流传在南方的遗文旧物，重新确定了华夏正声，并于开皇十四年（594）颁行了新乐。这样，隋文帝通过制礼作乐，在文化上举起文化正统的旗帜，加强了国家的凝聚力。隋朝建国之后，为巩固新建立的政权并进一步统一全国，防止分裂割据再度出现，采取了一系列加强中央集权的制度措施。
隋文帝废除了北周按《周礼》设立的六官制度，调整后的中央机构，设置三师、三公以及尚书、门下、内史、秘书、内侍五省，御史、都水二台，太常、光禄、至尉、宗正、太仲、大理、鸿胪、司农、太府、国子、将作十一寺。
三师、三公之位虽然尊禁，位居正一品，但不置府属，实际上只是一种荣誉虚衔。秘书省掌图书典籍。内侍省掌侍奉宫掖，委以宦官。只有尚书、门下、内史三省才是真正的中枢权力机构，三省制成为隋代中央宜制的核心。三省各有分工：内史省为决策机关，掌出纳帝命，起草诏敕；门下省为审议机关，掌进规献纳，纠正违阙；尚书省为执行机关，掌军政庶务，敷奏万机。三省的长官内史令、纳言、尚书令知政事，为宰相之职。尚书省下设吏部、礼部、兵部、度支（后改为民部）、都官（后改为刑部）、工部等六部，与诸寺、台分别处理各类事务。
隋朝中央机构中三省六部制的确立，一方面顺应了魏晋以来中央机构变化的趋势，使政府职能部门地位突出、职责明确，另一方面又反映了现实政治的需要，分解了决策、审议、执行之权，使三省互相牵制，加强了皇帝对中央决策机构的控制能力。隋代厘定以三省六部制为核心的中央职官制度，对唐代乃至以后各朝的政治制度产生了深远影响。
隋朝对地方行政制度做了进一步的调整。东汉末年以来地方行政形成了州郡县三级制，机构数目不断增加，地方政府辖地日渐缩小。北周灭北齐后，废除了许多州郡。但是到大象二年（580），还有211州，508郡，1124县。
地方机构叠床架屋，名目繁冗，"或地无百里，数县并置；或户不满千，二郡分领”，造成了“具僚以众，资费日多，吏卒人倍，租调岁减”，“民少官多，十羊九牧"的状况。隋文帝于开皇三年按照"存要去闲，并小为大"的原则，“罢天下诸郡”，废除州、郡、县三级制，改为州（隋炀帝时又改州为郡）、县两级制。州设刺史，县设县令。这一调整，在一定程度上改变了过去机构臃肿、效率低下之弊，简化行政层次，提高了行政效率。
与废郡相联系，隋朝废除了曹魏以来长期行用的九品中正制，选官之权尽归中央吏部。废除汉魏以来州县长官辟举本地士人担任僚佐的旧制，罢州县乡官。把州县僚佐的任命权收归吏部；又规定州县僚佐必须回避本郡，任期三年，不得连任；建立考课制度，地方长官必须在每年年终到中央"朝集"，汇报工作，中央则经常派使臣巡视各地，考察政治得失。上述措施改变了地方豪强把持本地政务的局面，是对士族政治的致命打击，大大加强了中央对地方的控制。
隋朝继续沿用府兵制度，但对军队的指挥系统及兵役制度进行了重大的调整。为了集中军权，隋朝于中央设置左右卫、左右骁卫、左右武卫、左右屯卫、左右侯卫、左右御卫等十二卫，统领全国府兵。每卫设大将军一人，将军二人。十二卫直辖于皇帝。又将地方票骑、车骑府统一改为鹰扬府，由品级较低的郎将、校尉担任军府长官。为巩固府兵制度，开皇十年，隋文帝对府兵制度进行改革，诏令"凡是军人，可悉属州县，垦田籍账，一与民同。军府统领，宜依旧式。"这样，府兵于军籍之外，还列入州县户籍，从事生产，改变了前代兵民分治的现象。
府兵平日从事农耕生产，但其军府统领，保持不变，每年轮番到京师担任宫禁守卫，战时则奉调出征。这些调整不仅加强了皇帝对军队的控制，改善了军队的管理，而且提高了军队的战斗力。
开皇十年的诏令，还决定罢去山东、河南及北方缘边之地设置的军府。这样，军府就集中在关中，也有利于加强中央对地方的控制。北朝以来，法律滥用成习。及至北周，刑法尤为苛酷。为了改变这种状况，隋文帝于开皇元年（581）和开皇三年（583）两次命人修订刑律。开皇元年颁布的法律，减去了北周的一些残酷的刑罚条文。开皇三年，命苏威、牛弘等更定新律，又减除死罪81条，流罪154条，徒、杖等罪千余条，只保留了500条，是为《开皇律》。
《开皇律》分为名例、卫禁、职制、户婚、厩库、擅兴、贼盗、斗讼、诈伪、杂律、捕亡、断狱等12篇。条目精简，废除了枭首、鞣裂、孥戮、宫刑等前代酷法，其刑名分为死（绞、斩）、流、徒、杖、答五等。重罪有“十恶”之条，即谋反、谋大逆、谋叛、恶逆、不道、大不敬、不孝、不睦、不义、内乱。又有“八议”之目，即议亲、议故、议贤、议能、议功、议贵、议勤、议宾。隋炀帝即位后，于大业三年（607）再度颁布新律，是为《大业律》，共18篇，进一步减轻了刑罚。
隋朝在官吏选拔制度方面，也进行了重大的改革。南北朝以来，随着门阀士族的日趋没落和庶族地主势力的逐步上升，主要依据门资选官的制度已经难以通行。隋朝建立以后，废除了九品中正制，官吏的选拔和任用不再受门第的限制。开皇七年（587）正月，隋文帝诏令诸州岁贡士三人，到中央参加秀才、明经两科考试，正式设立了每年举行的常贡之科。除此之外，隋文帝也采用官吏举荐用人之法。早在开皇三年（583），就曾诏举贤良。开皇十八年（598），又命令以“志行修谨”、“清平干济”二科推举人才。
隋炀帝于大业三年（607）下令以孝悌有闻、德行敦厚、节义可称、操履清洁、强毅正直、执宪不挠、学业优敏、文才秀美、才堪将略和膂力骁壮等十科推举人才。隋炀帝时期继续对常贡之科进行改进，在保留秀才、明经科的同时，新设进士科，专门以试策取士，这使科举考试走上了制度化的轨道，逐渐成为考选官吏的一种主要制度。这种制度为庶族地主出身的士人开辟了参政的机会，扩大了统治的社会基础，促进了官僚体制的成熟，加强了君主对官吏选拔的控制，有助于加强君主专制的政治体系。
隋朝采取的上述措施，符合历史与社会发展的基本趋势，对于实现和巩固国家的统一起到了重要作用，尤其是典章制度方面的改革与创新，对后世产生了深远的影响。