从成吉思汗建立大蒙古国算起，元代官制形成及确立的过程可以分为三个发展阶段：以治理游牧部众为主要职能的草原官制阶段（1200年起）；以草原官制为核心而对各征服社会施行军事一行政间接统治的混合官制阶段（1210——1250年）；继承中原汉制的基本形式、同时又保留着诸多蒙古旧制成份的中央集权的官僚制阶段（1260年起）。
1204年，在与漠北最后一个强大对于即乃蛮塔阳汗部会战之前，业已奠定“合汗”地位的铁木真，按千户、百户编制对所属游牧部众进行了统一整编。 1206年铁木真正式称汗，遂在原先划分过的千户、百户基础上，将大蒙古国的全体游牧民编入126个千户、百户组织里。在这种军事一行政联合的统治体制下，很大一部分非孛儿只斤氏出身的旧部族贵族和成吉思汗功臣，取得了“明安讷那颜”（minggh an-u noyan，译言千户长）或“札温讷那颜” （jaghun——unoyan，译言百户长）的地位，成为替黄金家族管理和指挥领属部众的军事——行政官员。这些职位一般可以世袭。
根据蒙古高原的游牧分封制，对全体蒙古游牧民的领属权，像家产一样在黄金家族的内部进行分配。成吉思汗诸弟诸子，各分得一部分千户、百户作为领属部众，从而建立起各自的兀鲁思（ulus，由份民份地构成的具有一定自主性的政治单元），构成大兀鲁思内的“右手”诸兀鲁思和“左手”诸兀鲁思；大多数千户、百户则由大汗直接统领，称为“在内的兀鲁思”（qol-un ulus，或译作中央兀鲁思，“内地”）。按成吉思汗规定，无论是属于诸王兀鲁思还是中央兀鲁思的千户、百户那颜，其职位的封授、褫夺或承袭，都须由大汗亲自决定。但在诸王兀鲁思中，这项权力后来实际上转移到该兀鲁思汗的手里。千户长之上，又设左手、右手和中军三个万户长，是为分别辖制东翼直到今大兴安岭、西翼直至阿勒泰山，以及处于东、西两翼之间的中部诸千户的军事统帅。
在中央兀鲁思的汗廷内，最高的执政官员是札鲁忽赤（“断事官”）。蒙语札鲁忽（jarghu）译言法庭、听讼，所以早期汉语公文也有将札鲁忽赤直译为“断公事官”、“勘事官”的。实际上，大蒙古国时期的札鲁忽赤不止是司法行政官，而且是“总裁庶政”，全面负责户籍、赋役、狱讼和监察等事的最高行政长官。在断事官机构中，协助札鲁忽赤草拟文书、计点财赋、校阅户口青册的，则是称为必闍赤（bichikchi）的文书官。窝阔台三年（1231）“改侍从官名”，大必闍赤分别被授予中书令、中书省左丞相、右丞相等汉语称号，但它们不过是蒙古制度成份的官方汉语译名而已。草原体制下蒙古中枢机构的基本制度形式并没有改变。从后来的制度看，在蒙古高原以外被征服地区领有份民份地的各支诸王，也有权委任管辖本位下封邑事务的札鲁忽赤；他们还经常与大汗任命的治理该被征服地区的札鲁忽赤同署国事。惟成吉思汗时代草原国家中是否已存在诸王断事官制，尚不克知悉。
除了断事官机构外，怯薛也承担着大汗政府的部分重要功能。以千户长、百户长及富裕游牧民子弟及其随从构成的万人怯薛部队，是由大汗直接指挥的一支极具机动性的庞大常备军和中央禁军。它按四番轮直、三日一更的次第警卫大汗宫帐，并经管大汗冠服、弓矢、饮食、文史、车马、庐帐、府库、医药、卜祝诸事。蒙古制度不注重家政和国政的区别。大汗左右这些“服劳侍从执事之人”，多以亲信身份参与到汗庭处理政务的各种活动中去。他们经常被委为特使，到各地传达大汗政令或探访形势，或者作为对外使节出访邻国。当值的四怯薛长官，按例要参加御前会议，参定国是。在札鲁忽赤机构里也有怯薛代表“奉官署事”。轮值怯薛长经常利用侍奉大汗的机会，在各种非正式场合对大汗的人事、行政等各种决策施加影响。怯薛军还是大蒙古国军事、行政官员的储备队。
自1210年代后期末起，随着成吉思汗对南面和西面各毗邻地区发动的一系列大规模的军事扩张，统治地域很快超出了蒙古高原的范围。对西域的征服从一开始就在成吉思汗的亲自统率下进行，军政事务由大汗直接决定：中原地区的经略则自1217年起交由木华黎全面负责。这样，木华黎的“军政府”就成为全权统治蒙古本部以外地区的最早建立的一个最高级军事- 行政机关。他当时接受的官号为“太师”、“国王”（《蒙鞑备录》作“权皇帝”）、“都行省”。他的行帐，当设在今河北张北西南境的边城谢近。
木华黎受命的时候，对于中原汉地的军事征服，还远远没有完成。他的职责中最主要的方面，应当是军事性质的。他又拥有“都行省”的官号，这表明他在行政方面也兼有号令各汉人世侯“行省”（详下）的权力。在此前后，还有坐镇燕京的札八儿火者拥有“黄河以北铁门以南天下都达鲁花赤”的官号。但他的监临范围，实际上似仅限于旧金中都路地区。
对当时的蒙古贵族来说，被征服地区的存在，其首要的意义就在于它可以变成财富和劳动人手的源源不断的来源地。因此，在中原汉地，差不多从征服之初，就设有直接对大汗或木华黎军政府负责的、担负这方面职责的专门官员，汉文史料多以“行尚书六部事”、“行六部”等名之，按蒙古体例，则其身份可能都是必闍赤。西征结束后，成吉思汗从河中带回麻合没的滑刺西迷（即牙老瓦赤），“委付[他每]与[俺每的]众达鲁花赤一同，教管汉地的百姓每”。牙老瓦赤之子麻速忽，则受命掌管天山以南及河中诸城池。两人都应是以大汗“宣差”的必闍赤身份，主持上述地区的财赋征领等事的。窝阔台即位时，分别以耶律楚材、牙老瓦赤负责中原及西域赋调，不过是袭用乃父遗规而已。耶律楚材的署事地点当然是在燕京。
1234年春，蒙古灭金；现在它亟有必要将对汉地的战时军事管制及时地转变为更制度化、更有秩序的常规统治。于是窝阔台汗在同年秋即将曾经长期担任大兀鲁思札鲁忽赤的失吉忽秃忽调至中原汉地，正式建立了汗廷大断事官在汉地的分支机构“中州断事官”府暑。1236年，又在中原各地州县遍置达鲁花赤，地位在州县守令之上。原先主持财赋征调的必闍赤，现在成为燕京大断事官的属员和重要助手，专以“行尚书六部事”的汉名属之。对中州汉地实行统治和财赋征收的职责，遂从木华黎后嗣的军政府转移到燕京大断事官手中。元代汉人比附金朝旧制，将燕京大断事官府署称为“行尚书省”、“行省”，并将大断事官称呼为“丞相”， “行省丞相”。在中原汉地拥有份民及封邑的诸王勋戚，也有权任命各自的断事宫，代表他们的利益赴燕京行省“会决庶务”。诸王断事官，往往由诸王指派的其份地达鲁花赤兼任。
在窝阔台、贵由、蒙哥三朝，燕京大断事官府一直是汗庭大断事官派驻中州的常设分支机构。汉地的地方行政，虽然要在一定程度上受到燕京断事官和当地达鲁花赤的约束，但是总的说来，大部分实权还是操在一批乘乱而起的“世侯”手里。他们中很多人发迹于金末战乱中结寨自保的武装自卫运动，或者由农民起义领袖转化而来，或者是率军队归顺蒙古的旧金将领。根据蒙古制度，两军争战之际，能举州县之地降附者，即用为守令；听其自辟僚属，罪得专杀；其官职差不多可以世袭。这样的汉人“世侯”，遍布于北部中国各地。他们在向蒙古大汗纳质、输赋、入觐、奉调随蒙古军出征等等条件下，控制着地方上的行政、军事、财政、司法等大权。世侯中势力较大者，亦多仿效金末的行台尚书省制，将自己的统治机构称作行尚书省、行台或行省。例如以金山东西路为核心的严实，即仿金东平行省称山东西路行省、东平行尚书省或东平行台；石抹咸得不则仿效金中都行省，把自己的势力范围称作燕京行尚书省，与中州断事官府署的汉名同。此外还有张荣的山东行尚书省（济南行省）、石天应的陕西河东路行台等等。因为它们的地域大体与金代作为地方行政区划的路的范围相当，因此有的研究者称这些行省为“路的行省”。世侯们的行省虽与中州断事官府署的汉语官号相仿佛，但却从来没有人敢使用“丞相”的称谓；其主管财赋者，也只称“行左右司”，而不以“行六部”名之。
由上所述，如果从“路的行省”及其以下各个行政层次去考察，蒙古对中原汉地的政治统治体制，从一开始就不可避免地带有地方化的趋势。世侯们在各自势力范围内所采用的官制、行政区域划分、法律制度等，虽然未尽统一，但总的说来，基本上是中原王朝的有关制度、尤其是亡金遗制的沿用。但是，如果从高于“路的行省”的行政层次去观察，各地世侯都被置于直接对大汗负责的中州断事官及其所属必闍赤的辖制支配之下，同时蒙古政权还通过遍置于州县的达鲁花赤，把它对华北地区的监控贯彻到直接治理民众的最低层次的地方政府。可见大蒙古国对征服社会的间接军事一行政统治，乃是通过自上而下的蒙古制度与自下而上的当地制度之间相互交叉渗透式的结合来实现的。
蒙古对畏兀儿和河中、对阿姆河以西广大被征服地区的统治，与对汉地的统治差不多采取同样的方式。窝阔台初年，蒙古本部以外的被征服地区被划分为中原汉地和西域两大部分。到他统治的末期，又以阿姆河为界，将西域分为东西两部，分别派员统治。到蒙哥时代，出现了这三个被征服区及其统治机构的正式汉文译名，即燕京等处行尚书省、别失八里等处行尚书省（辖有今新疆及其以西的河中诸城）、阿姆河等处行尚书省（辖阿姆河以西地区）。这后两个“行尚书省”，像燕京行尚书省一样，也是汗庭大札鲁忽赤派驻在被征服区的常设分支机构，分别设立在别失八里（系从原先的忽毡迁至该地）和徒思城。穆斯林史籍往往称两处大断事官为“大异密（amir- buzurg＜yeke noyan）或者某某地区的“长官”（hajib，波斯语），称必闍赤为“兀鲁黑必闍赤” （ulugh bitikchi，ulugh）是突厥语，译言大，或者khatib，波斯语，译言书记官）：与汉地世侯地位相当的统治阶层，则多采用“篾力克”（malik，波斯语，地区世袭长官）的称号；派驻在各城池中的蒙古监临官，则称作basqaq或者sahna，蒙古语达鲁花赤或即来源于突厥语 basqaq，而salina则是basqaq在波斯语中的对译名词。在三大断事官行署建立以后，汗庭大断事官的权力就基本上局限于对漠北本部实施行政管理，以及协调中央断事官与它的三个分支机构之间相互关系的范围。
因此，大蒙古国在将其版图扩大到毗邻的诸农业社会的最初半个世纪里，实际上是把草原体制下的蒙古式行政中枢直接引入三大被征服区，利用大断事官制度和达鲁花赤制度来控制在各地专制一方的世侯或者篾力克，由此实现对于被征服地区的间接的军事一行政统治。这个制度体系，在十三世纪六十年代又发生了十分重大的变化。
1259年，第四任大汗蒙哥在四川攻宋前线病死。留守漠北的幼弟阿里不哥与正在江汉指挥作战的他的哥哥忽必烈之间，立即爆发了长达四年的汗位争夺战争。忽必烈利用汉地军力财力和政治资源的优势，最终夺得汗位。这一事件的历史影响极其深远。一方面，帐殿远在伏尔加河流域的术赤兀鲁思曾经是阿里不哥的支持者，从此演变成大汗政令所不及的一个独立政权；出镇波斯的宗王旭烈兀，则乘机割据坐大，发展成为与大汗保持着“宗藩”名义的相对独立的兀鲁思。另一方面，在忽必烈以汉地力量为基础战胜并且重新控制漠北“祖宗根本之地”的过程中，大汗的统治中心自然地从漠北转移到中原汉地，这又大大促进了大蒙古国统治体制进一步接纳汉制影响的必要性和可能性。十三世纪六十年代后元代官制的演变，正是在这样的背景之下发生的。
据《元史·世祖本纪》，中统元年（1260）三月，忽必烈即大汗位当日，“以祃祃、赵璧、董文炳为燕京路宣慰使”；翌月朔日，立中书省，但似乎仅任命了王文统为中书平章政事，张文谦为中书左丞。祃祃等三人的官号，据同时代记载实为“行六部于燕’。这正是燕京断事官所属大必闍赤的汉译官号。是知所谓“燕京路宣慰使”的辖制地域，实际是整个中原汉地。惟当时未任命燕京大断事官，恐怕由大必闍赤直接对王文统等人负责。忽必烈既没有完全恢复在此之前已存在几十年的燕京行尚书省建制，也没有依照旧例，给予受大汗委任接管汉地的大必闍赤以“行中书省”的名义，这表明他从即位之初，就试图突破大蒙古国的原有官制体系而进一步接纳汉法。这样的用心，也反映在汗庭中枢机构的组建形式中。中统初年，博尔忽曾孙、月赤察儿的胞兄木土各儿曾在开平行帐中担任“丞相”，当时的丞相正是大断事官一职的汉语译称。文献提到土别燕部线真在中统初的活动时，亦称他“线真丞相”，他很可能也是忽必烈即位时委任的大断事官。但这时的大断事官，其职权“惟专从卫宫阃诸事”，与从前相比似乎受到了很大的限制。另一方面，在新成立的“中书省”中出现了过去不曾用过的中书平章政事、中书左丞、右丞等汉语官号，这些直接指挥燕京大必闍赤的官员，呈现出从大断事官机构中游离出来，成为直接对大汗负责的朝中“执政”官员的趋势。
这样一种从蒙古旧制到新的制度体系的过渡状态，不过维持了很短一个阶段。忽必烈随即又对行政中枢体制进行了一系列的调整和改革。
中统元年七月，忽必烈裁撤燕京路宣慰使司，改立燕京行中书省，原燕京路宣慰使祃祃、赵璧分别担任燕京行中书省丞相、行省平章政事，行省建左右司为幕府，司置郎官八员参佐机务，并分别掌管左、右两房诸椽属及所司文牍事宜，此外又置架阁库官，奏事官、客省使等各色省属掾吏。收储玉器、缎匹的万亿诸库、提举汉地交钞和榷货等事的专设机构，这时也都直接隶属行中书省。为扩充机构的需要，汉地十道宣抚使举荐的数十名通晓钱谷簿书的儒士吏员，被驿召至燕听候任用。按中原王朝体制的框架构建中枢机构的意图，至此获得最初的实施。
作为大汗中枢机构的分支，首先完成体制转换的燕京行中书省，接着成为整个国家行政中枢向中原王朝制度体系过渡的重要依托。中统二年二月，燕京行省大小官员与其直接下属汉地十道宣抚使奉诏北上。是年夏秋，他们在开平与大汗的大必闍赤一起考校中原民户虚实，议定钱谷大计；讨论和制定对稳定当时汉地政治秩序最紧要的若干施政条画；与此同时，忽必烈在对燕京行省官员进行当面考察的基础上，将在汗庭的执政班子和燕京行省的建制合并起来，加以扩大，进行比较全面的机构调整和人员充实。五月，元廷对原先极不完备的中书省大加充实、扩展，形成，由中书省右左丞相（各两名）、平章政事、右丞、左丞、参知政事等组成的中书宰执会议（“都堂”）及其幕府机构左右司，直接受命于都堂的两个并列的下属职能部门是左三部（后来分为吏、户、礼三部）、右三部（后来分为兵、刑、工三部），由它们分别承办例行政务。中书省扩建后不久，又拟定将都堂及省府掾属分为两部分，一部分随驾“留中”，另一部分仍行署于燕京。中、行两省至迟在中统四年以前又再度合并，并将首脑机关驻地迁到燕京。
与前四汗时期的行尚书省、中书省不过是蒙古“国制”中大断事官行署、大必闍赤官员的汉语对译名称不同，中统以后的中书省及行中书省（详下）对草原旧制来说完全是外来的制度成分。正因为在蒙古国制中原不存在可以与它们相对应的制度成分，所以其机构及诸多官号只能以汉语音译的外来词汇形式进入当时的第一官方语言即蒙古语，如qing jungshu Shing （行中书省）、 dlingsang（丞相）、bingjangjingshi（平章政事）、yiuching（右丞）、sooching（左丞）、samjing（参政）等。
与燕京行中书省相并列，自中统元年起在汉地还设有另一个中枢分支机构，即秦蜀行省（又称陕西四川行省）。它的渊源，可以追溯到蒙哥汗于1257年从忽必烈手里收回关中后建置的“陕西行尚书省”。在燕京、秦蜀两大行省的辖区里，还陆续建立过一些从事征伐、括户、宣抚新降军民、颁行条格等专门任务的更带临时性的中枢分支，也称为行省，如山东行省、西夏中兴行省、北京行省、河东行省、南京河南府诸路行省、夔府路行省等等。中统后期，随着燕京行省与中书省合并，其辖境基本上转变为中书省的直隶政区，当时称为“腹里”。在腹里以外的那些地方，部分带临时差遣性质的中枢分支经过几番变动调整，逐渐演变为固定派遣在各地的常设中枢分支。至元后期，在较早平定的河南、云南、甘肃、陕西、四川、辽阳等地，行中书省建制先后确立。最早的原秦蜀行省被细分为甘肃、陕西、四川等几个政区。在新征服的南宋地区，则建立起江浙、湖广、江西、福建四个行省。这些行省的长官，不再以中书省官系衔，行省也就在这个时期从中枢机构派驻地方的分支演变为中书省领导下的最高一级地方行政机构以及最高一级的地方政区。
行省以下的行政区划实行路、府州、县制。路是在金朝总管府路的建制基础上逐渐细分或增设而形成的。大体说来，中统以前，汉地路的建置基本上是沿金旧制而略有调整。但这时的路还是一种军民兼管的单位。中统至元前期，因为在腹里周边地区设路，北方路分有较大的增加，其性质则因李璮之乱的平定和军民分职而转变为地方的行政建制；平宋以后，路作为府州的上级政区推广到南宋统治区，南方（包括四川）原安抚司路的治所和其他经济文化较发达的府级政区，现在多被列为或升格为路级政区。云南建省以后，也陆续在那里设路，为数多达三十余个，超过中书省直辖的腹里地区的路分总数。
路的下辖政区，分为三类。一类是靠近路治所在的直辖县；一类是路领州；还有一类是路领府，地位比路领州略高。路领州、府都可辖县，有些府还领有属州。此外，还有少数府、州不隶于路而直辖于行省。府的建制（含路领府和省辖府在内），全国不过三十余个，所以路的下级政区虽然府州并称，其实主要还是州。
行省对所辖路分的控制，也按远近的不同而有所区别。离省治较近（或离较近的腹里）的路分，直接受行省（或中书省）政令调度；较远的路分，则经由该行省（或中书省）派出的常设机构宣慰使司（宣慰使司都元帅府、安抚使司等）分辖加强与上级机关间的联系。宣慰使司管辖地区称为“道”。全国共设有二十余道宣慰使司或宣慰使都元帅府。
在中央和地方行政体系向中央集权化官僚制度过渡的同时，由枢密院——都元帅府（或都万户府）——各地万户构成的军事指挥系统，和由御史台、西台、南台及其所辖总共二十二道肃政廉访司构成的监察系统，也在至元后期逐渐定型。至此，元朝职官制度的基本形态，遂得以确立，并且差不多直到元末，未再发生重大变化。
