秦始皇二十六年(公元前221年)，丞相王綰請封諸皇子爲燕、齊、楚王，得到羣臣的贊同，廷尉李斯力排衆議，主張廢除分封諸侯的制度，全面推行郡縣制度。
秦始皇接受了李斯的建議，把全國分成三十六郡，以後又陸續增設至四十餘郡，皇室任免郡縣的主要官吏，這些郡完全由中央和皇帝控制，是中央政府轄下的地方行政單位，中央集權的制度從此確立。
秦始皇二十八年(公元前219年)的嶧山刻石辭說：“追念亂世，分土建邦，以開爭理”;“乃今皇家，壹家天下，兵不復起”，這說明秦始皇認爲廢分封行郡縣是消除各地兵爭所必須的。
郡，是中央政府轄下的地方行政單位，其組織機構與中央政府略同，設郡守、郡尉、郡監(監御史)，郡守，爲一郡最高行政長官，掌全郡政務，直接受中央政府節制;郡尉，輔佐郡守，掌管全郡軍事;郡監，掌監察工作。
郡以下設縣或道，縣是秦朝統治機構中關鍵的一級組織，是從中央到地方政府機構中具有相對獨立性的一個單位，內地設縣，邊地少數民族地區設道，滿萬戶以上的縣設縣令，不滿萬戶的設縣長，令、長爲一縣之首，掌全縣政務，受郡守節制。
縣令下設尉、丞。尉，掌全縣軍事和治安;丞，爲縣令或縣長的助手，掌全縣司法。
郡、縣主要官吏由中央任免。
縣以下設鄉、裏和亭，鄉和裏是行政機構，亭爲治安組織，鄉設三老、嗇夫和遊徼，三老掌教化，嗇夫掌訴訟和稅收，遊徼掌治安，鄉以下爲裏，是秦國最基層的行政單位，裏設里正或裏典，後代稱里正、裏魁，以“豪帥”即強有力者爲之，其職能除與鄉政權職能大體相同外，還有組織生產的任務。
此外，還有司治安、禁盜賊的專門機構，叫做亭，亭有長，秦規定，兩亭之間相隔十里，設亭長，亭遍佈於城鄉各要地。
秦朝創下的一套中央集權國家政治制度在以後中國社會的歷史中，爲了鞏固統治，只有修修補補，基本框架不變。
