秦始皇有感封建諸侯是以往天下戰禍不息的根源，因此對地方的行政制度也進行改革，廢除分封，實行郡縣制度。郡縣制在春秋戰國時期已經萌芽，秦統一後把郡縣制確定下來，推行到全國各地。

郡是地方上最高的行政機構，長官由皇帝任免，不得世襲，郡下設若干縣，縣令、縣長由皇帝任免。郡縣制的推行，對於結束諸侯割據的局面，對於維護國家的統一，都具有重要的意義。