刺史之职为秦时正式设立，职责为监督各郡。“刺”为检举不法之意，“史”即皇帝所使。而据《宋书》记载，黄帝时即设四监以治万国，唐尧、虞舜之时则立十二牧，监、牧即后世之刺史。周朝又改称典。
宋书
秦朝设置刺史之后，汉武帝时又设部(州)刺史，督察郡国，官阶低于郡守。汉成帝时改称州牧，东汉初年又恢复刺史之名。汉灵帝时，又更名为州牧，位居郡守之上，执掌一州军政大权。
荆州牧 刘表
三国曹魏初年，废州牧之名，改置刺史，掌管民政，为一州之行政长官，形成州、郡、县三级地方制度。魏末晋初时，各重要之州或以都督领刺史之职，或以刺史加将军称号领兵，即所谓兵刺史，兼掌一州内军政大权。另有非皇族为刺史而无将军称号者则不领兵，称单车(或轻州)刺史，权力较轻。
大将军 曹爽
西晋武帝太康三年(282年)，实行军民分治，刺史罢去将军名号，不再领兵，刺史职责仅为监司。晋惠帝时，刺史又加将军称号，实行军民兼治。此时，握有军权的都督多兼领一州刺史，集军、民、刑、政大权于一身，并控制治所之外的属州，属州刺史则要受其指挥、督察，其权力之重可想而知。
西晋王朝奠基者 司马懿
东晋时期，刺史多自领治所之郡太守职务。南北朝以后，新设州郡日渐增多，州郡所辖之地日益缩小，致使刺史与郡守之间已难分伯仲，等同虚衔。