職責
其職責顧名思義，是取“對非違（非法、違法）予以檢察”之意，權力最盛的時候大體包括對平安京地區的治安維護、緝拿審判及解決包括平民、貴族的民事問題等等。與中國封建社會的御史大夫、廷尉有相似之處。
影響
檢非違使擁有很大的權力，甚至在當時可能影響京城的決策和整個國家的走向。也正因此，一方面檢非違使廳這一部門的出現促使平安時代律令制下官職職能進行了再分配；另一方面，檢非違使的權力也隨著政治環境的變化在平安中、後期走向極盛，又在末期走向衰敗。
設立
檢非違使設立的具體時間並不可考，但可以確定是發生在52代嵯峨天皇執政的弘仁年間（810年－824年）。在此之前的律令制下京城外城的治安由左右衛門府負責，行政監察、風俗取締由彈正台擔任，民事訴訟與司法裁判權由刑部省掌握，另外還有與以上幾個京官相區別、屬於地方官的左（東側）右（西側）京職，則以京城的南北中軸線為界，分別統一管轄所有與行政、治安和司法有關的事情。而檢非違使最早正是出自其中的衛門府。在弘仁7年（816年）曾出現了由左衛門大尉兼任檢非違使的記載（《文德實錄》）。值得注意的是，在最初的設定中，檢非違使在管轄權力上直屬天皇，由藏人所負責，並以衛門府官員兼任的方式出現。雖然最開始它只包括官人（1名）、府生（1名）和火長（5名），可是在職權上被確定為與彈正台相當（《左右衛門府式》）。後來嵯峨天皇還特別通過勅宣（《別當宣》）的方式制定其長官為別當一級，並在後來的承和元年（834年）正式設立別當一職。
演變
隨著“藥子之變”的發生和嵯峨天皇對平城上皇的勝利，與曇花一現的觀察使相反，檢非違使自然而然地被保留了下來，而且還如火如荼地擴大部門與職權。
