Theo Điều 4 và Điều 10 Luật thanh tra 2004, thanh tra nhà nước là việc xem xét, đánh giá, xử lý của cơ quan quản lý nhà nước đối với việc thực hiện chính sách, pháp luật, nhiệm vụ của cơ quan, tổ chức, cá nhân chịu sự quản lý theo thẩm quyền, trình tự, thủ tục được quy định trong Luật này và các quy định khác của pháp luật. Thanh tra nhà nước bao gồm thanh tra hành chính và thanh tra chuyên ngành. Pháp lệnh Thanh tra ban hành ngày 29/03/1990, lúc đó nhà nước thực hiện cơ chế quản lý kế hoạch hoá tập trung, bằng các biện pháp mang nặng tính hành chính. Hoạt động sản xuất, kinh doanh chủ yếu được tiến hành trên cơ sở các kế hoạch, mệnh lệnh hành chính. Mỗi đơn vị kinh tế được coi như đơn vị cơ sở của cơ quan nhà nước chủ quản. Vì thế, mục đích, nội dung, phương pháp tiến hành một cuộc thanh tra đối với cơ quan nhà nước cấp dưới hay đối với một doanh nghiệp về cơ bản là giống nhau. ở cơ chế kế hoạch hoá tập trung thì mọi hoạt động thanh tra khi đó đều mang tính hành chính. Hay nói cách khác, đó chính là thanh tra của cấp trên đối với cấp dưới, chứ chưa có sự phân hệ rõ ràng thanh tra chuyên ngành. Việc chuyển đổi cơ chế quản lý từ cơ chế kinh tế đã kéo theo một loạt những thay đổi. Đối tượng chịu sự thanh tra, kiểm tra đa dạng hơn, phức tạp hơn với sự gia tăng về số lượng các tổ chức kinh tế thuộc mọi thành phần kinh tế cũng như quá trình xã hội hoá nhiều lĩnh vực, trong đó Nhà nước không còn can thiệp trực tiếp bằng biện pháp hành chính, mà quản lý xã hội thông qua các công cụ quản lý vĩ mô, bằng luật pháp cho mọi thành phần kinh tế hoạt động và phát triển cũng như thực hiện chức năng thanh tra, kiểm tra, kiểm soát là chủ yếu. Trong cơ chế quản lý mới mục đích nội dung thanh tra đối với các doanh nghiệp không thể mang tính hành chính giống như thanh tra các cơ quan, đơn vị, cá nhân trong bộ máy nhà nước mà cần phải có sự thay đổi. Mỗi ngành, mỗi lĩnh vực của đời sống kinh tế-xã hội đều thuộc các cơ quan quản lý nhà nước. Vì thế, việc thanh tra, kiểm tra các đơn vị, cá nhân trong việc chấp hành pháp luật về từng lĩnh vực phải được tiến hành chuyên sâu, do các cơ quan quản lý nhà nước theo ngành, lĩnh vực thực hiện. Vì thế mà cơ quan thanh tra được tổ chức thành hai phân hệ như trên. Hơn nữa, sự phân loại của các cơ quan quản lý hành chính nhà nước theo phạm vi thẩm quyền thì có: cơ quan hành chính nhà nước có thẩm quyền chung (Chính phủ, Ủy ban nhân dân) và cơ quan hành chính nhà nước có thẩm quyền chuyên môn (Bộ, cơ quan ngang bộ). Mà các tổ chức thanh tra Nhà nước lại là một bộ phận của bộ máy hành chính nhà nước, có nhiệm vụ giúp các cơ quan quản lý nhà nước quản lý công tác thanh tra và thực hiện quyền thanh tra việc thực hiện chính sách pháp luật, xem xét, giải quyết các khiếu nại, tố cáo, như vậy đương nhiên cơ quan thanh tra cũng phải có sự tổ chức thành hai phân hệ như trên để đạt được sự thống nhất trong hoạt động quản lý nhà nước nói chung và đạt được hiệu quả trong hoạt động thanh tra nói riêng. Đó là 2 lý do cơ bản, cũng nói lên rằng việc tổ chức cơ quan thanh tra NN thành 2 phân hệ như trên là một tất yếu, một sự cần thiết và hoàn toàn hợp lý.