Trong pháp luật Việt Nam, chế định trách nhiệm kỷ luật hành chính được hình thành bắt đầu từ Qui chế công chức Việt Nam theo Sắc lệnh số 50-SL ngày 20 tháng 5 năm 1950 của Chủ tịch nước Việt Nam dân chủ cộng hòa và được phát triển liên tục từ đó đến nay. Tuy nhiên, vì nhiều lý do khác nhau, cả về khách quan và chủ quan, chế định trách nhiệm kỷ luật hành chính hiện hành vẫn chưa được chú trọng xây dựng để tạo cơ sở pháp lý cần thiết cho việc quản lý cán bộ, công chức nhằm bảo đảm pháp chế và kỷ luật trong hoạt động công vụ. Hiện nay, Nhà nước ta đang được xây dựng và hoàn thiện theo hướng Nhà nước pháp quyền xã hội chủ nghĩa, mà một trong những đặc trưng nổi bật của nó là đòi hỏi sự tuân thủ pháp luật và kỷ luật trong hoạt động công vụ từ chính đội ngũ cán bộ, công chức. Đương nhiên, để có được đặc trưng ấy phải thực hiện nhiều biện pháp khác nhau như giáo dục, tổ chức, xây dựng chế độ hợp lý đối với cán bộ, công chức, v.v. Nhưng dù thế nào thì biện pháp trách nhiệm kỷ luật cũng không thể thiếu được. Nó là biện pháp cưỡng chế nhà nước cuối cùng được áp dụng đối với cán bộ, công chức để duy trì trật tự hoạt động của bộ máy nhà nước. Do đó, đối với Nhà nước, cần xây dựng dựng hệ thống pháp luật hoàn chỉnh, trong đó, chế định trách nhiệm kỷ luật hành chính là chế định độc lập trong hệ thống pháp luật Việt Nam phải là công cụ pháp lý quan trọng và hữu hiệu không thể thiếu để quản lý và xây dựng đội ngũ cán bộ, công chức.