自古以來，中國有不少教育家雖然對教育目的、任務持有不同見解，但是都重視知行統一的原則。孔丘要求弟子"訥於言而敏於行"(《論語·里仁》)，認為“言而過其行”(《論語·憲問》)是可恥的。墨子提出“強力而行”的主張,認為“士雖有學，而行為本焉”(《墨子·修身》)。王守仁主張“知行合一”,認為“知是行之始,行是知之成”(《王文成公全書》卷一《傳習錄》上)，要人們注重“真知即所以為行，不行不足謂之知。"(《王文成公全書》卷二《答顧東橋書》)。王夫之的“行可兼知,而知不可兼行”（《船山遺書》第十一冊,《尚書引義》卷三《說命》）的觀點，要求行先知後，知行並進，反映了古代教育家注意行為實踐的思想。
無產階級德育的知行統一觀，是以辯證唯物主義的認識論為理論根據的。辯證唯物主義的認識論認為人們的思想品德是在社會實踐中形成的，但共產主義的思想、觀點不可能在實踐中自發形成，必須通過有意識的、系統的培養。因此，在思想品德教育中必須把理論教育和實踐鍛鍊結合起來。知行統一原則反映了社會主義教育目的和要求。中國學校的教育目的是培養有社會主義覺悟的有文化的身體健康的勞動者，他們應該是理論和實踐統一、言行一致的人才。這條原則也反映了思想品德心理結構的要求，道德認識和道德行為都是構成思想品德心理結構不可缺少的組成部分。
知行統一原則可以通過政治理論課或思想品德課教學，班主任的思想教育和共產主義青年團、少年先鋒隊組織的活動以及各種社會實踐來實施，要在學生中樹立言行一致、實事求是的思想作風，引導學生把獲得的政治思想和道德觀點、信念轉化成為行動。在檢查和評定學生的思想品德時，既要聽其言，更要觀其行。
