中庸之道的形成也是经历了一个很长的过程的。早在五帝时期，尧、舜、禹就以“允执其中”作为治世的理念。《论语尧日》记：

尧日：“咨！尔舜！天之历数在

尔躬，允执其中。四海困穷，天禄

永终。”舜亦以命禹。尧告诫舜，让舜“允执其中”，而舜也以同样的话告诫禹。所谓“允执其中”，即诚实地保持着那正确的做法。据孔子说，舜后来的确是做到了。《中庸》记：

子日：“舜其大知也与！舜好问

而好察迩言，隐恶而扬善，执其两

端，用其中于民，其斯以为舜乎！”舜能把握过与不及这两端，将正确的意见施行于民，这便是舜对“允执其中”的运用。

到了周初，周公在《尚书酒诰》中又提出了“作稽中德”的思想。“作”即行事，“稽”即训合（《广雅释诂》及三念孙《疏证》）；而“作稽中德”即行事正确，合于中德。周公的出发点虽意在告诫康叔不要饮酒过分，但实际上三成为“中庸”思想的滥觞，并影响到了此后