在传说中的三皇五帝时期的原始社会阶段，我国已经有了言谏制度。
据《吕氏春秋》记载，尧有欲谏之鼓，舜有诽谤之木。
谏鼓也称朝鼓，后世也称为“登闻鼓”，设在朝堂门前两侧，百姓想进谏时，击鼓直接闻于天子。后世的登闻鼓，已经演变为击鼓鸣冤的工具。
谤木，也称诽谤木，华表木、交午木。相传在尧舜时期，统治者在朝廷或交通要道树立谤木，供百姓在其上书写谏言进谏。
设立专门行使谏言之职的历史可以追溯到虞舜时代：舜时曾命“龙”为“纳言”，出纳帝命；夏时有“遒人”，商时有“小臣”，周有“保氏”。
春秋战国时期，能够称霸诸侯的国家多多少少都得益于言谏制度。五霸之首齐桓公在相之下设有五官：大田、大行、大谏、大司马、大理。其中大行和大谏为监察官。
《邹忌讽齐威王纳谏》的典故，历来为读书人交口称颂。由此可见古代谏诤的方式主要有5种，按程度从轻到重依次排列为：讽谏、顺谏、规谏、致谏和直谏。用讽谏孔子提倡的，情不得已才直谏。
