《说文》：“碑，竖石也。”碑之初名，始于周代，其义有三：①指宫寝庠序中庭测日景之石。《仪礼·聘礼》：“东面北上，上当碑。”郑玄注：“宫必有碑，所以识日景，引阴阳也。”“其材宫庙以石。”②庙中系牲之石。《礼记·祭义》：“既入庙门丽于碑。”郑玄注：“丽，犹系也。”孔颖达疏：“君牵牲入庙门，系着中庭碑也。王肃云：以纼贯碑中。”③墓所下棺之大木，形如碑。《礼记·檀弓》：“公室视丰碑，三家视桓楹。”郑玄注：“丰碑，大木为之，形如石碑。
于椁前后四角树之，穿中于间为鹿卢，下棺以繂绕。”由此可见，早期碑的形制与后来碑的形制是不同的。据近人马衡考证，刻文于碑是汉以后的事。秦始皇二十八年(公元前219年)登泰山，刻石纪功，只称“刻石”，未尝称“碑”。
《凡将斋金石丛稿·中国金石学概要》云：“碑：用以刻辞，果始自何时?曰，始于东汉之初，而盛于桓、灵之际，观宋以来之所着录者可知矣。汉碑之制，首多有穿，穿之外或有晕者，乃墓碑施鹿卢之遗制。其初盖因墓所引棺之碑而利用之，以述德纪事于其上，其后相习成风，碑遂为刻辞而设。故最初之碑，有穿有晕。
题额刻于穿上晕间，偏左偏右，各因其势，不必皆在正中。
碑文则刻于额下，偏于碑右，不皆布满。魏、晋以后，穿晕渐废，额必居中，文必布满，皆其明证也。”碑的正面谓“阳”，刻碑文；碑的反面谓“阴”，刻题名；碑的左右两面谓“侧”，亦用以刻题名。也有碑阳、碑阴均刻碑文的。有的碑文过长，从碑阳至碑侧、碑阴旋转而刻。碑首称“额”，为标题，篆文居多。四周多刻有蟠螭、蟠龙等，甚精美；亦有质朴者，只作圭首状。
碑座称“趺”，有龟趺、方趺等不同形式。关于碑的名义缘起、碑的形制格式等，前人考据甚详。宋欧阳修《集古录跋尾》，元潘昂霄《金石例》，明王行《墓铭举例》，清黄宗羲《金石要例》，清牛运震《金石图》，清王昶《金石萃编》，清王芑孙《碑版广例》，清梁玉绳《志铭广例》，均可参阅之。