古代石碑的主要功能是记事、记人或者题名。寺庙里的石碑刻记与庙有关的事迹，包括寺庙的性质、建庙的经过、寺庙的兴衰，甚至还有为修庙出钱出力的人名等。农村祠堂里的石碑刻记着这座祠堂所属家族的历史、修建祠堂的状况、祠堂的规模等。四川成都武侯祠内有一块武侯祠堂碑，碑文记载了蜀国丞相诸葛亮的一生功德。北京颐和园万寿山前的半山腰上竖立着一块石碑，正面有清朝乾隆皇帝书写的“万寿山昆明湖”题字，背面刻记着修建清漪园（颐和园原名）的过程，所以它不仅是一块题名碑，同时也是记事碑。
这些石碑除了少数嵌在寺庙、祠堂等建筑的墙上成了建筑的一部分以外，大多数都独立存在而成为建筑群体的一个单体，由于石碑的体量比较小，因此它与华表、石狮子、影壁一样，被称为小品建筑。在有的建筑群中，石碑具有比较重要的作用，例如北京明十三陵、河北遵化清东陵、河北易县清西陵。在这些皇家陵墓建筑中，石碑成了一座皇陵的记事碑和题名碑。在明代十三座皇陵中，在陵墓建筑群的最前面都有一座“神功圣德碑”或“神道碑”，碑上刻记着在这里安葬的皇帝的“神功圣德”事迹。在陵墓最后的宝顶前面有一座“方城明楼”，楼上也立着一块石碑，碑上刻着安葬在这座陵墓中的皇帝姓名，例如，明长陵碑上刻的是“大明成祖文皇帝之陵”；明定陵石碑上刻的是“神宗显皇帝之陵”。因为这类石碑的意义重大，所以一前一后都位于皇陵建筑群的中轴线上，而且还专门建造了亭或楼保护它们。前面的石碑立在一座亭子内，称为碑亭。亭呈方形，四面有门洞，上为重檐歇山屋顶。有的在碑亭外四角立着四座华表，更增添了这座石碑的气势。后面的石碑立在一座方形的楼上，楼下为砖筑城门座，城座上建有重檐歇山顶的碑亭，故称“方城明楼”，它位于帝王地下墓室的宝顶之前，相当于普通坟墓墓碑的位置。
有些寺庙，由于历史悠久，记载这座寺庙经历的石碑也不止少量几块。例如，山东泰安泰山下的岱庙，这是历代封建皇帝祭拜泰山，举行封禅大典的地方，传说始建于秦汉，如今庙内建筑虽多为明清时期所建，但自古留下的石碑却多达150余座，其中有珍贵的泰山秦碑，刻有唐代诗人杜甫名诗《望岳诗》的“望岳碑”等；陕西省西安市有一片碑林，这是集中保存历代石碑的地方，早在唐代末期就开始建立，至宋元祜五年(1090年)，又将唐代开成年间镌刻的石经碑刻集中到这里，还为它们建造了专门存放的建筑。经过历代的陆续经营，至今保存有自汉、魏以来至明、清各朝代的石碑共2300余座，成为全国最大的石碑集中地、一座名副其实的石碑之林。北京有一座大正觉寺，建于明代，寺内建筑已毁，但保留着一座建于明永乐年间的金刚宝座式佛塔。近些年，北京市文物单位利用这座寺庙，在这里建立了“石刻博物馆”，将散落在北京各处的石碑移至寺中集中陈列保管，如今已达百余座，并在寺内举办石刻艺术展览，成为北京研究石刻艺术的一座小“石碑林”。
