于山还有为数众多的摩崖石刻。现存宋、元、明、清及近代的摩崖石刻113段，其中宋刻35段，明、清占大半。这些石刻大部分分布在鳌顶峰、金粟台、戚公祠、蓬莱峰等处。鳌顶峰上北宋淳化元年（990年）吕文仲的题名石刻，是福州宋代最早的摩崖石刻。山南的《南校场演武厅铭>219字，字径20厘米，全段高3.3米，宽4.55米，是福州面积最大的摩崖石刻。宋太守元绛手书的“金粟台”3个篆字，苍劲沉着；明万历年间闽县张炜所书的“平远台”行书，雄浑厚重；由宋代音乐家陈旸命名、高僧鸿份手书的“廓然台”3字，挺秀洒脱。这三台榜书，风格各异，都是福州著名的石刻。于山摩崖石刻，不但保存许多优秀的书法艺术，其中大部分还具有史料价值，明代督舶太监尚春的诗刻，就是一份福州对外贸易的史料。