Theo như thần phả của đền núi Hầu (xã Yên Thắng, Yên Mô, Ninh Bình) thì Cao Sơn đại vương là Lạc tướng Vũ Lâm, con thứ 17 vua Lạc Long Quân, khi đi tuần từ vùng Nam Lĩnh đến vùng Thiên Dưỡng, đã tìm ra một loài cây thân có bột dùng làm bánh thay bột gạo, lấy tên mình đặt tên cho cây là Quang lang (dân địa phương vẫn gọi là cây quang lang hay cây búng báng).
Tại đây, thần đã dạy bảo và giúp đỡ người dân làm ăn sinh sống đồng thời bảo vệ khỏi các thế lực phá hoại vì vậy đã được nhân dân lập đền thờ. Thần Cao Sơn cùng với thần Thiên Tôn và thần Quý Minh là ba vị thần trấn ngự ở ba cửa ngõ phía tây, đông và nam của cố đô Hoa Lư.
Ngày nay đền thần Cao Sơn được thờ trong khu vực quần thể chùa Bái Đính. Nhưng chính đền thì phải ở đất Nho Quan. Thần tích của đền Kim Liên, trấn Nam của Thăng Long cho biết quê của Cao Sơn ở Phụng Hóa (Nho Quan, Ninh Bình). Nay là đền Láo tại xã Văn Phú của huyện Nho Quan.
Theo thần phả đình làng Lỗi Sơn (Gia Phong, Gia Viễn, Ninh Bình), thì Tản Viên Sơn Thánh đã đưa quân về vùng Tràng An lập đồn. Tản Viên Sơn Thánh truyền binh sĩ chia làm ba chủ: Sùng Công đóng đồn ở khu Ðồi Khoai (thuộc xã Yên Lão, Phụng Hóa, Nho Quan). Hiền Công lập đồn ở xã Vân Cái làm phòng tuyến, còn Sơn Thánh lập đồn ở xã Sơn Dược.
Sùng Công là Cao Sơn vì chữ Sùng là dịch Nho của chữ Cao. Hiển Công là Quý Minh vì Hiển là dịch Nho của chữ Minh.
Trong các thần tích thì Cao Sơn được gọi là Lạc tướng Vũ Lâm. Tên này có thể giải nghĩa như sau. Sơn là quẻ Cấn trong Bát quái, chỉ hướng Nam xưa, nay là hướng Bắc. Cao nghĩa là thủ lĩnh, vua. Vì thế Cao Sơn tương đương với một loạt các từ Lạc Vương, Nam vương. Vũ Lâm như vậy là ghi âm của từ “vua Nam”.
Truyền tích Cao Sơn ở Ninh Bình còn gắn với loài cây búng báng là loài cây được Cao Sơn phát hiện có thể dùng làm bột bánh thay bột gạo cho nhân dân ở đây. Vì thế loài cây này được gọi là Quang Lang… Thực ra Quang Lang hay Quan Lang nghĩa là vua Nom (Quan là nhìn, là nom), cũng là Nam vương ở trên.
Những cái tên Vũ Lâm, Quan Lang trong truyền tích Cao Sơn khẳng định thêm nhận định Cao Sơn là thủ lĩnh phương Nam. Vì thế phương trấn của Cao Sơn phải là phía Nam, không phải phía Tây như vẫn nghĩ.
Để đến được đền Cao Sơn phải đi hết hang sáng có một lối dẫn xuống sườn thung lũng của rừng cây xưa mới tới nơi thờ tự vị thần cai quản vùng núi Vũ Lâm. Tương truyền, Đinh Bộ Lĩnh từ thưở còn hàn vi đã được mẹ đưa vào sống cạnh đền sơn thần trong động. Khi Đinh Tiên Hoàng đế dựng kinh đô Hoa Lư cũng cho xây dựng 3 ngôi đền để thờ các vị thần trấn giữ ở 3 vòng thành.
Theo đó, thần Thiên Tôn trấn giữ cửa ngõ vào vòng thành phía Đông, thần Quý Minh trấn giữ cửa ngõ vào thành Nam và thần Cao Sơn trấn giữ cửa ngõ vào vòng thành phía Tây. Ngôi đền thần Cao Sơn hiện tại được tu tạo có kiến trúc gần giống với đền Thánh Nguyễn, cũng xây tựa lưng vào núi, có hành lang ngăn cách với thung lũng ở phía trước.
Theo truyền thuyết, thần Cao Sơn là một trong 50 người con của Lạc Long Quân - Âu Cơ. Đền thờ chính của thần ở huyện Phụng Hóa (Nho Quan, Ninh Bình). Vị thần này có công phù trợ quân Lê Tương Dực diệt được Uy Mục, sau cũng được dân làng Kim Liên rước về thờ và được phong là Cao Sơn đại vương trấn phía Nam kinh thành, một trong Thăng Long tứ trấn.
(Kỳ cuối: Trấn Tây thờ đức thánh Nguyễn tức Không Lộ quốc sư)
