Công viên Đồi Cao nằm trên địa bàn phường Ngô Quyền thành phố Vĩnh Yên, hiện công trình đã hoàn thành và đi vào khai thác, sử dụng đáp ứng nguyện vọng của người dân địa phương về địa điểm vui chơi giải trí.
Công viên có tên gọi Đồi Cao, bởi đây là địa danh có tính lịch sử và là cách gọi quen thuộc, ăn sâu vào tiềm thức, tình cảm của đa số người dân thành phố Vĩnh Yên nói chung và người dân hai phường Đống Đa và Ngô Quyền nói riêng.
Đồi Cao là tên nôm của núi An Sơn - là một trong ba ngọn núi tiêu biểu của thành phố được thể hiện ý tưởng trên lô gô của thành phố Vĩnh Yên bao gồm: Đinh Sơn (núi Đinh nằm trên địa bàn của phường Khai Quang, TP Vĩnh Yên và hai xã Kim Long của huyện Tam Dương, xã Hương Sơn huyện Bình Xuyên), Lộng Sơn (núi Trống thuộc phường Khai Quang) và An Sơn (khu Đồi cao ngày nay).
Công viên 29-12 là tên gắn với kỷ niệm 120 năm đô thị Vĩnh Yên. Ngày 29-12-1899 tỉnh Vĩnh Yên được thành lập, trung tâm tỉnh lỵ được đặt tại một vùng đất thuộc xã Tích Sơn được gọi là Vĩnh Yên, cái tên Vĩnh Yên chính thức có từ đó.
Đường Kim Ngọc là con đường mang tên cố Bí thư Tỉnh ủy Vĩnh Phú (gồm Vĩnh Phúc và Phú Thọ, đến năm 1997 tách ra Vĩnh Phúc, Phú Thọ). Kim Ngọc (1917-1979) là nguyên Bí thư Tỉnh ủy tỉnh Vĩnh Phú, người được xem là “cha đẻ của khoán hộ” hay còn gọi là “khoán mười”, “cha đẻ của Đổi mới trong nông nghiệp” ở Việt Nam. Đường Kim Ngọc được xây dựng để từng bước đồng bộ hóa chỉnh trang đô thị, hoàn chỉnh hệ thống các tuyến đường đô thị trong thành phố Vĩnh Yên, xây dựng hình ảnh đô thị văn minh hiện đại.