Ngôi chùa nằm cách trung tâm thành phố khoảng 12km, nằm cạnh quốc lộ 10 nối liền giữa các tỉnh Quảng Ninh – Hải Phòng – Thái Bình – Nam Định – Ninh Bình, phía sau là quốc lộ 5 nối liền giữa Hải Phòng – Hải Dương và Thủ đô Hà Nội.

Theo ghi chép lịch sử, chùa có thể do dòng họ Lê Văn trong làng Hà Liên xây dựng, bia đá trong chùa có ghi lại niên hiệu trùng tu lần cuối cùng vào đời Hậu Lê cách đây hơn 300 năm trước. Chùa Cao Linh có diện tích vào khoảng 49.000m2. Trước mặt chùa là dãy núi Thiên Văn thuộc Kiến An, đằng sau là sông Hà Liên.

Thuở ban đầu, chùa được xây dựng chỉ gồm ba gian tiền đường, hai gian hậu cung, năm gian nhà tổ, ba gian nhà bếp cấp 4 mái thấp với mục đích chính là để du khách thập phương đến cúng bái và nghỉ ngơi. Vào những năm kháng chiến chống Pháp, chùa tham gia vào hoạt động chống Pháp cùng với cộng sản. Chùa đã bị thực dân Pháp đốt mất 20 gian, mãi đến năm 2001 nhờ hồng ân Chư Phật, nhờ đức lành của Chư Tôn Đức lãnh đạo Giáo Hội, sự quan tâm đồng ý nhất trí của chính quyền địa phương chùa được cúng cho Thượng Tọa Thích Thanh Giác, phó trưởng ban trị sự Thành Hội Phật Giáo Hải Phòng, trụ trì chùa Phổ Chiếu - Thành phố Hải Phòng về kiêm nhiệm trụ trì. Chủ trì cùng chư tăng Phật tử đã lên kế hoạch trùng tu và sửa chữa để được diện mạo như ngày nay.

Chùa Cao Linh sở hữu một kiến trúc nguy nga và đồ sộ, được pha trộn giữa nét đẹp cổ kính đậm chất phương Đông và nét đẹp hiện đại của kiến trúc phương Tây. Chùa Cao Linh sở hữu hệ thống tam cấp đồ sộ, bên trên là các mái cong có họa tiết hình rồng và họa tiết ngồi chầu. Thành chùa là hình Phật A Di Đà được chạm nổi cùng ngàn mây tạo một vẻ đẹp vô cùng rực rỡ và tôn nghiêm.

Chính giữa tam cấp là ba vị Tây Phương Tam Thánh được chạm trổ công phu và điêu luyện. Trên đỉnh của mái cao nhất tam cấp chính là hình ảnh bánh xe pháp luân tượng trưng cho sự luân hồi, trên nữa là đóa sen vô ưu thể hiện sự thanh tịnh vô hạn. Bước qua tam cấp là khuôn viên rộng lớn và vô cùng trang nghiêm, hai bên đường đi vào đại điện là các pho tượng Phật uy nghi được xếp ngay ngắn thẳng hàng, chính giữa là một hương án nghi ngút nhang khói, tất cả được bố trí vô cùng tinh tế và chính xác.

Ngoài ra trong chùa cũng có rất nhiều công trình đẹp và ấn tượng như các bảo tháp đặt di cốt của các trụ trì chùa Cao Linh, chiếc chuông đồng 3,2 tấn, bức bình phong bằng đá với 6 điều  được coi là tông chỉ của chùa. Tuy nhiên, điều làm cho du khách thập phương và đông đảo các Phật tử thấy tâm thanh tịnh và nhẹ nhàng lại chính là khu vườn nơi đức Phật Thích Ca Mâu Ni thuyết pháp cho các đại đệ tử của mình.

Trung tâm vòng tròn là một đài phun nước, bên cạnh là pho tượng Đức Phật Thích Ca an tọa khai giảng cùng chúng đại đệ tử trang nghiêm lắng nghe, tạo nên khung cảnh chiêm bái ngưỡng vọng tôn kính giúp quên hết lo âu, buồn phiền. Có thể nói từng khuôn viên, từng diện tích của ngôi chùa đã được trụ trì và những người thợ xây dựng với  lòng tâm đức và tài năng của mình để bố trí thật khéo léo, khoa học nhưng vẫn giữ được sự trang nghiêm, thành kính và tuân thủ các quy tắc cơ bản.

Với đường nét xây dựng độc đáo, nghệ thuật kiến trúc đậm đà bản sắc văn hóa Phật Giáo, Chùa là trung tâm sinh hoạt tín ngưỡng tôn giáo của những người con Phật trong khắp nội ngoại thành phố. Đây là điểm tham quan du lịch thu hút các du khách trong và ngoài nước và cũng là điểm nhấn nổi bật trong toàn cảnh khu danh thắng du lịch nổi tiếng Núi Voi.