Chùa Báo Ân có nghĩa là lòng biết ơn báo đền “Ân”, “Đức”. Căn cứ vào bia đá “Viên Quang tháp nội bi ký” do tiến sĩ Đinh Công Vĩ dịch, người được thờ trong tháp có họ Bùi, tên húy là Tại Tâm, tên hiệu là Diệu Chấn, sinh ra ở xã Phí Trạch, huyện Thanh Miện. Qua 15 năm được nuôi dưỡng ở nhà Vương Trung có tư chất tốt, cho rằng Biện Thượng là ấp cũ, ngày khác trở lại chùa theo Đạo Phật, được bản sư truyền giáo, Giáo lý được khắc sâu vào lòng, vững vàng trước thời loạn. Thiền sư Tại Tâm qua 80 canh giờ luyện thiền để hỏa thiêu đã được những viên xá lỵ, những viên xá lỵ đó được đặt trong tháp Viên Quang được ghi lại trên bia hiện nay. Thời kỳ phong trào cần Vương chống Pháp cuối thế kỷ XIX, chùa Báo Ân còn là nơi thường trú và thường xuyên lui tới của các lãnh tụ và nghĩa quân Hùng Lĩnh dưới sự lãnh đạo của Tống Duy Tân. Thời kỳ trước cách mạng tháng tám năm 1945, chùa Báo Ân là nơi liên lạc và ẩn náu của các chiến sĩ cộng sản. Trong kháng chiến chống Pháp chùa là nơi nuôi dưỡng, chăm sóc và cứu chữa thương bệnh binh. Chùa Báo Ân gắn liền với lễ hội Rước nước diễn ra vào ngày 28/2 (âm lịch hàng năm).