Năm 1744, cư sĩ Lý Thụy Long (người gốc Hoa) đã quyên tiền xây dựng một ngôi chùa trên gò Cẩm Sơn, lấy tên là Sơn Can, sau đổi thành Cẩm Sơn. Năm 1774, thiền sư Viên Quang thuộc phái Thiền Lâm Tế Tông về trụ trì tại chùa, đổi tên chùa thành Giác Lâm. Thời kỳ này, chùa trở thành trung tâm đào tạo kinh điển, giới luật đầu tiên cho chư tăng ở Gia Định và Nam Bộ. Năm 1873, chùa còn là nơi in ấn, sao chép kinh sách, khắc bản gỗ kinh, luật và diễn Nôm một số kinh sách Phật giáo.

Sau nhiều lần trùng tu, kiến trúc chùa Giác Lâm hiện nay mang đậm phong cách chùa cổ Nam Bộ với mặt bằng hình chữ tam, gồm 3 hạng mục: chính điện, giảng đường và nhà trai. Trong đó, chính điện gồm 1 gian 2 chái, có kiến trúc theo kiểu nhà dân gian truyền thống với hệ thống các cột lớn khắc câu đối, sơn son thếp vàng. Xen giữa các hàng cột là các cửa võng được chạm trổ theo đề tài tứ linh, tứ quý, hoa điểu… Trong chính điện đặt 113 pho tượng Phật bằng đồng và gỗ quý. Đặc biệt, bộ tượng Thập Bát La Hán bằng gỗ, sơn son thếp vàng là minh chứng cho quá trình phát triển của Phật giáo ở Nam Bộ. Chùa còn có tượng Quan Thế Âm Bồ Tát dưới bóng cây bồ đề trong sân chùa. Cây bồ đề này do Đại Đức Narada từ Srilanka mang sang tặng Giáo hội Phật giáo Việt Nam vào năm 1953.

Nằm trước chính điện chùa là Bửu tháp Xá Lợi - nơi đặt Xá Lợi Phật - hình lục giác cao 32m, gồm 7 tầng. Khuôn viên chùa còn có 38 mộ tháp của các vị Tổ sư và tăng sĩ được dựng từ thế kỷ 19. Các cẩn đắp trên tường chùa và mộ tháp đều được đặt làm ở lò gốm sứ Bình Dương giai đoạn 1939 - 1945. Nghệ thuật trang trí trên các tháp mang phong cách kết hợp giữa văn hóa của các dân tộc ở Nam Bộ với văn hóa Trung Quốc, Ấn Độ, Pháp.

Chùa Giác Lâm được công nhận là Di tích lịch sử - văn hóa cấp quốc gia vào năm 1988.