Thảo Cầm Viên nguyên là vườn Bách Thảo do Pháp xây dựng vào năm 1864, dựa theo quy hoạch của vườn thực vật Hoàng đế Louis XIII của Pháp thời đó, để làm nơi bảo tồn động vật và ươm cây. Ban đầu, công trình có diện tích 12ha, tọa lạc ở phía đông bắc rạch Thị Nghè. Năm 1865, Pháp cho mở rộng diện tích vườn lên 20ha, đồng thời mời ông J.B. Louis Pierre, người phụ trách chăm sóc thực vật của vườn Bách Thảo Calcutta (Ấn Độ) sang làm giám đốc vườn. Vườn Bách Thảo chính thức mở cửa đón khách vào năm 1869.

Năm 1924, khuôn viên vườn được mở rộng thêm 13ha ở bờ bắc rạch Thị Nghè. Năm 1926, để tưởng niệm những người Việt tử trận khi đi lính cho Pháp trong Thế chiến thứ nhất, Pháp đã cho xây dựng cạnh cổng chính của vườn một Đài tưởng niệm (nay là đền Hùng Vương) theo kiến trúc các lăng tẩm ở Huế. Năm 1927, Pháp cho dựng thêm cầu Ông Nghè bắc qua rạch Thị Nghè để nối liền hai phần vườn, đồng thời khởi công xây dựng viện bảo tàng Blanchard de la Bross (nay là bảo tàng Lịch sử Việt Nam tại TP. Hồ Chí Minh) theo kiến trúc cung điện Mùa Hè ở Bắc Kinh trong khuôn viên vườn. Sau đó, một tượng voi bằng đồng với tạo hình và chạm khắc theo phong cách nghệ thuật Thái Lan đã được dựng ở bên phải đền Hùng Vương.

Năm 1956, vườn Bách Thảo được quy hoạch xây dựng lại và đổi tên thành Thảo Cầm Viên. Từ năm 1984 đến 1989, Thảo Cầm Viên tiếp tục được cải tạo với quy mô lớn, đặc biệt là việc xây dựng chuồng trại phù hợp với từng loài thú. Theo số liệu thống kê, Thảo Cầm Viên hiện có hơn 590 đầu thú thuộc 125 loài, 1.800 cây gỗ thuộc 260 loài, 23 loài lan nội địa, 33 loài xương rồng, 34 loại bonsai và 20ha thảm cỏ xanh. Ngoài khu vườn thú, khu trồng cây cảnh và sưu tầm phong lan, Thảo Cầm Viên còn có khu vui chơi, giải trí dành cho trẻ em.

Thảo Cầm Viên đã chính thức trở thành thành viên của Hiệp hội các vườn Đông Nam Á kể từ năm 1990.