Theo tài liệu ghi lại thì chùa Phụng sơn đã được xây dựng từ khoảng những năm đầu của thế kỷ XIX, dưới thời vua Gia Long triều Nguyễn (1802 - 1820) trên nền một ngôi chùa Khmer cổ kính đã bị hoang phế. Lúc bấy giờ Phụng Sơn chỉ là cái am nhỏ.
Tương truyền rằng trên đường vân du hành đạo từ Trung vào Nam, thiền sư Liễu thông, pháp danh Chơn Giác, tục danh Huỳnh Đậu (1735 - 1840), người gốc Thanh Hóa, đã đến vùng đất Gia Định, dừng chân bên một gò đất cao, dưới chân gò là một bầu sen bao quanh trong xanh mát mẻ. Thấy cảnh trí u nhàn thiền sư Liễu Thông đã quyết định dựng lên một Thảo Lư tại gò đất ấy. Mới đầu ngôi Thảo Lư rất nhỏ với mái lá đơn sơ, thờ Phật (tượng Phật của chùa Khmer cũ còn lại). Theo lời kể lại của các vị cố lão quanh vùng khi ngôi chùa Khmer rời đi, mọi đồ thờ tự đều được tải đi bằng con Bạch Tượng. Tuy nhiên, khi con Bạch Tượng vừa mới ra tới hông chùa ở hướng Tây Bắc thì sụp chân làm đổ nhiều đồ thờ tự xuống bàu sen quanh chùa. Về sau đó có người vớt lên một pho tượng Phật bằng đồng và mang vào thờ trong chùa cho đến ngày nay. Dân gian có lúc gọi tên ngôi Thảo Lư của Thiền sư Liễu Thông là chùa Gò bởi nó tọa lạc trên một gò đất cao.
Vào những buổi chiều, tổ sư Liễu Thông vẫn thường lần chuỗi hạt, đi niệm phật quanh bốn phía gò đất. Một ngày nọ, Tổ sư đang đứng trước Thảo lư, bỗng thấy một con chim Phụng từ đâu bay đến đậu trên cành cây Ngô đồng và cất tiếng hót véo von. Nhận thấy việc chim Phụng xuất hiện là điều hiếm có và là điều lành nên tổ sư Liễu Thông liền đặt tên chùa là chùa Phụng Sơn.
Chùa Phụng Sơn là một trong những ngôi chùa cổ còn lại của Nam Bộ, với đầy đủ sắc thái đặc thù từ kiến trúc, ngoại cảnh cho đến lịch sử, nghệ thuật.
Từ khi thành lập đến nay, chùa đẫ trải qua 9 đời trụ trì và hai lần trùng tu lớn. Lần thứ nhất do Thiền sư Tuệ Minh tổ chức từ năm 1904 đến năm 1915. Nhiều pho tượng ở chùa được nhóm thợ Sa Đéc tạo tác trong thời gian này. Lần thứ hai vào năm 1960, vẫn giữ kiểu kiến trúc cổ với bộ khung gỗ và mái ngói âm dương. Điện Phật được bày trí tôn nghiêm. Chùa có khoảng 40 pho tượng thờ chủ yếu là tượng gỗ sơn son thiếp vàng trong đó có một số pho tượng quý như bộ tượng Di đà Tam Tôn, bộ tượng Ngũ Hiền thượng kỳ thú, tượng Phật bằng đá dát vàng, tượng ngài Tiêu Diên bằng gốm. Ở nhà tổ còn có tượng Phật Nhật Bản, tượng Phật Thái Lan. Bên hành lang chánh điện của chùa Phụng Sơn, người ta còn thấy có một trang thờ Linh Sơn Thánh Mẫu, là một trong những vị thần được tôn kính và thờ tự phổ biến ở Nam Bộ
Trải qua nhiều lần trùng tu, chùa Phụng Sơn đã được công nhận là di tích lịch sử văn hóa, loại di tích kiến trúc nghệ thuật theo Quyết định số 1288/VHQĐ ngày 16 tháng 11 năm 1988 của Bộ Văn hóa. Bên cạnh đó chùa Phụng Sơn còn là di chỉ một khảo cổ học có tầm cỡ. Vào các năm 1988 và 1991, các nhà khảo cổ học đã tiến hành khai quật tại khu đất ở vườn chùa và phát hiện nhiều hiện vật như mặt người bằng đất nung, đồ gốm... thuộc văn hoá Óc Eo. Trước đó, nơi đây cũng đã tìm thấy một pho tượng Phật bằng đồng theo phong cách Thái Lan. Những kết quả này cho thấy rằng cách nay gần 15 thế kỷ, chùa Phụng Sơn chính là địa điểm của 1 ngôi đền thờ Bà La Môn của người Phù Nam, thuộc nền văn hoá Óc Eo./.
Diệu Thương