Chùa thờ Phật và còn hợp tự, trong đó 1 vị Thành hoàng của làng Xã Đàn (Xã Tắc cũ). Vị Thành hoàng ấy theo truyền thuyết dân gian và sắc phong là Bảo Hoa công chúa, có rất nhiều công lao trong việc giúp Lý Thường Kiệt phá tống, bình Chiêm để bảo vệ đất nước Đại Việt. Sắc phong Cảnh Thịnh 4 (21-5-1796) của triều đại Tây Sơn là bằng chứng cụ thể về công lao của bà.

          Chùa được dựng từ xa xưa, những tấm bia còn lại sớm nhất là bia năm Quang Thiệu 5 (1520) đời vua Lê Chiêu Tông (1516 -1522) nói rằng chùa được xây dựng từ xa xưa và đến những năm tháng này các hộ chủ hưn công tu tạo. Theo truyền thuyết, Bảo Hoa công chúa được thờ tự ở chùa Xã Đàn chính là chị gái của anh hùng Lý Thường Kiệt. Bà giỏi cả văn lẫn võ. Hiện vật còn lại trong chùa là 1 cột đá dài hơn 1m, nằm ở cạnh giếng chùa. Đây là một di vật văn hóa quý có hình ảnh như chùa Một Cột, mà chỉ thấy xuất hiện ở thời Lý. Tập Việt sử thông giám cương mục ở triều Nguyễn ghi lại “Cùng với quá trình xây dựng kinh thành Thăng Long, vào năm 1048 dưới triều đại Lý Thái Tông, đàn Xã Tắc đã được xây dựng ở phía tây nam kinh thành mà hiện nay dấy tích ta còn thấy rõ ngay bên chùa Xã Đàn”. Từ đây có thể đoán định và xác nhận rằng chùa Xã Đàn có từ buổi đầu Kinh thành Thăng Long cho tới tận hom nay, cùng thời với chùa Đồng Cổ, nơi hội thề bảo vệ non sông xã tắc.

          Chùa Xã Đàn vào những năm kháng chiến chống Pháp đã là nơi tập trung của dân quân tự vệ, nơi tạm trú sau các trận đánh. Chùa đã góp hàng tấn thóc gạo cho bộ đội và cũng là nơi băng bó chăm sóc thương binh. Chùa Xã Đàn còn là nơi chữa bệnh cho nhân dân trong vùng, mà đến nay vườn cây thuốc của chùa vẫn còn rất nhiều những cây thuốc quý. Đây là nét điển hình của một chùa Phật giáo Việt Nam.

          Ngoài cột đá nói trên, dấu vết xưa nhất của chùa gốm các công trình kiến trúc chính sau: chùa chính, nhà Tổ, nhà Mẫu, nhà khách và tháp mộ các vị sư đã viên tịch tại đây, trong vườn cây rộng lớn. Kiến trúc xưa nhất còn lại là các viên gạch vồ của thế kỷ XV-XVI. Chùa chính đựng theo kiểu chữ Đinh, quay hướng đông nam, có 4 gian khá rộng. Năm bộ vì của Thượng điện có 3 dạng kết cấu khác nhau: vì ván mê, vì chồng rường giá chiêng, vì chồng rường con nhị. Nhà Tổ có 4 gian xây ghép vào phía tường mặt bắc của Hậu cung.

          Nhà Mẫu còn gọi là đền vì đình và đền Xã Đàn khi bị phá đi thì mọi di vật còn lại được chuyển về chùa này và được thờ tại đây. Nhà Mẫu được xây dựng liền với Hậu cung.

          Chùa còn nhiều pho tượng được tạo tác ở thế kỷ XVIII và đầu thế kỷ XIX.

          Tại chùa còn 5 bia đá, sớm nhất là bia Quang Thiệu 5 (1520) đời vua Lê Chiêu Tông và bia cuối cùng có niên đại Thành Thái 14 (1902).

          Chùa còn 1 chuông đồng lớn, cao 100cm, chu vi 160cm, ghi rõ Xã Đàn phường, tổng Vĩnh An, huyện Thọ Xương, phủ Hoài Đức, tỉnh Hà Nội.

          Chùa Kim Yên gắn bó với đàn Xã Tắc. Qua thời gian lịch sử lâu dài, chùa vẫn là một ngôi chùa có quy mô tương đối lớn giữa nội thành, còn giữ được nhiều di vật từ xa xưa. Nhắc tới Xã Đàn, người đời vẫn còn ngâm ngợi:

Xã Đàn thuộc phía hữu Thăng Long

Phật ngự Kim Yên đỉnh chín rồng

          Hàng năm tại nơi đây nhà vua xưa đích thân ra làm lễ tế cáo trời đất.

          Chùa Xã Đàn không những là di tích cổ lâu đời mà còn là nơi chứng kiến lịch sử trong cuộc kháng chiến chống Pháp (1947-1854). Sư cụ Thích Đàm Bình từng trụ trì chùa trên 70 năm đã có nhiều đóng góp trong cuộc kháng chiến chống Pháp của Thủ đô. Chùa đã được công nhận Di tích lịch sử - văn hóa năm 1990.