Nhà thờ do Giám mục Puginier-Phước khởi công xây dựng năm 1877 theo phong cách Gothique và hoàn tất năm 1882. Bốn hàng cột chia lòng nhà thờ thành 5 gian dọc, dài 67m, rộng 31m, cao 23m, có thể chứa từ 4 đến 5 nghìn người, không có ghế. Cửa sổ lắp kính mầu. Bàn thờ sơn son thiếp vàng, vách cung thánh bằng gỗ được chạm trổ tinh vi. Nhà thờ được xây trên một nền bằng gỗ lim.
Kẻ Sở cũng còn là nơi họp Công đồng miền Đàng Ngoài lần thứ hai vào năm 1912. Công đồng đã do Đức giám mục Gendreau-Đông, với tư cách niên trưởng các giám mục, triệu tập theo thư đề ngày 16-7-1911, quy tụ 5 giám mục đại diện tông tòa và hai linh mục quyền đại diện tông tòa. Tham dự Công đồng này còn có một giám mục và mười linh mục khác được mời nhưng không được quyền biểu quyết. Công đồng Kẻ Sở nối tiếp công việc của công đồng Kẻ Sặt. “Trong công đồng này, chúng tôi cố theo sát những gì đã định đoạt trong công đồng thứ nhất, để Công đồng thứ hai này chẳng phải là một công đồng mới mà là bổ túc và diễn giải công đồng thứ nhất mà thôi”. Công đồng đã xây dựng các điều khoản về nhân sự, về tài sản của địa phận, về các bí tích và về việc coi sóc bổn đạo. Các điều khoản này đã được Tòa thánh phê duyệt. Công đồng Kẻ Sở như vậy đã góp phần củng cố sự phát triển của giáo hội.
Nhà thờ Kẻ Sở đã là nơi diễn ra các ngày lễ lớn, như lễ tấn phong các giám mục chính và phó Địa phận Tây Đàng Ngoài-Hà Nội, - ĐGM Gendreau (1887), ĐGM phó Bigolet (1912), và ĐGM phó Chaize (1925), người kế vị ĐGM Gendreau năm 1935. Đây là dịp quy tụ lớn, theo sử sách ghi lại thì đã có 32 thừa sai, 43 linh mục, 200 chủng sinh và gần 20 nghìn giáo dân tới dự. Một con số khá lớn vào thời điểm lúc bấy giờ.
Là trụ sở của địa phận, Kẻ Sở có Đại chủng viện, trường latinh, trường thầy giảng, sở quản lí nhà in và nhà thờ lớn, nhà dòng Mến Thánh giá, trường học, bệnh viện…
Vừa qua Giáo hội Công giáo Việt Nam đã tổ chức kỷ niệm trọng thể Năm Thánh năm mươi năm thành lập Hàng giáo phẩm Công giáo Việt Nam tại Kẻ Sở.
Minh Nguyệt