Nhà thờ Phú Nhai nguyên thủy được tạo dựng bằng gỗ, lợp bồi do linh mục Chính xứ Emmanuel Rianô Hòa cho xây dựng vào năm 1866. Vào năm 1881, Giám mục Hòa cùng với linh mục Barquerô Ninh xây nhà thờ thứ hai theo kiến trúc Á Đông và hai tháp chuông. Sau thời gian bị chiến tranh làm hư hại, vào ngày 17/3/2003 Nhà thờ đã được khởi công trùng tu tôn tạo lại bởi Giám mục Đaminh Nguyễn Chu Trinh. Đến 26/9/2004 thì Nhà thờ Phú Nhai hoàn thành như diện mạo hiện nay.
Nhà thờ Phú Nhai có chiều dài 80m, rộng 35m, chiều cao là 30m. Đặc biệt, Nhà thờ Phú Nhai có hai tháp chuông cao 44m ở phía trước với 4 quả chuông được đúc từ Pháp chuyển sang, trong đó có quả nặng 2 tấn chỉ sử dụng trong các dịp đại lễ.
Tiểu Vương cung thánh đường Phú Nhai.