Theo sách xưa, chùa được xây dựng vào thời Lê, năm Vĩnh Trị thứ 3 (tức năm 1679), có tên gọi là Quan đế Miếu, thờ Quan Vân Trường, một võ tướng nổi tiếng thời Tam Quốc trong lịch sử Trung Hoa. Đến thời nhà Nguyễn (1802 – 1820), chùa được sửa chữa lại, có xây thêm gian hậu cung, có bàn thờ Tam cấp để thờ Phật và được đổi tên thành chùa Phố Cũ. Hiện chùa còn lưu giữ 5 tấm bia đá khắc bằng chữ Hán của bốn đời nhà Nguyễn là các vua Gia Long, Minh Mạng, Tự Đức, Thành Thái, ghi nhận công đức, cống hiến tiền của cho chùa.
Trải qua thời gian, chùa bị xuống cấp, năm 1945, nhân dân Thị xã (nay là Thành phố) đã quyên góp trùng tu lại, xây thêm lầu hai ở chính cung, kiến trúc hoa văn kiểu hoa thị, đắp rồng chầu thời Nguyễn. Sau khi trùng tu chùa, nhân dân rước đức Thánh Trần (Trần Hưng Đạo Đại Vương) về thờ.
Chùa Phố Cũ là ngôi chùa thờ tiền Thánh hậu Phật, cho nên trong chùa được chia làm hai phần thờ chính là: thờ Phật và thờ Thánh.
Bức hoành phi khắc chữ nổi trên tường ở cửa chính có ba chữ Hán “Hiển Thánh Cung”.