Đình Cao Xá thờ ba vị thành hoàng làng giúp vua Hùng đánh giặc
Đình Cao Xá thờ ba vị thành hoàng làng là Phan Chí, Phan Khí và Phan Minh. Thần tích còn ghi dưới triều vua Hùng Vương thứ VI, có gia đình ông Phan Tiệp cùng vợ là bà Nguyễn Thị Phúc, quê ở xã Bảo Tháp có nghề làm thuốc đến sinh sống tại chùa thôn Cao Xá. Ông bà là người đức độ, nhân từ, có lòng thương người, trong tay lại có nghề làm thuốc nên mỗi khi dân làng có ai yếu đau đều được ông bà cứu chữa. Trong thời gian lưu lại Cao Xá, ông bà sinh được 3 người con trai, đặt tên là Phan Chí, Phan Khí và Phan Minh. Các con lớn lên được ông bà cho theo học Ngô Tiên Sinh ở làng Nhữ Thị. Các ông học hành chăm chỉ, tôn sư trọng đạo nên được thầy quý, bạn mến.