Theo truyền thuyết, đền Kỳ Cùng (phường Vĩnh Trại) thờ quan Tuần Tranh thuộc nhà Trần, do oan khuất nên ông nhảy xuống sông tự vẫn.
Sau này, Tả đô đốc Hán Quân công Thân Công Tài được nhà Lê cử lên Lạng Sơn đã minh oan cho cái chết của ông Tuần Tranh, sau khi ông mất người dân lập đền Tả Phủ (phường Hoàng Văn Thụ) để thờ cúng.
Cảm kích trước công ơn của ông Thân Công Tài, ngày 22 tháng Giêng hàng năm, người dân địa phương mở hội rước bát hương ông Tuần Tranh từ đền Kỳ Cùng lên đền Tà Phủ để tạ nghĩa.
Ngày 27 sẽ rước kiệu quay ngược lại, đặc biệt ngày 27 diễn ra lễ cướp đầu pháo, theo quan niệm dân gian ai cướp được đầu pháo năm ấy sẽ gặp nhiều may mắn tài lộc.
Lễ hội sẽ được diễn ra với nhiều nghi lễ như: Rước kiệu, khai hội, dâng hương tế lễ… Cùng với đó là các trò chơi dân gian, văn hóa: Thi gói bánh và bày mâm ngũ quả; Đẩy gậy; Thi kéo co; Nhảy bao đôi; Ném bóng vào chậu; Bịt mắt đánh trống; Cờ tướng…
Các hoạt động trong lễ hội đều được xây dựng kịch bản riêng nhằm phát huy và giữ gìn bản sắc văn hóa truyền thống lễ hội đầu xuân; phục vụ nhu cầu hưởng thụ các giá trị văn hóa tinh thần và đời sống tâm linh của nhân dân các dân tộc trong và ngoài tỉnh.
Một số hình ảnh lễ hội đền Kỳ Cùng – Tà Phủ:
