Năm 1010, vua Lý Thái Tổ dời đô từ Hoa Lư ra định đô ở Thăng Long. Nhà Vua đã cho xây thành để làm nền tảng trị vì xã tắc. Đức Vua cùng quân dân ra sức đồng lòng, dốc sức xây thành nhưng thành xây xong lại bị đổ sập xuống. Đức Vua rất hoang mang và lo nghĩ. Một lần, Người đã mộng thấy thần Bạch Mã - vị Thành hoàng đất Thăng Long, trấn giữ phía Đông trong Thăng Long tứ trấn hiện lên, mách bảo cho cách xây thành. Từ đó, thành ngàn năm bền vững.