Tradycja przypisuje odnalezienie Krzyża św. Helenie, matce cesarza Konstantyna I Wielkiego, w 326 roku. Relikwie złożone zostały w bazylice Grobu Świętego w Jerozolimie. Od tamtej pory były uroczyście czczone przez wiernych przybywających z całego świata chrześcijańskiego. Okres ten zakończyło zdobycie Jerozolimy 20 maja 614 roku przez króla perskiego Chosrowa II Parwiza. Persowie zburzyli świątynię, a relikwie Krzyża zabrali z Jerozolimy.
W 628 roku cesarz bizantyjski Herakliusz pokonał Persów i odzyskał święte relikwie. Cesarz sam wniósł je uroczyście do Jerozolimy wchodząc do miasta przez Bramę Złotą. Jak mówi legenda, cesarz niosąc Krzyż ubrany był w drogocenne szaty i nie mógł udźwignąć Krzyża, aby wejść do miasta. Dopiero kiedy za poradą biskupa Jerozolimy Zachariasza zdjął bogaty strój, idąc boso wniósł Krzyż aż do odbudowywanej po zniszczeniu Bazyliki.