Yıldırım Bayezid przejął kontrolę nad przejściem przez Bosfor, budując Anadoluhisarı. Z drugiej strony, podczas przygotowań do podboju Stambułu Fatih Sułtan Mehmet najpierw wzmocnił Anadolu Hisarı, otaczając je murami. Następnie chciał przejąć pełną kontrolę nad przejściem przez Bosfor, budując drugą twierdzę naprzeciwko, dlatego zbudowano Rumeli Hisarı.
Według dokumentów, Twierdza, której oryginalny plan został narysowany przez Fatiha Sułtana Mehmeda, 1000 rzemieślników i ponad 2000 pracowników pracowało dzień i noc podczas budowy twierdzy, a ukończono ją w ciągu 4 miesięcy. Trzy wieże na murach zostały zbudowane przez wezyrów Fatiha Halil Pasza, Zağanos Pasza i Saruca Pasza.
Wraz z podbojem Stambułu, funkcja zarówno Anadolu Hisarı, jak i Rumeli Hisarı dobiegła końca. Wiadomo, że po podboju Stambułu w dniu 29ty maja 1453 było używane jako miejsce, gdzie karano przestępczych janczarów i gdzie zatrzymywano członków konsulatu walczących z państwem.
Twierdza została naprawiona w 1918, całkowicie zmieniony w 1953a obszar, gdzie znajdował się minaret dawnego meczetu, został przekształcony w teatr na świeżym powietrzu. Rumeli Hisarı, natychmiast przyciągający uwagę wśród architektur Bosforu, gości dziś koncerty, przedstawienia teatralne oraz różnorodne wydarzenia kulturalne i artystyczne.