Yıldırım Bayezid prit le contrôle du passage du Bosphore en faisant construire Anadoluhisarı. Parallèlement, lors des préparatifs de la conquête d'Istanbul, Fatih Sultan Mehmet commença par renforcer Anadolu Hisarı en l'encerclant de murailles. Ensuite, souhaitant contrôler pleinement le passage du Bosphore, il fit construire une seconde forteresse sur la face opposée : Rumeli Hisarı.
D'après les documents, la forteresse, dont le plan original fut dessiné par Fatih Sultan Mehmed, mobilisa 1 000 artisans et plus de 2 000 ouvriers qui travaillèrent jour et nuit pendant sa construction, qui s'acheva en quatre mois. Les trois tours des remparts furent érigées par les vizirs de Fatih : Halil Pacha, Zağanos Pacha et Saruca Pacha.
Avec la conquête d'Istanbul, les fonctions d'Anadolu Hisarı et de Rumeli Hisarı prirent fin. On sait qu'après la prise d'Istanbul le 29 mai 1453, ces lieux servirent de prison pour les janissaires criminels et de centre de détention pour les membres du consulat opposés à l'État.
La forteresse fut restaurée en 1918 , puis entièrement remaniée en 1953. L'espace où se dressait le minaret d'une ancienne mosquée fut transformé en théâtre de plein air. S'imposant d'emblée comme un joyau architectural du Bosphore, le Rumeli Hisarı accueille aujourd'hui des concerts, des pièces de théâtre et une riche programmation culturelle et artistique.
