Зиндан капија подигнута је средином 15. века ради боље заштите Источне капије, која је у то време била главни улаз у град. Капија заправо представља мало предутврђење – барбакан, сачињено од двеју масивних полукружних кула, између којих је пролаз. Простор према угаоној кули Горњег града затварао је лучни бедем, висок око 11 м. Пред капијом је некада био и ров, преко којег се пружао покретни дрвени мост. Изнад лука капије постоји мала правоугаона ниша, са лежиштем за икону заштитника града. На кулама и лучном бедему овог комплекса налази се седам топовских отвора. То је место где је први пут примењен артиљеријски одбрамбени систем, односно одбрана ватреним оружјем. Управо са ових положаја Београд је успешно одолео турскoj опсади 1456. године.

У време великих аустријских радова на обнови Београдске тврђаве у првој половини 18. века, комплекс Зиндан капије темељно је реконструисан. Куле су добиле сводове од опека, као и зидана степеништа са приступним ходницима, а лучни бедем је том приликом ојачан земљаним насипом. Током 18. века куле су по свој прилици служиле као тамнице, о чему сведочи и данашњи назив капије – на турском језику реч зиндан означава управо тамницу, затвор.