Хотя храм, находящийся в основании колокольни, был построен в память о скончавшемся Иване III Великом ещё в 1505-1508 гг., только в 1532—1543 гг. была пристроена звонница.
В начале 1600-х гг. Борис Годунов для борьбы со случившимися в это время многолетними неурожаями и последовавшим в результате великим голодом начал в Московском кремле обширное каменное строительство, чтобы предоставить возможность «людям питатися», получая продовольствие за работу на стройках. В рамках очень крупного по тем временам проекта была, в частности, построена Колокольня Ивана Великого — произведена достройка третьего яруса (1600), а также Запасной дворец Московского кремля (1601—1603).