В 1703 году, когда была заложена Петропавловская крепость, и именно Петровскому мосту выпала честь стать первым мостовым сооружением Петербурга. Через неширокую Кронверкскую протоку был наведён наплавной мост, ниже по течению, около Меньшикова бастиона. Мост соединил Заячий с Городовым (сейчас – Петроградским) островами. Тогда, в те времена, он был неустойчивым, и не раз телеги вместе с лошадями и людьми переворачивались в студёную невскую воду.
В 1706 году мост перестроили в свайный, многопролётный «в двух местах подъёмный» деревянный мост, с крепостным укреплением посередине моста. В то время угроза нападения на крепость была высока и земляные бастионы Петропавловской крепости спешно укрепляли и перестраивали в каменные.
 

 

Позднее роль крепости, как защитного сооружения постепенно отпала, а в 1738 году мост был перенесён против Иоанновских ворот. Береговые пролёты моста перекрыли каменными арками, а средняя часть осталась деревянная на сваях, с подъемной частью посередине, которая впоследствии неоднократно перестраивалась.
К концу 1760-х годов практически вся поверхность Петровского моста была выложена булыжником, за исключением его разводной части, которая по-прежнему оставалась деревянной.В 1827 году при усилении насыпи дамбы наплавного нового Троицкого моста два арочных пролёта Петровского моста были засыпаны. Впоследствии, были засыпаны и пролёты левого крыла. В 1848 году была изменена конструкция моста, пролётное строение было заменено на ригельно-подкосное, и Петровский мост перестал быть подъёмным.В 1887 году мост меняет своё название на Иоанновский, которое носит по сей день.
 

 

В 1952-53 году деревянные прогоны поменяли на металлические балки, а вместо деревянных перил установили торшеры с фонарями. Торшеры созданы по подобию тех, что стояли на въездах на Троицкий наплавной мост.
В мае 2003 года, возле одной из свай моста была установлена бронзовая скульптура Зайчика Арсения, спасшегося от наводнения, высотой в 58 сантиметров, выполненная скульптором С. Петченко. Эта фигурка ушастого обитателя Заячьего острова стала своеобразным талисманом Иоанновского моста. 
 

 

В январе 2005года Арсения, выполненого из силумина, случайно уронили, спасая от наводнения, и у зайца отломилось ушко… Пролежав три месяца в запасниках, многострадальному Арсению приварили таки ушко, покрасили бронзовой краской и водрузили на прежнее место…