Крепость Святой Елизаветы, от которой до наших дней сохранились только отдельные здания, была уникальным сооружением. Она представляла собой образованный земляными валами шестиугольник бастионных фортов, окруженный глубокими сухими рвами. Между лучами-бастионами размещались небольшие самостоятельные укрепления - равелины, также окруженные валами и рвами и соединенные с главной цитаделью особыми проездами. Одновременно со строительством укреплений были построены казармы, дома для офицеров, соборная церковь, кузница и многочисленные хозяйственные здания.
Такой вид имело основное звено в цепи крепостей, тянувшихся между Днепром и Бугом. В окрестностях селились не только сербы и украинцы, но и греки, молдаване, евреи, русские крестьяне-беглецы - так образовалось поселение Быково, которое составляет часть современного Кировограда. А тридцать лет спустя, когда с угрозой татарских набегов было покончено, крепость вместе с предместьями получила статус города.
В разные времена здесь побывали выдающиеся русские полководцы А. Суворов и Г. Кутузов, а в местном гарнизоне нес службу рядовой Емельян Пугачев, будущий руководитель крестьянского восстания в Заволжье и на Урале. В годы Крымской войны, в середине 19 века в крепости размещался госпиталь, в котором работал выдающийся хирург и педагог Г. Пирогов. Ныне в каменных домах крепости, сохранившихся с той поры, размещается городской воинский мемориал.