Триумфальная арка была возведена на пересечении улиц Ермоловской (ныне ул. М.Рзаева) и Базарной (ныне ул. Н.Крупской) в 1859 году, ко времени приезда в Дербент по пути в Тифлис главнокомандующего на Кавказе генерал-фельдмаршала Александра Ивановича Барятинского, героя Кавказской войны, пленившего имама Шамиля. Арку в народе прозвали Ермоловскими воротами. Определенную роль, видимо, сыграло и то, что завоевание Россией Кавказа, в том числе и присоединение Дербента, в народе обычно связывалось с именем генерала Алексея Петровича Ермолова. Парадные Ермоловские ворота были возведены в виде перекинутой через Ермоловскую улицу триумфальной арки. В формах этого сооружения как бы переплелись между собой традиции местной архитектуры и принесенных в город русскими приемов классики – стрельчатый арочный проем обрамлен полуциркульной нишей. Ермоловские ворота воспринимались как монумент завоевательной политики царизма, и после установления в городе советской власти в 1929 году были снесены.