В 1802 году Александр I создал в Таганроге должность градоначальника. Он управлял городом и окрестностями и подчинялся непосредственно министру внутренних дел. Это позволило быстро решать вопросы развития города.
Одним из самых талантливых и энергичных градоначальников Таганрога был Балтазар Балтазарович Кампенгаузен. Он пользовался личным доверием императора и заслужено.
Благодаря Балтазару Кампенгаузену был утвержден план застройки Таганрога, улицы получили названия и освещение, были созданы мужская гимназия и коммерческий суд, Заёмный банк и городской сад (сейчас – Парк культуры и отдыха им. М. Горького). Льготы, пожалованные грекам Екатериной II, продлевались, а штаты таганрогской таможни и полиции были значительно расширены.
Балтазар Кампенгаузен за короткий срок своего нахождения в должности (1805–1809) сделал очень много полезного и нужного для Таганрога. В его честь были названы два переулка: Большой Кампенгаузенский (сейчас – Комсомольский) и Мало-Кампенгаузенский (теперь – Спартаковский).
Балтазар Кампенгаузен славился своей честностью, неподкупностью и трудолюбием. В 1809 году он продолжил строить карьеру уже в столице и дослужился до управляющего Министерством внутренних дел, но министром стать не успел – скончался.