Командование и личный состав российской военной базы в Республике Армения большое внимание уделяют сохранению объектов исторического и военного наследия. Военнослужащие регулярно проводят уборку воинских захоронений офицеров русской армии, а также братской могилы советских воинов, погибших во время Великой Отечественной войны. В знаменательные даты и дни воинской славы к памятным местам в торжественной обстановке возлагаются венки.

       В ноябре 1804 г. русский отряд под предводительством генерала Сергея Тучкова, первого начальника гарнизона русских войск в городе Гюмри разгромил у этого города турецкие войска Аббас-Мирзы. Именно эта победа является началом истории военного гарнизона.

       В 1834 г. императором Николаем I был утвержден проект перспективного плана обустройства гарнизона русских войск в Армении и строительства Большой крепости, которая и по сей день является основным пунктом постоянной дислокации российских войск.

       Российские военнослужащие и сами становились участниками исторических открытий. Так, в мае 2002 г. при расчистке территории в Большой крепости было найдено старое захоронение и часть неизвестного памятника. Как выяснилось из архивных документов, в могиле покоился прах 1-го коменданта Большой крепости генерал-майора артиллерии Федора Губского.

       Усилиями командования памятник был восстановлен в точном соответствии с его первозданного вида по фотографии. Его открытие состоялось 14 декабря 2002 г.

       Сама Большая крепость, где находится штаб соединения, является памятником в честь славных побед русских войск над персидскими (1804 г.) и турецкими (1807, 1828, 1853 и 1878 гг.) войсками.