將軍衙署設于城內中心鼓樓西側。按一品封疆大吏規格建造，磚木構制，占地面積約三萬平方米，共有一百三十二間房屋。清代曾有七十八位將軍在此任職，是管轄綏遠城駐防八旗、歸化城土默特旗，烏蘭察布盟、伊克昭盟和節制宣化和大同綠旗兵事務的機構。衙署內有綏遠城將軍辦公復原陳列展覽及綏遠城八旗駐防歷史概覽。
將軍衙署自建成之日起，一直是清政府統治綏遠地區的政治軍事中心。而民國初年至解放前機構的頻繁更換，也正突出反映了當時國家局勢的動蕩不安。
將軍衙署建筑風格嚴謹對稱，在衙署內，相應地建有隔墻與通道。門前有高大的影壁，上有“屏藩朔漠”匾額，門側立石獅一對，大門內廳堂凡三進，前為公廨，后為內宅。