Silahhane yönetim binası (Karakolhane Binası) olarak yapım çalışmaları 1861-1862 yılları arasında dönemin saraya da hizmet etmiş ünlü Balyan ailesine mensup Simon ve Sarkis Balyan tarafından tamamlanmıştır. 
Üç katlı olan silahhane binası, Osmanlı döneminin sonlarında Jandarma Kumandanlığı hizmetine verilmiştir. Cumhuriyetten sonra sırasıyla, Nakliye, Topçu, İstihkâm ve Jandarma Okulu olarak kullanılmıştır. 1956'da Eğitim Bakanlığı'na tahsis edilmiş, bir süre Teknik Okul olarak hizmet gördükten sonra İstanbul Teknik Üniversitesi'nin kullanımına bırakılmıştır. Tarihi binayı tamamlayıcı olarak inşa edilen dershane bloklarından oluşan ek bina 1970'li yılların başında hizmete girmiştir.