Semih Terzi, 1989 yılında Kara Harp Okulu'nu bitirdi.
2009 yılında albaylık rütbesine terfi ettirildi.
2014 yılında istihkam kurmay albayı iken 4 Ağustos'ta Yüksek Askeri Şura kararı ile tuğgeneralliğe terfi ettirildi.
15 Temmuz darbe girişimi sırasında saat 24:00 sularında kargo uçağıyla yanındaki 40 özel kuvvetler mensubuyla Ankara'daki Akıncılar Üssü'ne indi. Helikopterle Gölbaşı'ndaki Özel Kuvvetler Karargahı'na gitti. Saat 02:30 sularında karargahtan içeri girdiğinde, Tümgeneral Zekai Aksakallı'nın emriyle hazır bulunan Ömer Halisdemir tarafından vurularak öldürüldü.
Cenazesi Erzincan'a gönderilen Semih Terzi'nin Erzincan Belediyesi “hain” olduğunu söyleyerek mezarlığa gömülmesini kabul etmedi. Bunun üzerine ailesi, cenazeyi kendi bahçelerine gömdü.