Ali Akyıldız, 1 Haziran 1964 yılında Sivas Divriği'nde doğdu.

Atatürk Üniversitesi Ziraat Fakültesi Ziraat Mühendisliği Bölümü'nden mezun oldu.

Tarım Kredi Kooperatifleri Sivas Bölge Birliği bünyesinde farklı ilçelerde ve farklı kademelerde 25 yıl görev yaptıktan sonra 2013 yılında emekli oldu. 

Memuriyet görevinin yanı sıra uzun süre Profesyonel/Amatör Futbol Hakemliği, Futbol Hakem Gözlemciliği ve Voleybol Hakemliği yaptı.

Türkiye Faal Futbol Hakemleri ve Gözlemcileri Derneği Sivas Şubesi Üyeliği yapıyor. 1999 ve 2004 yıllarında yapılan yerel seçimlerde Divriği Belediye Başkanı Aday Adayı oldu. 2007 yılında yapılan Genel Seçimlerde CHP'den Sivas Milletvekili Aday Adayı oldu. 25. ve 26. Dönem CHP Sivas Milletvekili 2010 tarihinden itibaren seçimlerde aday olduğu güne kadar Cem Vakfı Sivas Şubesi Başkanlığı yaptı, Sivas Kent Konseyi Yürütme Kurulu'nda görev aldı.

Atatürkçü Düşünce Derneği ve Ziraat Mühendisleri Odası Sivas Şubesi Üyeliği bulunmaktadır.

Ali Akyıldız ,evli ve bir kız babasıdır.