Ticari hayatının bir kısmında çeşitli derneklerde faaliyet gösteren Yücel Yılmaz; Balıkesir Ticaret Odası'nda 2 dönem meclis üyeliği, bir dönem de Meclis Başkanlığı yapmıştır. Karesi Belediyesi Kurucu Belediye Başkanı olmasının ardından Ticaret Odası Meclis Başkanlığı ve dernek üyeliklerini bırakmıştır. Yücel Yılmaz, Mart 2014 yerel seçimlerinde Karesi Belediye Başkanı seçilmiştir.
Birleşmiş Kentler ve Yerel Yönetimler Dünya Teşkilatı (UCLG) Yönetim Kurulu Üyesi olan Yücel Yılmaz ayrıca UCLG'nin dokuz bölge teşkilatından birisi olan Birleşmiş Kentler ve Yerel Yönetimler Orta Doğu ve Batı Asya Bölge Teşkilatı'nın Eş Başkanlığı'nı yürütmektedir.
Türkiye belediyelerini temsil etmek üzere Avrupa Konseyi Yönetim Meclisi'ne seçilen Yücel Yılmaz, ayrıca kurulmasına öncülük ettiği Yağlı Güreş Düzenleyen Kentler Birliği'nin de başkanlığını yapmaktadır.
Yücel Yılmaz, 31 Mart 2019 Mahalli İdareler Seçiminde Balıkesir Büyükşehir Belediye Başkanı olarak seçilmiştir.