1954 yılında Sakarya'nın Geyve İlçesi Çengel Köyü'nde doğdu.
İlk ve orta öğrenimini Pamukova'da bitirdi. Lise öğrenimlerini Kırklareli Atatürk Lisesi ve Adapazarı İmam Hatip Okulu'nda tamamladı. Yükseköğrenimini Erzurum Atatürk Üniversitesi Ziraat Fakültesi Kültür Teknik ve Makine Bölümü'nde Yüksek Mühendis olarak tamamladı.
1999 - 2003 yılları arasında Erenler Belediye Başkanlığı görevinde bulundu.
2003 - 2011 yılları arasında ÇAYKUR Yönetim Kurulu Başkanlığı'na atandı. 2011 - 2012 yıllarında Gıda, Tarım ve Hayvancılık Bakanlığı'nda müşavir olarak çalıştı.
2012 - 2018 yılları arasında ise Doğu Karadeniz Projesi Bölge Kalkınma İdaresi Başkanı olarak görev yapan Yüce, 24 Haziran Genel Seçimlerinin ardından yeniden ÇAYKUR Genel Müdürü olarak atandı.
31 Mart 2019 Mahalli İdareler seçimlerinde Sakarya Büyükşehir Belediye Başkanı seçildi. Sivil Toplum Kuruluşları, spor kulüpleri üniversite gibi alanlarda da yöneticilik yapan Yüce, evli ve 2 çocuk babasıdır.
