1973 yılında Çorum Merkez Şendere Köyü’nde doğdu. İlköğrenimini köyünde tamamladı, hafızlığını ise Çorum Merkez Hıdırlık Kur’an Kursu’nda yaptı. 1995 yılında Çorum İmam Hatip Lisesi’nden mezun oldu. 2009 yılında İlahiyat Önlisans programını, ardından Açıköğretim Fakültesi Kamu Yönetimi Bölümü’nü tamamladı.

1997 yılında Çorum’un Sungurlu ilçesinde imam hatip olarak göreve başladı. Sendikal hayatına da burada başlayan Yıldız, Sungurlu Diyanet-Sen’in kurucuları arasında yer aldı.

2005-2010 yılları arasında Memur-Sen Sungurlu İlçe Temsilciliği görevini yürüttü. 2010 yılında Çorum merkeze atandı. 2012 yılında gerçekleştirilen Diyanet-Sen Çorum Şubesi 3. Olağan Genel Kurulu’nda şube başkanlığına seçildi. 2020 yılına kadar yapılan şube kongrelerinde yeniden seçilerek görevini sürdürdü.

27 Haziran 2019 tarihinde yapılan Memur-Sen Çorum İl Temsilciliği seçimlerinde İl Temsilcisi seçildi.

Sendikal çalışmalarının yanı sıra, 1995-2010 yılları arasında Milli Gençlik Vakfı ve Anadolu Gençlik Derneği bünyesinde çeşitli görevlerde bulundu.

14 Temmuz 2020 tarihinde gerçekleştirilen Diyanet-Sen Olağanüstü Genel Kurulu’nda Mali İşlerden Sorumlu Genel Başkan Yardımcılığı görevine seçildi. 13 Ocak 2022 tarihinde yapılan yönetim kurulu toplantısında ise Diyanet-Sen Genel Başkanı olarak görevlendirildi.

18 Ocak 2023 tarihinde gerçekleştirilen Diyanet-Sen 7. Olağan Genel Kurulu’nda yeniden güven tazeleyen Yıldız, halen Genel Başkanlık görevini sürdürmektedir.

Yıldız evli ve dört çocuk babasıdır.