Ali Yalçın, 1975 senesinde Tokat'ın Artova ilçesi Ahmetdanişment köyünde dünyaya geldi. Sırasıyla Ahmetdanişment Köyü İlkokulu, Artova YİBO, Tokat Teknik ve Endüstri Meslek Lisesi, Gazi Üniversitesi Teknik Eğitim Fakültesi Makine Bölümü Talaşlı Üretim Öğretmenliğini bitirdi. MGV Gazi Üniversitesi Öğrenci Başkanlığı ve MGV Üniversite Öğrenci Yurdu Müdürlüğü yaptı. Maltepe Üniversitesi'nde Eğitim Yönetimi ve Denetimi alanında yüksek lisans eğitimi aldı.
Şırnak İstiklal İlköğretim Okulu'nda iş hayatına başladı. Şırnak'ta öğretmenlik ve müdür yardımcılığı olmak üzere 5 sene görev yapan Yalçın, sonrasında İstanbul Sultanbeyli Halk Eğitim Merkezi Müdür Yardımcılığı, Maltepe Fevzi Çakmak İlköğretim Okulu Müdür Vekilliği, Sancaktepe Halk Eğitim Merkezi Kurucu Müdürlüğü görevlerini yürüttü.
Ayrıca Memur-Sen İstanbul İl Sekreterliği yaptı. Sancaktepe Belediyesi Kent Konseyi Yürütme Kurulu üyeliği, Çalışma Hayatı ve Sendikal Haklar Çalışma Grubu sorumluluğu görevlerinde bulundu.
2004 senesinden itibaren Eğitim-Bir-Sen İstanbul 4 No'lu Şube Başkanlığı'nı yürüten Yalçın, Pendik Ertuğrulgazi İlköğretim Okulu müdürü olarak çalıştı.
Yönetici Sınavlarına Hazırlık, Şeflik Sınavlarına Hazırlık ve Görevde Yükselme Sınavlarına Hazırlık olmak üzere üç tane kitabın yayınlanmasında görev aldı. 19-20 Şubat 2011'de yapılan 4. Olağan Genel Kurul'da Genel Basın Yayın Sekreterliği'ne seçilen Yalçın, 21-22 Şubat 2015'de yapılan 5. Olağan Genel Kurul'da genel başkanlığa seçildi.
Çalışma ve Sosyal Güvenlik Bakanı Jülide Sarıeroğlu, memurlar için 2018-2019 senelerini kapsayan zam teklifini, her iki sene için de altı aylık dönemler halinde yüzde 3+3 olarak açıkladı. Bunun üzerine Memur Sen Başkanı Ali Yalçın ise, hükümetin teklifinin kabul edilebilir bir tarafı olmadığını belirtirken, “Bu teklife kapalıyız. Bugünkü oturum bizim için bitmiştir. Makul teklifler bekliyoruz” diyerek masadan kalktı.
Ali Yalçın evli ve 3 çocuk babasıdır.
