Ali Koç, 2 Nisan 1967'de İstanbul‘da dünyaya geldi. Rahmi Koç'un en küçük oğludur. Londra‘da başladığı Harrow School'dan 1985 senesinde mezun oldu. 1989 senesinde ABD Houston Teksas‘taki Rice Üniversitesi'ni bitirdi. 1995-1997 seneleri arasında ABD Boston, Massachusetts Harvard Üniversitesi‘nde yüksek lisansını yaptı. ABD'de çeşitli kuruluşlarda çalıştı. Sonrasında Koç Holding AŞ yönetim kurulu üyesi kurumsal iletişim ve bilgi grubu başkanı oldu.
1986 senesinde Otosan A.Ş. Ford Motor Company'nin ortaklığı ile otomobil montaj hattında çalıştı. 1987-1988 seneleri arasında yazlarında Koç Holding, A.Ş. Otomotiv Grubu'na bağlı olarak otomobil üretimi ve bayii ağı ile çalıştı. 1990 yılı yazında J.P. Morgan, New York, NY stajerlik yaptı.
1990-1991 seneleri arasında American Express Bank'ta Yönetici Yetiştirme Programı'na dahil oldu. 1991-1992 seneleri arasında Ramerica International Inc.'da koordinatör, 1992-1994 seneleri arasında Morgan Stanley Yatırım Bankası'nda analist olarak görev yaptı.
1997-2000 seneleri arasında Koç Holding A.Ş. Stratejik Planlama Grubu Başkanlığı'na bağlı yeni iş geliştirme koordinatörü vazifesinde bulundu. 2000 senesinden beri Koç Topluluğu Bilgi Grubu Yürütme Komitesi Başkanı Koç Holding A.Ş.Yeni İş Geliştirme Koordinatörüdür.
2006 senesinden beri Koç Holding kurumsal iletişim ve bilgi grubu başkanlığı vazifesini yürütmektedir. 2008 yılı Ocak ayından bu yana Koç Holding Yönetim Kurulu Üyesi olan Ali Koç, 2009 senesinden bu yana Tüpraş yönetim kurulu üyesidir.
Fenerbahçe Spor Kulübü'nde iki dönem yöneticilik yapan Ali Koç, 21 Ekim 2005'de Nevbahar Demirağ ile nikah masasına oturdu. Bu evliliten Sadberk Leyla Koç (d.2006) ve Kerim Rahmi Koç (d.2008) isminde çocukları vardır.