Yossi Kohen, 1961'de Filistin'in başkenti Kudüs'te doğdu.
1982'de İsrail Gizli Servisi Mossad bünyesine dahil oldu. Mossad bünyesinde katıldığı bazı operasyonlardan dolayı İsrail Savunma Ödülü aldı.
2013 yılının Ağustos ayında İsrail Ulusal Güvenlik Danışmanı ve Ulusal Güvenlik Konseyi Başkanı olarak çalışmaya başlayan Kohen, 2015'in Aralık ayında da Mossad direktörü olarak atandı.