1957 yılında Bursa’da doğmuş ve yükseköğrenimini 1981 yılında Ortadoğu Teknik Üniversitesi Endüstri Mühendisliği Bölümü’nde, lisansüstü eğitimini ise 1983 yılında Syracuse Üniversitesi Endüstri Mühendisliği bölümünde tamamlamıştır.
Çelik Halat ve Lafarge firmalarında çeşitli görevlerde bulunduktan sonra, 2003-2008 yılları arasında Akçansa’da Genel Müdürlük görevini yürütmüştür. 1 Ağustos 2008 tarihi itibarıyla İnsan Kaynakları Grup Başkanlığı görevine atanan Göçmen, bu görevi 2011’de bırakmıştır. 20 Temmuz 2009’da Çimento Grup Başkanlığı görevine atanan Göçmen, 1 Eylül 2014’te bu görevi bırakmıştır. 16 Haziran 2014 – 30 Mart 2017 arasında Enerji Grup Başkanlığı görevini sürdüren Göçmen, 30 Mart 2017’den itibaren, Sabancı Holding’de CEO ve Yönetim Kurulu Üyesi olarak görev yapmaktadır. Mehmet Göçmen evli ve iki çocuk babasıdır.