Asıl adı Ahmet Kemaleddin olan Mimar Kemaleddin 1873 yılında İstanbul'un Acıbadem semtinde, orta halli bir ailenin tek çocuğu olarak doğmuştur. Annesi Sadberk hanım babası ise Bahriye miralaylarından Ali Bey'dir. İlköğrenimini İbrahim Ağa İptidai Mektebi'nde 1975'te başlayan Mimar Kemaleddin, ortaöğrenimini 1881'de babasının işi vesilesiyle gittiği Girit'te devam ettirdi.Ailesiyle birlikte İstanbul'a dönen Mimar Kemaleddin orta öğrenimini burada tamamladı.Henüz lise yıllarında mühendisliğe merak duymaya başlayan Kemaleddin, 1887 yılında Hendese-i Mülkiye Mektebi'ne yani İstanbul Teknik Üniversitesi'ne kayıt oldu. Buradaki mühendislik eğitimini birincilikle tamamlayan Kemaleddin, aynı bölümde 1891 yılında Alman akademisyen Jachmund'un asistanlığı ile öğrenimine devam etti. Bu vazifede dört yıl boyunca bulunan Kemaleddin, açtığı özel bir ofiste kendi eserlerini üzerinde çalışmaya başladı.
Jachmund'un desteği ve teşviki ile mimarlık eğitimini geliştirmek amacıyla ve devlet bursuyla Almanya'ya gönderilen Kemaleddin; Berlin'de Berlin Teknik Üniversitesi'nde iki yıl eğitim gördü. Orada çeşitli mimarlık ofislerinde iki buçuk yıl deneyim sahibi oldu. 1900 yılında İstanbul'a dönüp öğretim üyeliğine başladı.Jachmund'unTürkiye'deki derslerini o devam ettirdi. 1908 yılında Osmanlı Mimar ve Mühendis Cemiyeti'ni kurdu. Bu anlamda Türkiye'deki ilk meslek odasını kurmuş olan Mimar Kemaleddin İkinci Meşrutiyet'ten sonra Evkaf Nezareti İnşaat ve Tamirat müdürü olarak çalışmaya başladı. Şark Demiryolları Şirketi adına 4 tane tren istasyonu tasarladı. Şirket adına Filibe Garı mimarisini tasarlayan Kemaleddin, Edirne ve Selanik Garı'nın da tasarısını yapmış, temellerini atmıştır ancak Edirne Gar'ı 1914 yılında tamamlanmıştır. Edirne'deki ticaret Lisesi binasını 1908 yılında tasarlayan Mimar Kemaleddin, Sofya Garı'nı da İkinci Meşrutiyet'ten önce tasarlamıştır. Mimar Kemaleddin bu dönemde tarihi yapıların restorasyonu ve yeni yapı tasarımlarıyla ilgilendi.
Osmanlı Mimarisini yakından inceleyen ve bunun üzerine kendi üslubunu şekillendiren Kemaleddin, ulusal bir mimari geliştirme konusunda kendisini yetiştirdi. 1910'dan itibaren daha sıkı bir tempo ile Türkiye'de, İstanbul'da ve yurt dışında birçok mimari çalışmaya imza attı.
Kudüs'te bir süre Mescidi Aksa'nın restorasyonu için çalıştı. Türkiye'ye döndüğünde Ankara'da kurulan yeni yapılar üzerinde yoğunlaşmaya başladı. Birçok mimari yapının restorasyonunda ve yeniden tasarlanmasında emsallerinden çok farklı çalışmalarda bulunan Kemaleddin, 1927 yılında beyin kanaması sonucunda Ankara'da vefat etti. Beyazıt Camii avlusunda bulunan kabri 2007'de yeniden düzenlenerek anıt mezar haline getirildi.
Mimar Kemaleddin'in oğlu ise besteci İlhan Mimaroğlu'dur. Mimar Kemaleddin 16. asırda yaşamış olan ve Beyazıt Camii'nin mimarlarından birisi olan Kemaleddin ile farklı kişidir. Mimar Kemaleddin 20. yüzyılın en tanınan Türk mimarı olarak Birinci Ulusal Mimarlık Akımının önde gelen isimlerinden birisidir.
Türkiye Cumhuriyeti'nin kuruluşu ile Osmanlı İmparatorluğu'nun yıkılışı arasındaki devrin en büyük Mimarlarından olan Mimar Kemaleddin, 20 Türk lirasının arka yüzünde bir portresi ve en büyük yapıtlarından birisi olan Gazi Üniversitesi Rektörlük binasının resmi yer almaktadır.