20 Aralık 1908'de İstanbul'da doğan Sedad Hakkı Eldem, Osmanlı'nın üst sınıfına mensup bir ailenin çocuğuydu. Babası Marsilya, Zürih ve Münih’te başkonsolos olarak bulunan İsmâil Hakkı Bey, annesi Müzeci Osman Hamdi Bey’in kardeşi Galip Edhem Bey’in kızı Azize Galip Hanım’dı.
Babası İsmail Hakkı Bey'in diplomat olması nedeniyle Sedad Hakkı Eldem'in çocukluğu Cenevre, Münih ve Zürih gibi Avrupa şehirlerinde geçti. İlköğretimi Fransızca liseyi ise Almanca okudu.
1924 yılında İstanbul'a dönerek 1928'de İstanbul Devlet Güzel Sanatlar Akademisi mimarlık bölümünü bitirdi. 1932'de İstanbul’da kendi bürosunu açtı, bir yandan da Güzel Sanatlar Akademisinde ders vermeye başladı, 1978'de emekli oluncaya değin Akademi öğretim üyeliği görevini sürdürdü.
Türk mimarlığının önemli isimlerinden olan Sedad Hakkı Eldem, Osmanlı dönemi evleri ve 18. 19. yüzyıl saray ve köşkleri üzerinde yaptığı çalışmalar ve klasik Osmanlı mimarisi üzerine araştırmalara yaparak, mimari tasarımda geleneksel motiflerin yeniden kullanılmasına öncülük etti.
Tarihi yapıların korunmasıyla ilgili olarak 1941-1945 arasında Eski Eserleri Muhafaza Encümeninde, daha sonradan 1962-1978 arasında Gayrimenkul Eski Eserler ve Anıtlar Yüksek Kurulunda görev aldı.
II. Dünya Savaşı'ndan sonra kurulan ve ilk genel kurul toplantısını 1948’de Lozan’da yapan Uluslararası Mimarlar Birliği’nde (UIA) Türkiye’yi temsil etti. 1986’da Uluslararası Ağa Han Mimarlık Ödülü kazandı. 7 Eylül 1988'de İstanbul’da öldü ve cenazesi Zincirlikuyu Mezarlığına defnedildi.