Belediye Sarayı, abartılı olmayan mimarisi ile inşa edildiği tarihi çevreyle doğrudan ilişki kurmayan, ancak onu geriye de itmeyen modernist bir uygulamadır. Belediye Sarayı’nın inşaat alanında, temel kazıları sırasında Roma ve Bizans dönemlerine ait mozaiklere ve Bizans döneminden kalma duvar kalıntılarına rastlanmıştır. Bu mozaikler, halen İstanbul Arkeoloji Müzesi’nde bulunmaktadır.
Belediye Sarayı iki ana kütleden oluşmaktadır. Yüksek ve dikdörtgenler prizması biçimindeki büro kitlesi ve yine yatık bir dikdörtgen prizma olan, başkanlık ve toplantı hacimlerine ayrılmış kitle.Başkanlık bölümü, başkanlık dairesi, büro hacimleri, encümen odaları, toplantı ve sergi salonlarından oluşan ve büro bölümünden daha farklı olarak törensel kullanıma da yönelik olan bir düzenlemeye sahiptir. Bu bölümün üstünde, toplantı salonunu işaret eden ve çapraz tonoz biçiminde, hiperbolik bir eğrisel örtü vardır. Proje sahibi, bu örtü biçimini, karşısında bulunan Şehzade Camii’nin örtü sistemine atıf yapan bir tasarım olarak tanımlamıştır.