Haraldsplass er fremhevet som fremragende byggekunst og omtalt som et av de mest vellykkede eksemplene på et bygningskompleks tilpasset stedet og den regionale byggeskikken. Sykehuset med søsterhjem er bygget i pusset tegl. Opprinnelig gikk det tre fløyer ut fra et sentralt rom med hovedtrapp og heiser. Trapperommet er tydeliggjort gjennom en smal vertikal glassvegg og kapellet ligger i et halvsirkelformet utbygg.
Nyere tilbygg på anlegget har til dels tatt luven fra det opprinnelige og svekket helhetsinntrykket. Det har siden 2004 vært arbeidet med en utbyggingsplan for sykehuset, og ny hovedbygning er en del av et omfattende utbyggings- og moderniseringsprogram for hele sykehuset. Arkitekt C.F. Møller har tegnet bygget, og Haraldsplass Diakonale Stiftelse finansierer og står for utbyggingen. LAB Entreprenør AS ble engasjert og det nye Haraldsplass ble ferdigstilt høsten 2018.