Nachdem Kaiser Franz Josef I. am 16. 3. 1873 den Bauplatz bestimmt hatte, wurde mit kaiserlicher Entschließung vom 4. 9. 1874 "in steter Fürsorge für die Bedürfnisse der Rechtspflege und der rechtssuchenden Bevölkerung" der Neubau des Justizpalastes zur Unterbringung der in der Haupt- und Residenzstadt Wien ansässigen Gerichtshöfe angeordnet, der Wiener Architekten Alexander Wielemans, Edler von Monteforte (1843 – 1911)mit dem Bau beauftragt, im Mai 1875 mit den Fundamentsarbeiten begonnen und 1881 der Bau samt Innenausstattung fertiggestellt. Die Gesamtkosten hatten sich auf 2,75 Mio Gulden belaufen.
Bei einer gewaltsamen Demonstration gegen den Freispruch von Angeklagten ( Tod zweier Unschuldiger während einer politischen Auseinandersetzung) wurde der Justizpalast am 15. 7. 1927 in Brand gesetzt. Die Polizei erhielt Schießbefehl und 89 Personen kamen ums Leben.
Heute sind im Justizpalast der Oberste Gerichtshof, die Generalprokuratur, das Oberlandesgericht Wien, die Oberstaatsanwaltschaft Wien, sowie das Landesgericht für Zivilrechtssachen Wien untergebracht.