Дворец в стиле нео-ампир построен в начале XX века архитектором Эдвардом Маунтфордом. На крыше здания стоит бронзовая статуя Богини правосудия, высотой почти четыре метра. При взгляде на гигантскую Фемиду исчезают последние сомнения – здесь заседает центральный уголовный суд Лондона. Все называют его "Олд Бейли", как и улицу, на которой он стоит. Раньше на этом месте располагалась печально известная Ньюгейтская тюрьма. Более 700 лет здесь в ужасных условиях содержались преступники всех мастей. Многие из них отправлялись из камеры на плаху, расположенную прямо у стен тюрьмы. О казнях возвещал колокол соседней церкви. На звук собирались толпы любопытных. В 1815 году лондонцы пришли посмотреть на приведение в действие приговора Элизабет Феннинг – серийной отравительницы. Девушка приняла смерть в свадебном платье, символизирующем невинность. Она до последнего вздоха настаивала на том, что не совершала преступления. Кухарку обвинили в отравлении мышьяком ее работодателей. Только спустя несколько лет после казни удалось доказать, что она этого не совершала. Военный хирург Джон Гордон Смит собрал улики и провел необходимые тесты. Он вошел в историю как первый английский судмедэксперт. Публичные экзекуции около Ньюгейтской тюрьмы прекратились только в середине XIX века – эшафот перенесли во внутренний двор.
Среди заключенных темницы были известные люди. Например, Томас Мэлори, автор романов о Короле Артуре, все свои произведения написал здесь. Он отбывал восьмилетнее наказание по обвинению в покушении, грабеже, угоне скота и изнасиловании. Один из отцов-основателей США - Уильям Пенн, в честь которого назван штат Пенсильвания, попал сюда за антироялистские выступления. Джакомо Казанова сидел в Ньюгейте за двоеженство, а Даниэль Дефо - за сатирические памфлеты. Один из узников, ирландский архиепископ Планкетт, принял здесь мученическую смерть, и позже был причислен к лику святых.
К концу XIX века ужасающие условия содержания заключенных стали достоянием общественности. Под ее давлением, Палата общин приняла решение о сносе тюрьмы. По особым случаям судьи Олд Бэйли носят букетики из сушеных пряных трав. Так в старые времена надзиратели пытались избавиться от зловония, исходящего от узников.