Небольшой дворец был построен по приказу Людовика XV, который пожелал поселить неподалеку от главного дворца свою фаворитку, маркизу де Помпадур. Здесь уже располагался королевский ботанический сад, в котором все способствовало неспешным прогулкам и уединению, оставалось только построить новое здание. А всего два километра, разделявшие главный дворец и Малый Трианон, были удобны для частых королевских визитов. Говорили, что именно маркиза де Помпадур выбрала именно это место. Строительство вел королевский архитектор Анж-Жак Габриэль. Работы начались в 1762 году, а закончились относительно быстро для того времени, всего через шесть лет. Дворец был назван Малым Трианоном, по аналогии со стоящим неподалеку Большим Трианоном, любимым дворцом Людовика XIV.
Дворец был выполнен в простой стиле, переходе от рококо, который был необычайно популярен в первой половине восемнадцатого века, к элегантному классицизму, на момент строительства только входившему в моду. Здание Малого Трианона построено в форме квадрата, посередине был установлен портик - крытая галерея. К зданию со стороны сада была построена терраса. По периметру крыши шла балюстрада - фигурное ограждение.
Новый дворец, вопреки простым формам, понравился королю. Однако его первоначальная владелица, мадам де Помпадур, так и не смогла увидеть свой дворец - она умерла за несколько лет до завершения строительства. Людовик XV отдал дом новой фаворитке - графине дю Барри. Еще через десятилетие новый король, Людовик XVI, подарил Малый Трианон и часть парка рядом с ним своей жене, королеве Марии-Антуанетте, которой тогда было всего 19 лет. Именно при ней дворец переживал лучшие времена. Королева приезжала в Трианон, чтобы отдохнуть, и никто, даже ее супруг, не мог прийти во дворец без ее приглашения. На первом этаже располагались покои королевы, на втором - покои короля и комнаты для гостей. В цокольном этаже были размещены хозяйственные помещения. Мария-Антуанетта не желала видеть слуг часто, поэтому подвал собирались оборудовать специальными устройствами, похожими на современные лифты, которые поднимали бы сервированные столы наверх. Для них подготовили место, но до конца проект так и не осуществили.
Грандиозная реставрация здания была проведена в 2007 - 2008 годах. Над Малым Трианоном трудились более двухсот пятидесяти реставраторов. Была с точностью восстановлена обивка покоев, плитка на полу. Дворец стал точно таким же, каким был в год Великой Французской революции, когда Мария-Антуанетта покинула его и никогда больше сюда не вернулась.