Небольшое скромное здание в глубине сада было построено по заказу Людовика XV и его фаворитки, мадам де Помпадур, и названо французским павильоном. Король мечтал о небольшом помещении, которое могло бы одновременно быть музыкальным салоном, залом для тихих игр или местом для неспешных бесед. Мадам де Помпадур пыталась всячески развлечь короля, находившегося в ту пору практически постоянно в меланхоличном состоянии. Недалеко от теперешнего французского павильона был оборудован зверинец - в отличие от королевского зверинца при Людовике XIV в этом не было экзотических зверей, лишь несколько кур, овец и коров. Людовик XV и его фаворитка любили здесь гулять, удаляясь от забот королевского дворца. Поэтому и было решено чуть позже построить недалеко от зверинца, в тиши деревьев, французский павильон, где король мог бы отдохнуть.
Строительство павильона было поручено Анж-Жаку В 1750 году павильон был открыт. Внутри разместились четыре небольших квадратных кабинета, расположенных в форме креста. Скромное здание было идеально вписано в окружавший его пейзаж. Балюстрада была украшена восемью группами детей, которые олицетворяли собой четыре сезона и четыре основных элемента - воду, воздух, огонь и землю, а также восемь ваз с цветами, все выполненные одним и тем же скульптором. В павильоне собирались только приближенные к королю. Людовик XV любил после долгих прогулок остановиться здесь и перебирать свои многочисленные гербарии.
Мария-Антуанетта, следующая королева, тоже полюбила небольшое здание. Она не стала его перестраивать, а изредка использовала Французский павильон для своих приемов. Поскольку места внутри было не очень много, у стен павильона устанавливали небольшие тенты, под которыми играли концерты и даже устраивали балы. Павильон также использовали для популярных тогда карточных игр, а в теплое время года здесь ужинали - внутри никогда не бывало жарко.
Во временя Революции мебель из павильона была продана, а само здание было переделано в кафе. Чуть позже оно стал местом проведения праздников и фейрверков и потихоньку стало приходить в упадок. Немного помогла спасти павильон от разрушений затеянная в конце XIX века реконструкция, затем здание было полностью отреставрировано в 2008 году. Во французском павильоне снимали несколько фильмов, в том числе фильм Софии Копполы "Мария-Антуанетта", посвященный легендарной хозяйке Малого Трианона.