Le palais de Salm, commandé par le prince Frédéric de Salm-Kyrbourg à l’architecte Pierre Rousseau en 1782 fut achevé en 1788. La Légion d’honneur l’acquit le 3 mai 1804. Incendié pendant la Commune, le bâtiment fut reconstruit dans sa forme primitive entre 1871 et 1878 par l’architecte Mortier.
Il est à la fois la résidence du grand chancelier et le siège de l’Ordre. Il abrite la grande chancellerie de la Légion d’honneur qui administre les récompenses nationales – la Légion d’honneur (depuis 1802), la Médaille militaire (depuis 1852), l’ordre national du Mérite (depuis 1963), et le musée national de la Légion d’honneur et des ordres de chevalerie.

Le musée occupe une aile moderne élevée entre 1922 et 1925 sur l’emplacement des anciennes écuries de l’hôtel de Salm. Il a été créé à l’initiative du général Dubail et financé grâce à une souscription ouverte parmi les légionnaires et les médaillés militaires, dont le succès fut particulièrement vif aux Etats-Unis. Il a été inauguré en 1925.
Au noyau initial des collections, composé du fonds de la grande chancellerie, de grands dépôts des musées nationaux et de la collection d’un amateur éclairé, Maurice Bucquet (1860-1921), se sont ajoutés, au fil du temps, de nombreux dons et achats prestigieux.