Depuis son inauguration en 1895, le Palais Galliera a connu plusieurs affectations, avant d’être définitivement consacré à la mode par la Ville de Paris.
Le 15 avril 1878, la duchesse de Galliera manifeste son intention de laisser à l’État français sa collection d’œuvres d’art, à la condition que cette dernière soit exposée au public dans un musée spécialement construit à cet effet et qu’elle se propose de financer sur un vaste terrain lui appartenant. Le Conseil municipal accepte avec reconnaissance la donation de la duchesse, mais ne peut disposer de l’ensemble qu’à son décès. Cependant, le notaire s’est trompé dans la notification du destinataire du don mentionnant la Ville de Paris, à la place de l’État français. Ses tentatives pour rétablir l’attribution de sa donation restent vaines et la duchesse décide de léguer l’ensemble de sa collection d’art au Palazzo Rosso à Gênes, le 7 octobre 1884.
Elle maintient tout de même les fonds nécessaires à l’achèvement du bâtiment, qu’elle cédera à la Ville de Paris, libre d’en faire l’usage souhaité. À la mort de la duchesse le 9 décembre 1888, l’architecte Paul-René-Léon Ginain poursuit les travaux jusqu’en 1894.

Le 19 décembre 1895, le musée est inauguré en tant que musée d’Art Industriel.
L’enveloppe en pierre rappelle la Renaissance italienne et l’ossature métallique a été réalisée par l’agence Eiffel. La mosaïque au sol et les coupoles sont l’œuvre de Giandomenico Facchina.
Le corps central est encadré de portiques à colonnades, couronnés de balustres qui entourent la cour semi-circulaire. Sur la façade se trouvent les statues représentant la Peinture par Henri Chapu, l’Architecture par Jules Thomas et la Sculpture par Pierre Cavelier.

À l’initiative de Maurice Leloir (peintre, historien et collectionneur), la Société de l’Histoire du costume fondée en 1907, fait don de sa collection à la Ville de Paris le 30 décembre 1920. Dans l’attente de trouver un lieu pour accueillir le musée municipal du Costume, elle dépose sa collection au musée Carnavalet. Les expositions qui y sont organisées suscitant l’enthousiasme du public, les enjeux d’un lieu plus adapté se posent. Le musée du Costume est alors inauguré le 23 novembre 1956, dans une grande salle au rez-de-chaussée du musée d’Art Moderne de la Ville de Paris. Cependant, en raison d’un effondrement de son plafond, le musée est contraint de fermer ses portes en 1971.

La Ville de Paris transfère alors le musée au Palais Galliera et en 1977, le musée du Costume devient le musée de la Mode et du Costume de la Ville de Paris, qui devient à son tour en 1997, le musée de la Mode de la Ville de Paris. En 2009, la mairie de Paris réalise des travaux de remise aux normes et en 2010, le musée bénéficie d’un embellissement de sa cour, de ses ailes, baies, sculptures et d’une amélioration des bureaux.
Le musée Galliera devient alors le Palais Galliera, musée de la Mode de la Ville de Paris.