Budova sídlí na vltavském břehu v sousedství Karlova mostu v místě bývalé Staroměstské vodárny na konci komplexu dřívějších staroměstských mlýnů. Vodárna, jejíž podobu navrhl architekt Antonín Wiehl, byla postavena v letech 1883-1884.
Dílo se dnes řadí k nejkrásnějším novorenesančním stavbám v Praze. Její architektonickou kompozici umocnila bohatá sgrafitová výzdoba podle návrhů významných českých malířů 19. století, Mikoláše Alše a Františka Ženíška, kteří se v té době významně podíleli i na výzdobě Národního divadla.
Pro severní průčelí obrácené ke Karlovu mostu navrhl Ženíšek výjev z boje Pražanů se Švédy v roce 1648 (vzhledem k bezprostřední souvislosti místa s těmito událostmi). Mezi okny jsou pak umístěny postavy vytvořené podle návrhů Mikoláše Alše. Ostatní plochy jsou dekorovány bohatým ornamentem s rostlinnými, zvířecími a figurálními motivy. Realizaci návrhů na fasádě provedl Janez Subić, který se rovněž podílel na výzdobě Národního divadla.
Současné sídlo muzea bylo slavnostně otevřeno dne 12. května 1936, do jeho areálu spadá i Staroměstská vodárenská věž. Před budovou muzea je umístěn i pomník skladatele Bedřicha Smetany od Josefa Malejovského. Pod Muzeum Bedřicha Smetany také organizačně spadá Památník Bedřicha Smetany v Jabkenicích na Mladoboleslavsku.
Muzeum jako takové bylo založeno již v roce 1926 z popudu Společnosti pro výstavbu Smetanova pomníku v Praze. Jeho expozice je zaměřena na život a dílo Bedřicha Smetany, jeho sbírku tvoří jak různé osobní památky a dobové dokumenty pocházející ze skladatelovy pozůstalosti včetně jeho klavíru, tak různé dobové artefakty vztahující se k jeho životu a hudebnímu dílu.
V letech 1941–1945 působilo v koncertní síni muzea Divadélko ve Smetanově muzeu.
Smetanovo muzeum spravuje rovněž rozsáhlé sbírkové fondy, jejichž základem je Smetanova pozůstalost zakoupená v roce 1928. Kromě ní jsou to rozsáhlé ikonografické sbírky, notový archiv, tisková dokumentace, knihovna a fonotéka, které dokumentují nejen Smetanův život a tvorbu, ale i jeho dobu a šíření a recepci jeho děl.
