Bygningen blev bygget på stedet for et spansk museumskompleks i kolonistil, der blev ødelagt af jordskælvet i 1989. De elegante former og den originale brug af materialer, der er karakteristiske for Jacques Herzog og Pierre de Meuron, fremkaldte aktiv modstand fra byens konservative myndigheder, men museumsadministrationens vedholdenhed gjorde det alligevel muligt at gennemføre projektet.
Strukturen er fuldstændig beklædt med kobber (i alt 7602 paneler i forskellige former blev brugt) og er den største bygning dækket af dette metal i verden.
Hovedelementet i projektet er et buet tårn, der hæver sig over trætoppene i Golden Gate Park, hvor museet ligger. Det har udsigt over byen, og det forbinder også bygningen med San Francisco: tårnets størrelse gjorde det muligt at blive et mærkbart element i bylandskabet.
Hovedvolumenet, rektangulært i plan, er skåret af små gårde plantet med bregner. Glasvægge har gjort disse haver til en del af museets interiør.
Der blev lagt særlig vægt på arkitekterne for at understrege den kontinuerlige strøm af rum: indgangen til museet er forbundet med en stor lobby med en åben gårdhave, derfra fører en bred trappe til salene på anden sal. Dette lettes også af udstillingshallenes buede grundplan. Museets interiør er dekoreret med eukalyptustræ.
Prisen for hele projektet var $ 190 millioner, som blev indsamlet af privatpersoner, på trods af at både samlingen (kunst fra Afrika, Oceanien, Mesoamerica) og selve museet tilhører byen.
