Op zoek naar inspiratie verblijft een schrijver in het ooit beroemde The Grand Budapest Hotel. In het verder bijna verlaten hotel ontmoet hij de eigenaar, Zero Mustafa, die hem vertelt over zijn jeugd in de jaren dertig, waarin hij als piccolo in het hotel werkte. Het Grand Budapest staat dan nog hoog in aanzien en wordt beheerd door een anoniem persoon. Diens toezichthouder is de geliefde conciërge Gustave, waar Zero al gauw een vriendschappelijke band mee sluit. Wanneer Gustave een onbetaalbaar schilderij erft, veroorzaakt dat een reeks bizarre gebeurtenissen.