Dværgmusen er Danmarks mindste gnaver. Den måler 5,5-7,5 cm fra snude til halerod, med en hale på omkring 5 cm, og med en vægt på 5-11 gram. Pelsen består af underuld og ydre dækhår. Underulden er hvid eller lysegrå. I sommerpelsen er dækhårenes overside gulbrune med enkelte sorte hår og lyse på undersiden. I efteråret fældes sommerpelsen til fordel for en tættere og længere vinterpels. I vinterpelsen er dværgmusen orangebrun på oversiden og grålig på undersiden. Halen er sparsomt behåret.