Одна старая барыня, которая жила в Москве, взяла из деревни немого крестьянина по имени Герасим и определила его дворником. Герасиму сначала было плохо в городе, но потом он привык и аккуратно выполнял свою работу. Среди дворни была прачка Татьяна, женщина забитая и безответная. Герасим полюбил Татьяну, ухаживал за ней и хотел посвататься.  

Но барыне вздумалось женить Татьяну на пьянице Капитоне. Герасим не переносил пьяных, и Татьяну подговорили пройтись по двору, притворившись пьяной. Герасим толкнул Татьяну к Капитону, после чего желание барыни исполнилось. Через год Капитон спился, и его отправили в деревню вместе с женой.  

Герасиму было горько, он он спас из реки маленького щенка, выкормил его и привязался к нему всей душой. Собаку назвали Муму. Она любила Герасима и всегда была с ним, утром она будила его, а по ночам охраняла дом. Однажды барыня увидела собаку и велела привести ее в комнаты. Когда барыня протянула к ней руку, Муму зарычала. Барыня приказала, чтобы сегодня же собаки не было во дворе. Степан, слуга, похитил собаку и продал ее. Герасим искал ее несколько дней, потом Муму сбежала и вернулась к Герасиму. Барыня узнала об этом и снова приказала ее удалить из дома. Дворецкий велел Герасиму удавить Муму. Герасим утопил свою собаку, вернулся в дом, собрал свои вещи и пешком ушел из Москвы в свою деревню. Барыня сначала велела его вернуть, но потом изменила свое желание. Вскоре она умерла. Герасим остался жить в деревне бобылем.