故事开篇，四铭带回家一块葵绿色的肥皂，小说便由这块肥皂展开了。四铭太太接了过去，起初是欣喜地称赞“这实在是好肥皂”，但当她意识到四铭的眼光落在自己粗糙的脖子上时，便觉察到丈夫是对自己身上的老泥有些嫌弃。随后，四铭将儿子学程叫来训斥一番，又讲起了自己在大街上遇到的讨饭的“孝女”。之后在饭桌上，四铭又开始责备儿子，忍无可忍的四太太终于爆发了，大骂四铭对孝女的坏心思。这时恰巧何道统和卜薇园来拜访，三人谈起征文题目的事，又聊到了那孝女。何道统听了止不住地大笑，好不容易被四铭喝住了。送走二人，第二天一早，四太太便用起了那块肥皂。
不难读出，文中的中年男人四铭是典型的封建卫道士的形象。他一边痛骂崇尚新文化的女学生，一边对着年轻丽质的女乞丐产生性幻想。为了给自己的龌龊行径找一个幌子，他给女乞丐找了一个“孝女”的名头，以示自己对她是称赞而非臆想。他借着光棍的口说出了自己对孝女污秽的想法，又给自己的不肯布施一分钱找着各种借口。与他相似的，何道统、卜薇园也是这样的封建守旧派，他们同样对孝女产生了性幻想，何道统甚至为此止不住地大笑，丝毫不顾自己的“道学家”身份，而一边的卜薇园同样为自己的一毛不拔找着“我那时恰恰身边没有带着”的借口。
四铭太太则是典型的封建社会的女子形象。开头她和女儿在床边糊纸锭，可见她是一名家庭主妇。面对丈夫带回来的肥皂，她敏感地意识到他的想法，“不禁脸上有些发热了”，“决定晚饭后要用这肥皂来拼命的洗一洗”——在感受到丈夫细微的嫌弃时，她是自卑而恐慌的。但当她敏锐地觉察到丈夫对“孝女”的性幻想，而肥皂也是因为这联想而买给她时，她起初只是保持沉默，当丈夫在饭桌上大发脾气时，她才忍无可忍地戳穿了他，大骂了起来。然而，当丈夫因为有事离开再回来时，已然察觉不到她的情绪。第二天一早，她还是用起了那块肥皂。即使前一天她刚痛骂了丈夫的虚伪、龌龊，即使那天晚上因为和丈夫生气没有用肥皂，即使她曾尖锐地反抗了夫权，四太太终究还是被关在三纲五常的笼子里的旧时代妇女。如果和丈夫彻底闹掰，她又该何去何从？在短暂的反叛后，她还是只能选择了顺从。
另一边，儿子学程，是接受了新式教育的少年。他同样生活在父亲四铭的阴影下，受到父权的压迫。面对父亲，他大多时候依旧是忍耐顺从，默默承受着父亲无端的辱骂和训斥。但他已经有了初步的反抗意识，例如，他猜到了学生骂四铭的“恶毒妇”是old fool（老傻瓜），但并没有说出来，只是骗他说“意思我不很明白”。学程与四铭模样相似，但他毕竟生活在新的时代，再加上进入了新式学堂学习，大抵是不可能与父亲一样封建守旧了。
一块肥皂，能搓去的，是四太太脖子上积年的老泥；搓不去的，是四铭这样的人内心的污秽。他们举着“专重圣经崇祀孟母”的儒学旗号，实际上只是一边守着旧时代的糟粕，痛骂新时代的新思想，一边自己又跳出真正的三纲五常、道德理念，用污浊的东西填满大脑罢了。
