后来，他迁任淳安县令。七品知县年俸只有三十两白银，根本不够用。但海瑞仍然能够安贫乐道，穿布衣、吃粗粮糙米，让仆人种菜，以此来供应饮食。有一次他母亲过生日，海瑞特地买了两斤肉给母亲祝寿。总督胡宗宪把这件事拿来当新闻说：“听说海瑞给母亲祝寿居然买了两斤肉！”可见海瑞是多么自律。海瑞日用所需都让老仆人种菜自给，从不接受别人的馈赠，也从不对上司巴结奉承，清净自守。一天，总督胡宗宪的儿子带着一队人马来到淳安县。县里驿站官员不知道来者是谁，接待上稍有怠慢，胡公子大怒，当场命令家丁，把驿吏吊在树上一顿毒打。海瑞知道后，来到驿站，毫不留情地将这个趾高气扬的胡公子五花大绑，驱逐出境。当时胡宗宪任兵部尚书，并总督东南军务，不仅是海瑞的顶头上司，还是皇帝面前的红人，可是对他的儿子，海瑞还是照办不误。在海瑞看来，这个人是谁的儿子不重要，重要的是他违法乱纪，仗势欺人。