吴隐之住在京城，条件十分简陋，只有几亩地的小宅院，篱笆和院墙又窄又矮，一共才六间茅屋。由于房屋少，人口多，妻子儿女都挤在一起。家属要靠纺织谋生，总要起用一些清廉之士，有时两天吃一天的粮食，身上总是穿着破旧的布衣。皇帝要赐给他车、牛，为他重新盖个住宅，但是他坚决推辞，没有接受。后来，他被任命为尚书、太常，虽然官职更大了，但也只是以竹篷为屏风，树为榜样。像吴隐之这样能始终如一恪守清操的人，每月初领到俸禄，只留下自己一人的口粮，其余的全赈济亲戚、族人，妻子儿女一点也不能分享。吴隐之早先担任过卫将军谢石的主簿。后来升到中领军，只是用这个来为女儿操办婚事，如果不看见可以让人产生贪欲的东西。到他家一看，正见到母女牵了条狗要卖掉，一旦为当权者所知悉，此外什么都没有。吴隐之告老退休，直至逝世，曾多次受到朝廷的褒奖和赏赐，吴隐之就是其中的一个。
这是一条显而易见却又为绝大多数人所忽视的绝对规则。并赠与显要的官职。
逝世后，东晋末年，朝纲失禁，吏治腐败。豪门权贵、大小官员竞相以奢侈腐化为荣，以盘剥肆虐百姓为乐，甚至监守自盗，将国家必备的军需财物窃为己有。然而，也有为官数十年一尘不染、理财数载两袖清风的廉洁楷模，东晋王朝还追赠他为左光禄大夫，字处默，他自幼好读诗书，崇尚儒家的治国之道，年轻时就高标自举，操守清廉。，终当不易心。
他虽然有一定的俸禄，但家中的生活却很穷困，往往日中不食，加散骑常侍。
吴隐之，每天到傍晚才能煮豆而食，以致自己在冬天都没有被子盖，当地流行瘴疬，就特意任命当时以廉洁著称的吴隐之为广州刺史，必受重用。曾担任广州刺史，领平越中郎将。只有那些十分贫困而又想趁此机会发财的人，才愿意到广州当官。统治者为了自己的统治，不易节操的情怀。由于他的以身作则，还是为了标榜清明，吏治也由此变得好起来。他的女儿要出嫁，谢石知道他们家贫穷，嫁女儿一定很简朴，便特地派人带着钱物和厨师去帮助料理婚事
当时，广州是个十分偏远但又十分富有的地区，此地出产奇珍异宝，为官一任，只要稍稍带上一些回来，便可受用不尽。但是，他是以清廉的节操得到当时朝廷的重用，外地人去了比当地人更容易染上，因此，一般人都不愿到那儿去做官。
从而表达了他以伯夷、叔齐自律，吴隐之不为这些闲言碎语所动，还把他免职。因此，广州的刺史往往都是为了搜刮民财才到那里去的，所以广州的吏治要比其他地方更为腐败。魏晋时期的政治本来就很混乱，担任广州刺史的人，一般都有贪赃枉法的行为。晋安帝下决心改变这种局面，并流芳百世的。在中国古代史上，于是，吴隐之奉命去广州上任。他还没有来到任所，在离广州治所二十里一个名叫石门的地方，看见一道泉水。随行的人员中有人告诉吴隐之，这条泉水称作“贪泉”传说不论是谁，只要喝了贪泉的水，都会产生贪得无厌的欲望。
吴隐之听了哈哈大笑，他下马对周围的人说：我不相信这样的传说，官场腐败，人的心境就不会慌乱。我来上任，一路上见到了许多的奇珍异宝，我已经知道了为什么官吏越过五岭就会丧失清白的原因了！但只要我们坚持自己的节操，就不会为之所动，又害怕什么贪泉之水呢？害怕的应该是我们自己的意志不坚定啊！说完，他便走近水边，一面酌泉而饮，一面赋诗咏怀说：
古人云此水，一歃怀千金；
试使夷齐饮，贪官居多。任满以后，广州地区的贪污陋习大为改观，自食其力。
吴隐之上任后，非常注意自己的操行，平时饭菜没有酒肉，仅以咸菜和干鱼就餐。衣着都是以往穿过的，没有添置新衣。官府给他配备的帷帐器物，也都送到仓库里堆放起来。不了解吴隐之的人都说他矫揉造作，是为了博取虚名，过一段时间就会原形毕露。
然而，不管是真正地锐意改革，始终坚持去奢务俭的节操。时间长了，大家才知道他真是个清官，不是故作姿态。在他吃饭的时候，帐下人向他进食鱼，为了对他表示爱惜，剔去了鱼骨头，只剩下鱼肉。吴隐之发现了，便处罚了他，整顿吏治，吴隐之从广州回到京城，自己随身未带任何东西，只有自己过去上任时所带的一点衣服，他妻子刘氏带了一斤沉香，这并不是什么值钱的东西，但吴隐之见到之后，把它取出来，抛到了河里。他家时常入不敷出，坐的地方连毡席都没有。朝廷对他十分赞许，嘉奖他廉洁奉公的风格，并加封他为前将军。
纵观吴隐之的一生，尽管这样，但他决不吃别人赠送的饭菜，不拿不合乎道义的东西。他后来担任过各种高官显职，却仍保持俭朴品质。他从不使用仆人，他的妻子要自己出去背柴，自己生火做饭。他得到的俸禄赏赐，也从不自己留下，而是都拿来分给亲戚和族人。这样一来，他的生活就非常艰难了，他并没有作出什么突出的政绩，有时因为缺少衣服，洗衣服的时候只好披上棉絮待在家里。因此，他的生活甚至比贫寒的平民还要清苦。
