作为中国现代史上的风云人物，马君武头上顶着很多光环——辛亥革命元老、政治活动家、教育家……他曾历任中华民国临时政府实业部次长、广西省省长、北洋政府司法总长、教育总长、广西大学校长等职，可谓位高权重。但鲜为人知的是，马君武虽然大权在握，却极其清廉，一生节俭。
1934年，马君武访问欧洲时，向德国商行订购了一批贵重的教学仪器。在那个年代，就已经有“回扣”的说法了，你代表公家向某家公司购买商品，作为回报，这家公司会给你一些回扣，这已是尽人皆知的潜规则了，许多人都见怪不怪。当马君武订购完这批仪器后，代理人李某便问他要多少回扣，结果他大怒，最后令商家将回扣款全部纳入，多买了几件仪器。
马君武任校长时，给自己定的工资是二百元，在学校所有教职员工中，他的工资是最低的。他不但给自己定了最低的工资，对自己的儿子也极其苛刻。1939年，广西大学改为国立大学，蒋介石任命马君武重振广西大学，当时的师资力量严重不足，马君武便令金陵大学毕业的儿子保之回广西大学教书，并为他定了一百二十元的月薪，这在同等资历的外省籍教员中是最低的，保之为此闹情绪，马君武便开导他，说你作为广西本籍人才，应该多为家乡尽义务。
马君武的节省，体现在待客方面，甚至显得有些小气了。担任省长时，有一回，法国驻龙州的领事来拜访，如此重要的一个人物且是洋人来访，马君武却只用一杯清茶招待他，不但没有安排吃饭，甚至连香烟都没有。他这样做，并非是小气，因为招待费花的是公家钱，他只是不想在自己治下的省府养成公款吃请的风气。但此举反而赢得了这位法国领事的尊敬，因为洋人也敬重清廉的官员。马君武不喜欢宴请是出了名的。他过寿时，广西大学的不少同仁到他家中祝贺，大家以为马家一定准备了丰盛的宴席，所以一直谈到中午，谁也没有离开的意思。但其实马君武根本就没有请大家喝酒的打算，无奈之下，只好给每人煮了一碗面条完事。这件事也同样不能说明他是一个小气之人，他应该只是顾及自己的校长身份、爱惜自己廉洁的名声，不想因此给别人留下“校长过生日大操大办”的口实。
马君武在个人生活方面的俭朴，更加令人感动，据他的医生梁治群回忆说：“他的生活是十分朴素的，穿的蓝布衣布鞋，有些衣服还有补丁；吃的也十分省俭，多是一荤一素，小小的一条鱼肉也分两天吃。在当时的社会风气下，特别是在国民党上层社会中能保持这种朴素的作风，真是十分可贵的。马君武在北京政府任司法总长期间，住的是一所小四合院，离他上班的司法部较远，房子又十分矮小，秘书廖仲翼便劝他改善一下居住环境，可他却说：“不必。住这个房子我觉得很好，出门就是养蜂场，我时常可以去看，我打算学养蜂啦！”政府给他配有专车，但他很少坐，经常坐人力车或步行，秘书便对他说：“你是嫌汽车走得太快？”他回答说：“步行可以锻炼身体。没有急事，何必坐汽车，浪费国家汽油。”人们因此称他为“平民总长”。
马君武去世后，家人清点他的遗产，发现只有六千港币。先生远去了，却给世人留下一个清廉、节俭的背影，令后人时时仰慕、追念。