甘祖昌南征北战几十年，从不居功自傲。他常说：“要挑老红军的担子，不能摆老干部的架子。”他回乡以后，很长一段时间，都是同他两个弟弟家挤在一栋房子里住。有关部门按照国家规定多次要拨款给他盖房子，他都谢绝了。村里的人说：“按照国家规定，给你盖房子是应该的嘛！”甘祖昌说：“国家规定可以给我盖房子，这是党的关怀。但是我们不应该追求这种特殊照顾。现在国家搞建设，用钱的地方很多，我家暂时能够住下就行。”后来，家里人口增加了，老房子实在挤不下，甘祖昌就带领全家老小，利用农闲时间自己动手打砖做瓦，盖起了一栋普通民房。省民政部门的一位负责同志到他家，见窗户没有装玻璃，提出要给他买玻璃装上，甘祖昌说：“窗户上装玻璃，在城市是大众化，在我们农村，那就是‘小众化’了！”直到现在，他家的窗户还和当地社员的一样，是用塑料薄膜蒙的。
甘祖昌经常告诫自己：一个老干部，如果因为自己资格老，过去职位高，连身体也高贵起来，只讲养身，不讲革命，追求生活上的享受，天长日久，就会导致政治上的蜕化变质。回乡十八年来，他一直保持着艰苦朴素的优良作风。他吃的、穿的、住的都和普通社员一样，连抽烟也是用自己做的旱烟袋，抽的是自己种的烟叶。一年夏天，他出差到江西省东乡县。县委领导同志前来看望他，找遍了饭店的套间、单间、双人间，都没有找到，最后在一个普通的大房间里找到了他，看到他和几个旅客住在一起。今年三月中旬，他到北京开人大常委会议，穿的还是在新疆穿过的那身打了几处补钉的旧棉袄，带的还是那只旱烟袋。
甘祖昌回乡后，国家仍然给予他在部队时的工资待遇。他没有把这些钱看作是私有财产，花一分钱都要掂一掂分量。他说：“工资是国家给的，是劳动人民给的，我们只有把它用到革命事业上去的责任，没有丝毫挥霍浪费的权利。”他家有副帐钩坏了，他爱人说：“买副新的吧，只要几角钱。”甘祖昌说：“只要几角钱？几角钱可以买好几斤化肥，多打十几斤粮食。”他找了根铁丝，自己做了一副。甘祖昌有条毛线裤，是抗日战争时一位烈士生前送给他的，当时已经很旧了。甘祖昌穿着这条裤子，在南泥湾开过荒，在晋西北打过蒋匪帮，在新疆办过工厂。回乡以后，这条裤子又伴随他十几年，已烂得无法再用毛线补织，他就用布块缝上去，继续穿。甘祖昌自己这样节俭，可是，对支援发展集体经济，帮助社员解决生活困难，却十分慷慨。邻近的屋场大队兴修一个水库，资金不够，打算要国家贷款。甘祖昌知道后，便对屋场大队干部说：“不要向国家伸手，还是自力更生吧！”他主动拿出六百元工资支援他们。屋场大队干部社员深受感动，立即发动群众自筹资金，克服困难，建起了水库。为了帮助集体兴修水利、购买化肥、添置农业机械、解决社员生活困难，十几年来，甘祖昌捐出的钱占了他工资总数的百分之八十以上。有人问甘祖昌：你有官不当，有福不享，有钱不花，到底图个啥？甘祖昌爽朗地回答：“我们干革命不是为了个人升官发财，不是推翻一个剥削阶级再培植一个新的特权阶层。我们干革命是为了消灭私有制，解放全人类，实现共产主义。”
“只能给后代留下革命传家宝，不能留下安乐窝”
甘祖昌的大儿子锦荣，子女比较多。他看到社会上有的老人为子女造房子、置家具，很羡慕，便提出要父亲给他盖一栋新房。这件事，引起了甘祖昌的深思：我们老一辈人到底应该给后代留下什么？是留下一个安乐窝要他们去经营，还是留下无产阶级革命精神和光荣传统让他们去发扬光大？晚上，他把几个孩子都找来，同他们一起学习《共产党宣言》。他指着“废除继承权”的论述，对他们说：“留下一笔物质财富，让后代过不劳而食的寄生生活，那是地主资产阶级的继承观。我们无产阶级只能给后代留下革命的传家宝，不能留下安乐窝。”他严肃地批评了大儿子，又给每个孩子发了劳动手册和生产工具，并和孩子一起，订了一条“家规”：虚心向贫下中农学习，人人参加集体生产劳动。
甘祖昌的二女儿仁荣，是一九七二年回乡务农的知识青年。甘祖昌手把手地教她插秧、割禾等各种农活，经常检查她的劳动工分手册，不断对她进行热爱农村、热爱劳动的教育。前年夏天，仁荣参加了队里的“双抢”突击队。一天，别人还没收工，她却提前回到了家里。甘祖昌问她为什么提前回来，仁荣回答说：“这个农活，又紧张又艰苦，我干不了，我要继续上高中。”
甘祖昌见仁荣思想出了岔子，晚上，就给她讲述了井冈山斗争时期的一件事：一九二七年，甘祖昌参加革命后，和共产党员刘春元一起战斗。一天，他们在一起畅谈革命理想，刘春元说：“等革命胜利了，我们一定要让家乡变个样，山上长花果，山下变粮仓。”几天后，刘春元在一次战斗中负了重伤，倒在血泊中还断断续续地说：“要……革命……到底呀！”讲完这件往事，甘祖昌激动地说：“今天，这‘革命到底’的担子就落在我们肩上。我们一定要象当年红军那样，‘下斗争的决心，有耐战的勇气’把革命烈士用鲜血换来的土地，建设得更加美好。”爸爸的教育，激励着女儿前进。第二天，仁荣又出现在“双抢”突击队的行列。
现在，甘祖昌有三个子女在农村当普通社员。甘祖昌对他们不仅自己言传身教，还请村里老贫农给他们上阶级教育课，用村史、家史、革命斗争史和新旧社会对比，教育他们积极参加三大革命运动，把青春献给农村，做一个有社会主义觉悟的有文化的新型农民。
甘祖昌严格要求子女，要有老红军后代的革命责任感，不能有老干部子女的优越感。他坚决抵制资产阶级思想的腐蚀，反对滥用党和人民给予的权力，也决不通过熟人关系“走后门”。一九七二年的一天，在莲花县共产主义劳动大学念书的大女儿平荣，回到家里对甘祖昌说：“爸爸，我要去参军！”甘祖昌一听高兴地问：“选上啦？”平荣低着头，半晌才说：“爸爸，你给新疆军区写个信吧，我想到那里去当兵……”原来，平荣听说莲花县不征女兵，新疆征女兵，心想，爸爸原来是新疆军区后勤部长，只要他写个条子准没问题。甘祖昌一听这个情况，就严肃地对她说：“你想参军保卫祖国，愿望是好的，但要服从国家的需要。新疆有新疆的征兵计划，干部子女更应模范地遵守国家规定，不能闹特殊，这个后门不能开。”平荣觉得有道理，就接受了爸爸的意见。
