放下行装，刘峙急不可耐地去拜见蒋介石，要“汇报工作”。岂知见面之时，蒋介石不容他开口，劈头盖脸就是一通臭骂。好在刘峙了解蒋介石的秉性，知道他骂过以后就会风平浪静的。况且，他在大陆时期就已养成标准的奴才德性，可以立正恭听“领袖”责骂，不管蒋介石骂多久，不管骂什么，刘峙一律唯唯称是，而且可以保持立正的姿式一动不动。这一次，年近七旬的蒋介石体力已不比当年在大陆时期，骂了一会儿便感到疲倦了，只好住口，吩咐刘峙回去后好自反省。
刘峙从“总统府”退出来后，心情反倒舒畅起来。他凭以往的经验断定，蒋介石对他这顿痛骂，就算把过去种种旧账一笔勾销了。果然，一个月后，“总统府”派人给刘峙送来了“总统府国策顾问”的大红聘书。1954年2月，刘峙出席“第一届国民大会”第二次会议，再度当选为大会主席团主席，10月还受聘为“行政院光复大陆设计研究委员会”委员。因为有流落爪哇当“猢狲王”的履历，刘还在“光委会”里兼国际关系侨务组召集人，这个头衔，又成为台湾人饭后茶余的新笑料。这些官职虽然都是虚职，没有什么实权，但“车马费”还是不少的，可保生活无虞。刘峙有了在海外漂泊受苦的经历，对这一结局已感相当满意。1960年2月，刘峙出席“第一届国民大会第三次会议”，仍当选为大会主席，1966年“国民大会”也是一样，1967年兼任“行政院光复大陆设计研究委员会”台中区主任直到去世。
刘峙回到台湾后，定居于台中市，妻子黄佩芬任教职于省立台中女子中学。刘峙五十多年未出国门一步，除了1950年至1953年冬，在印尼侨校教书时曾到一些地方游览一番外，再无其他游历。而来台之后，在极平淡和寂寞的生活中，又度过了自认为是毫无生命价值的八载，进入了人生古稀的阶段。人到晚年本应心情闲散恬淡，然而刘峙自觉生活圈子太小了，静极思动，欲作远游，限于经济条件，只是幻想而已。不料糖尿病日趋恶化，心脏也发现有问题，便想趁早到美国去检查身体，并看看新大陆的繁华。于是刘峙在得到复兴公司董事长周兆棠，以及胡宗南、黄杰、罗列、刘安祺几位黄埔军校时的学生的资助，终于遂了平生“壮游”的心愿。1961年9月10日，刘峙和妻子黄佩芬由高雄港登上复平号货轮，起碇赴美。船行至赴美的第一站神户停泊，因其在日本有一段时间停留，而后再由横滨起碇继续赴美的航程，刘峙及夫人便趁此机会由神户登陆，经大阪到东京候船，藉此观光。刘峙在东京车站得到商起予上将、马晋三中将及台湾驻日本“使馆”参事熊质傅的迎接。刘峙与商起予相别已十数年了，如今在异国老友相聚，二人嗟叹不已。刘峙在日本各处逗留了12天，在此期间受到台湾驻日本使馆参事张厉生的盛筵款待，得到马崇六中将的按摩治疗。复平轮于9月28日再次启航，至10月13日晨，到达美国西海岸的洛杉矶港外。
在美国，刘峙夫妇先后游历了洛杉矶、旧金山、纽约、波士顿、华盛顿、芝加哥等地，这期间在纽约的外甥女婿宓宁家中住了月余。12月30日乘复康轮启碇离开波特兰港返航。这一次游美，从西海岸的洛杉矶登陆，从旧金山横贯新大陆，到东海岸的纽约，然后又从纽约经芝加哥，回到西海岸，由波特兰返台，刘峙的游踪在新大陆划了一个V字形。他总算是遂了心愿，自觉大开眼界，深有感触。
刘峙“居恒好读书，无日不写日记”，在开封绥靖公署时，空暇之余，常请熊哲（后为台湾国立政治大学教授）为之讲解古籍，书法也劲猷有力。刘峙喜欢办教育，1931年在吉安原籍创办“扶园”学校一所（包括中小学），直到解放后才停办，历时近二十年。在开封创办“扶豫小学、赣声中学、黎明中学、中州中学、
中国中学、中正中学及静宜女中等校，在重庆也曾创设中学，均是斥私资经营，以上各校培育的学生不下万人。刘峙晚年回忆起自幼立的三大愿望，即是：（1）创办由小学到大学的大规模学校一所，以最佳教育方法，为国家造就人才。（2）设置一个大图书馆，古今中外书籍齐备，为大众增进知识，并便利有志者进修，促进国家文化发展。（3）开设大医院，为贫苦无告者，解除疾苦。然而除第一项曾经创办到中学为止外，其余两项，等于自己说谎。种种憧憬，均成幻影，浩叹不已！
刘峙闲暇时回忆往事，且忆且述，数年后居然整理出一部《我的回忆》。因没钱出版，刘峙的这本回忆录先以油印本形式在昔日同僚、部下中传阅，后被出版商相中，才得以正式出版。
1962年，与他在印尼落魄患难的妻子黄佩芬因病去世，这件事对年迈的刘峙是一个沉重的打击。从此后他益加落落寡欢，在寂寞孤单中消磨岁月。刘峙身体状况向来不错，不吸烟、不饮酒，早晚不懈运动，只是中年患有糖尿病及轻微心脏病，服药未能根治，1970年夏中风，半身不遂，住院半年养病，终告不治，1971年1月15日，刘峙病逝于台中。
