1949年初，蒋介石知道国民党政权大势已去，他在往台湾搬运大量财物的同时，也不忘拉拢一些知名人士前往台湾，遇到一些不愿赴台的，他甚至强迫、挟持其前往。国民党元老于右任就是一位被蒋介石强迫飞台的著名人士。
4月中旬的某一天，蒋介石还在其家乡浙江奉化溪口镇“归隐”的时候，其侍卫长王世和向蒋介石报告说：张治中和邵力子的家眷已不在南京、上海，去向不明。
蒋介石听后立即对身边的蒋经国说：“快通知毛人凤，把于右任监视起来，末让屈武把他弄走。”屈武是于右任的女婿，当时也同张治中参加了国共的和平谈判。
蒋经国说：“据他们试探于老的态度，于老表示要回太原老家，说狐死首丘（成语故事：意为狐狸临死前总要把头朝向它的洞穴方向），他这么一大把年纪了，不想到台湾出丑了。”
蒋介石又指示说：“不行，一定要把他们带到台湾去，一个也不许留！这批元老如果留在大陆，虽然没有用场，但总使我无法放心。送到台湾之后，情形有所不同，还可以作为证据，证明元老们拥护我。”
南京解放前，4月21日的清晨，南京国民政府监察院院长于右任刚刚起床，家里便来了一位国民党高级军官并带着武装卫士，来人见到于右任后，便冷冷地说：“报告院长，战争非常紧急，请院长即刻离开南京，到广州或先到上海，飞机已经准备好了。”
于右任面对如此强行的胁迫，一股凄凉和孤独之感袭上心头。面对着蒋家王朝的气数已尽，他知道这是历史的必然，心里并没有多少惋惜，但是古人云：覆巢之下，安有完卵？年已古稀的他，将要魂系何处，葬身于何地呢？
1949年上海，于右任被胁迫前往机场
于右任又想起前不久，周恩来通过女婿屈武给他捎来口信：“我们欢迎于先生来北平，如果将来和谈破裂了，那就请他留在这里，不再返回南京了。现在他既来不了北平，那就采取第二个方案：如果南京政府不接受和平协定，我们解放军决定本月（4月）20日渡江，占领南京，希望于先生在南京不要动，到时我们会派飞机接他来北平，将来同张澜、李济深和沈钧儒等人一道组织新政协，我们一同合作。”
于右任还想作出努力，他对来人说：“现在我身体不好，等一等再说好了。”
于右任登机前，最后看了一眼祖国大陆
可是，那位军官看于右任没有走的意思，以威胁的口气说：“上峰命令，必须马上离开南京！”说罢，来人不等于右任穿好衣服，就将其胁迫上车驰往机场，飞抵上海。之后，于右任又被胁迫着飞往广州，飞往重庆。
1949年11月29日，已71岁高龄的于右任又被胁迫从重庆飞往台湾。从此，他与夫人高仲林和女儿于秀芝天各一方，开始了孤苦的飘零生活。
在台湾，蒋介石考虑于右任在国民党内的资望高深，继续打尊“元老”的招牌，给于右任安了个国民“评议委员”的头衔，以期安抚像他这样的一批国民党元老。
1964年11月10日，已经86岁的于右任在疾病交加中，带着无尽的遗憾，与世长辞。在逝世前，他留下一首万分伤感、催人泪下的楚辞式诗歌：
《望大陆》（又名《国殇》）
葬我于高山之上兮，望我故乡；
故乡不可见兮，永不能忘。
葬我于高山之上兮，望我大陆；
大陆不可见兮，只有痛哭。
天苍苍，野茫茫，
山之上，国有殇。
