回到台湾，顾维钧诚恳地对蒋介石说：“我已像一匹老马，体衰力竭了”。希望由年轻人来接替他的工作，而蒋介石也没有表示挽留。返美之前，顾维钧又对蒋介石做了一次礼节性拜谒，这一次，蒋介石没有像以前那样送他出门并把他送上车，只是把他送到会见厅的门口便返回了，蒋介石是不会对一个已经失去利用价值的人优礼有加的。
事后，蒋介石又通过张群之口，委任顾维钧为“总统府”资政。就这样，68岁的顾维钧告别了华盛顿双橡园，结束了10年驻美使命，也告别了自己长达半个世纪的外交生涯。他在纽约郊外的佩勒姆庄园租了一所房子，那里草木葱茏，空气清新，流水潺潺，鸟语花香。他准备在这里过一段隐居生活，享受一下大自然的美好时间，使奔波了几十年的身心得以调整和放松。
这时的顾维钧准备做三件事情：疗养度假，以消除长期紧张工作带来的疲劳；写作和研究；开设事务所，提供法律咨询，解决生计问题。
在他尚未着手去做这些事的时候，来自台湾的叶公超的电报便送了另一个消息，一个足以打乱他的计划的消息。叶公超在电文里希望他同意竞选一个新的职位：联合国国际法院法官，以递补由于中国籍法官徐谟在荷兰去世所遗留的空缺。国际法官地位尊崇，待遇优厚，顾维钧欣然同意。
