在国家的军事实力上，理性的胡适认为中国决不具备对日作战的能力，因此抗战之初胡适还是一个“主和派”，但随着抗战的进行，胡适思想也发生了改变，认识到日本也不是不可战胜的。
同时，蒋介石又希望在外交上，能得到英美等国的同情和支持，于是，国民政府遂委派胡适以非正式使节的身份出访欧美，进行国民外交。
1937年9月，胡适飞抵旧金山，连续发表数场讲演，他又连夜草拟英语广播演说稿，可是哥伦比亚电台却以稿中所批评美国中立政策措词太鲜明而提出异议，并要求重新修改，胡适生气了，毫不妥协地回答：“宁可取消广播，不愿修改。”没想到，这一发火，电台反倒客气起来，答应仍照原稿演说。到达华盛顿后，胡适和王正廷大使同去拜访罗斯福总统（罗斯福是胡适早年留学哥伦比亚大学时的同学，加上胡适的声望和魅力，他是被罗斯福列为上宾看待的），胡适的演讲、游说的努力，一直没有中断，及至到第二年7月，他已走遍美国、加拿大各大城市，会见各方知名人士，揭露日本的侵华暴行，表明中国抗战的决心。
1938年蒋介石敦请胡适出任驻美大使，经过反复思想斗争，胡适以国事为重，毅然决定：放弃二十一年的独立自由的生活，今日起，为国家牺牲了。直至晚年，他回忆起当年的选择时，还不无欣慰地说：“当时国家是战时。战时政府对我的征调，我不敢推辞。”
胡适搞外交，全无政客的深沉和韬晦，而是以“诚实与公开”的态度，赢得别人的理解和信任，所以，人们赞誉他为书生大使。
胡适可谓是“受命于败军之际，奉命于危难之间”。他对使馆人员说：“我是明知国家危急才来的，国家越倒霉，越用得着我们，我们到国家太平时，才可以歇手。”他还在赠送友人的照片上自题小诗，以表明自己的心志：偶有几茎白发，心情微近中年，做了过河卒子，只能拼命向前。胡适以“拼命向前”的“过河卒子”自许，鞭策自己为国家鞠躬尽瘁，死而后已。然而，在具体履行大使的职责时，他总感到责任重大，一发千钧，所以，言行举止都如《诗经》所云：“战战兢兢，如履薄冰，如履深渊。
”这个“过河卒子”很得美国舆情的支持，消息传到日本后，引起日本人的惊恐，倍感压力，当时日本国内的社会舆论发起建议应该派三个人同时出任日本驻美大使，才可以抑制住胡适的能力，三个人分别是文学专家鹤见祐辅、经济专家石井菊次郎和雄辩家松冈洋右。
在胡适等人的努力下，美国向中国提供了数笔贷款，加上日本逐渐的嚣张无忌，美国逐渐与日本停止商贸往来，但美日谈判又于1941年达成临时协定草案，美国要放松对日本的经济制裁，且只字不提中国境内的日军，胡适当即表示反对，并且要求面见罗斯福总统，英国首相丘吉尔也给罗斯福发来电报，反对美国的对华政策，陈述中国如果崩溃，将大大地增加英美的危机。正是在这种努力之下，美国决定撤消妥协方案，从而使太平洋的局势为之一变。12月7日，也就是珍珠港事件将要发生的当日，胡适还在纽约演说。
国民政府认为，中国外交的这一胜利，实出于胡适之功。甚至美国的一名著名的反战派人士查理·毕尔也说，美日之间的战争不是不可以避免的，但是，罗斯福为了维护资本家在亚洲的利益，不幸上了那位颇为干练的中国大使胡适的“圈套”。而胡适在驻美大使任上，为抗战过度操劳而患心脏病，随后便体弱多病，1962年去世因心脏病发作而致。
1942年8月15日，胡适收到免去他大使职务的电报，心中尤为欣喜，大使任上的疲惫和倦怠，以及官场内斗，令胡适早有退意。交卸差事后，由华盛顿来到纽约，真正践履其与夫人、朋友所许的诺言，重又回到本属自己的田园，孜孜不倦地进行学术研究。