从事这些工作与指挥作战完全不同。指挥作战他是统帅，具有绝对的权威，而和平时期的这些工作不能依靠权威，而只能靠商量、说服、协调、甚至争论。艾森豪威尔感到十分不习惯。在这种情况下，他心底的另一个原来被压制的念头开始爬升起来：他刚任陆军参谋长的时候，有许多大学向他发出邀请，请他出任校长。就这样，他于1948年辞去了陆军参谋长的职务，应邀出任哥伦比亚大学校长。
1950年10月23日这一天，他收到一张要他给总统去一个电话的便条。他立即给总统去了电话。总统说希望他去华盛顿谈一谈关于派他去指挥北大西洋公约组织盟军的问题。10月27日，他搭军用飞机抵达华盛顿。
通过拜见总统和其他军队高级领导人，艾森豪威尔逐步弄清了总统的意图。朝鲜战争爆发后，杜鲁门和西欧盟国领导人都无法判明苏联的真实目的。一种倾向性的意见认为，苏联怂恿朝鲜向朝鲜南部进攻，是为了把美国的军事力量从日本和其他地方吸引过来，使美国的实力集中在亚洲这个偏远的半岛上，以便其向西欧发动全面进攻。同时认为，即使一时不发生这样的进攻，苏联同西方对抗也是难免的。
有鉴于此，在美国的倡议下，1949年4月4日美国、加拿大、丹麦、法国、冰岛、意大利、卢森堡、荷兰、挪威、葡萄牙、比利时、英国等12个国家在华盛顿签订了北大西洋公约。但是，美国的战略家认为，仅有这样一个组织是远远不够的，还有必要从军事上统一西方各国的认识，做好切实的准备。艾森豪威尔被赋予的就是后一项任务。