1928年，陈寅恪加入中央研究院史语所并出任第一组（历史组）研究员兼主任。与李济和赵元任不同的是，因陈寅恪不舍得丢掉清华国学研究院这个与自己建立了血肉情感的学术阵地，以及那些好学上进的学生，虽答应了傅斯年聘请，并未前往广州赴任。当盛极一时的研究院解体后，陈寅恪仍在清华园担任大学改制后的历史、中文两系合聘教授，史语所一组主任职务属遥领性质，除人员聘请、职称晋升与研究课题等大政方针亲自操劳，具体事宜并不过问。
1929年春末，中央研究院史语所由广州迁往北平北海静心斋办公，陈寅恪得以与史语所同仁会合，并有了经常在一起研讨的机会。而这个时候，经陈寅恪与天津一位叫李盛铎藏书家无数次谈判，终于把清宫流出的号称8000麻袋，计约6万公斤内阁档案（南按：即满清入关后的档案文书，曾作为废纸被卖掉，后被罗振玉、李盛铎先后获得），以史语所名义买下并运到北海静心斋供陈寅恪主持的一组整理研究。——这是史语所自成立以来所获得的第一笔宝贵史料和学术研究资源，史语所“有此一得，声光顿起”，达到了一鸣惊人，为天下学界所重的奇效。随着安阳殷墟发掘成果的扩大，史语所威望日隆，成为傲视群雄的学术重镇。正如董作宾后来在《历史语言研究所在学术上的贡献》一文中所言：到了1948年，中央研究院已有13个研究所，史语所排行第九，“该是一位小弟弟，其实他一向在研究院中被推居老大哥的第一把交椅上”。史语所人员多达84人，比其他的所多一倍至九倍。而“那些兄弟所们，在敬、畏、妒，复杂情绪之下，不能不尊他是老大哥，称之曰‘大所’”。
正在往“大所”路上行走的傅斯年自搬来北平，大有潜龙归渊，虎踞深山之势。除了统率史语所本部人马，傅氏还跃马挺枪杀回北大，于雾色苍茫中争占地盘，以再展当年学生领袖的风采与辉煌。傅斯年入主北大公开的名号是北大文学院历史系兼职教授，暗中的打算是借授课之机，发现读书种子和有希望的学术研究苗子加以栽培笼络，以便其人毕业后拉入史语所，继续扩大“大所”的阵营和声势，后来加入史语所的胡福林——也就是在昆明不辞而别的那一位，就是这个时候被傅斯年发现并着意栽培的学生。对于北海静心斋储存的数量惊人的内阁大档，傅斯年认为非陈寅恪出面主持整理不可，于是要求在北平郊外清华园居住的陈寅恪，立即“改住北平，至少可以在北平住每周数日，以便从事上列（内阁档案）工作”。
既然担负着史语所历史组主任兼研究员之职，而整理内阁大档的工作又属于历史组，陈寅恪责无旁贷，遂痛快地答应了傅斯年的要求，除保留清华园新西院三十六号的寓所，另在北平城内西四牌楼姚家胡同三号租赁了一处宽敞舒适的四合院，并把其父陈三立，连同本家大嫂从南京接来居住。有了城里城外的两处住房，且两处住宅房间墙上都安装了当时极其稀有的电话，陈寅恪开始比较从容地奔波于两地之间。除在清华授课，大部分时间都在城里北海静心斋带领史语所历史组人员如徐中舒、劳榦、李光涛等人整理内阁档案。这年9月，傅斯年与陈寅恪筹划成立了“历史语言研究所明清史料编刊会”，除傅、陈二人，另聘史学大家朱希祖、陈垣以及年轻的学术中坚徐中舒为编刊委员，拟列了一个庞大的出版计划，历史组人员一边进行整理、分类、编目，一边刊布印行，将珍贵史料公诸于世，取名为《明清史料》。——杖是陈寅恪一生在生活上最舒心、精神上最得意、学术上最有创见的极盛时期。
可惜好景不长，1931年“九一八”事变之后，日本占据东三省，中国的政治、文化中心逐渐南移。1933年4月，遵照中央研究院总办事处指令，史语所拔寨起程，由北平迁往上海曹家渡小万柳堂办公，除一少部分人员与内阁档案留守北平外，其他人员全部南迁。陈寅恪不忍舍弃清华园生活环境与学术氛围，没有随所迁移，仍留校任教，同时改任史语所“专任研究员暂支兼任薪”（南按：意为陈氏在史语所的主任与研究员名义保留，但只给一点薪金补贴，主要薪水由清华支付。）这是陈寅恪与他所统领的史语所历史组共同相处了四年之后首次分别。就陈寅恪当时的情形言，史语所自广州成立之日起，就有迁北平的打算，而陈氏之所以答应傅斯年出任历史组主任，正在于史语所迁北平后自己可以两头兼顾，或者辞去一头而专顾另一头，无论是在清华园任教，或到城内史语所办公处从事专门的学术研究，二者皆可。想不到史语所仅在北平四年就来了个“孔雀东南飞”，一口气跑到了上海，独自留在清华园的陈寅恪遂有辞去史语所职务的打算，只因时局动荡，史语所最后在何处落脚生根仍未有明确的目标，尽管有定居南京的议案，但毕竟没有落实，何况政局不稳，说不定哪一天又出个什么岔子，再度返回北平亦未可知。于是，陈寅恪只好采取静观待变的态度，视具体情形再作最后打算。1934年，中央研究院在南京北极阁兴建的办公地点陆续竣工，大部分研究所陆续迁入，史语所随之由上海迁南京，同年5月增设人类学组，并于筹备完成后的1935年聘请欧洲归国的大字号“海龟”吴定良博士主持。就在这个时候，陈寅恪产生了辞去史语所历史组主任，一心一意在清华园教书的想法，但未得到蔡元培和傅斯年应允。
1936年春，傅斯年致函陈寅恪，请其赴南京参加史语所会议，就未来大政方针和发展方向进行商讨。陈寅恪思虑再三，于1936年4月8日致函傅斯年，决定不予出席，并正式提出辞呈。函曰：
孟真兄左右：
首示敬悉。所以稽迟未即奉复者，以尚未决计南行与否故也。今决计不南行，特陈其理由如下：清华今年无春假，若南行必请假两礼拜，在他人，一回来即可上课，弟则非休息及预备功课数日不能上课，统合计之，非将至三礼拜不可也。初意学生或有罢课之举，则免得多请数日之假，岂知竟不然，但此一点犹不甚关重要。别有一点，则弟存于心中尚未告人者，即前年弟发见清华理工学院之教员，全年无请假一点钟者，而文法学院则大不然。彼时弟即觉得此虽小事，无怪乎学生及社会对于文法学院印象之劣，故弟去学年全年未请假一点钟，今年至今尚未请一点钟假。其实多上一点钟与少上一点钟毫无关系，不过为当时心中默自誓约（不敢公然言之以示矫激，且开罪他人，此次初以告公也），非有特别缘故必不请假，故常有带病而上课之时也。弟觉此次南行亦尚有请假之理由，然若请至逾二星期之久，则太多矣，此所以踌躇久之然后决定也。院中所寄来之川资贰佰元，容后交银行或邮局汇还。又弟史语所第一组主任名义，断不可再遥领，致内疚神明，请即于此次本所开会时代辞照准，改为通信研究员，不兼受［任］何报酬，一俟遇有机会，再入所担任职务。因史语所既正式南迁，必无以北平侨人遥领主任之理，此点关系全部纲纪精神，否则弟亦不拘拘（泥）于此也。所欲言者尚多，特先约略奉复，即希鉴谅，并代候诸公，至深感幸。敬叩撰安弟 寅恪顿首四月八日傅斯年接信，对陈寅恪提出的不出席会议和辞职事皆不照准，退而求其次，想出了一个“两头兼顾”之法，让陈氏只出席几天会议，保证一个星期内可返北平。为了加重邀请的砝码，傅斯年与李济联名拍发电报，以示尊崇和迫切之情，但陈氏仍未南下。4月13日，陈寅恪在致傅斯年、李济的信中说道：“前日奉到来电，又迟疑久之，至今日仍决计不南行，殊负盛意，惶愧之至。弟虽可于一星期内往返，但事实上因身体疲劳及预备功课之故，非请假两星期不可。自昨日起，又略感冒受谅，则短期内往还之可能更少矣。又弟请于暑假后解除第一组主任名义一事，实考虑再三，认有必要，否则亦不拘泥，务求兄等与诸公会商允许，不胜感祷之至。”信旁注数语，其中有“弟不列会或可便于讨论，否则互相客气，又恐不易决定矣。此亦不必到会之一小小理由也”。
既然陈寅恪两次复函表示不再南下，并列举了相当的理由，傅斯年自然不便霸王硬上弓，强人所难，陈氏南下之事就此画上了句号，只是他所坚辞的史语所历史组主任之职未能遂愿，不但这年的暑假之后未能解除，即是在抗日烽火燃烧于大半个中国之时同样没有实现。以陈寅恪在学术界超凡的学识与名望，满身霸气的傅斯年好不容易才延揽到自己麾下，自然不会轻易放弃。令傅、陈二人都没有想到的是，北平分别五年之后，陈寅恪与史语所同仁又有了一次相聚的机缘，只是，这次相聚不在北平，亦不在南京，而是硝烟弥漫、弹片横飞的西南边陲昆明城。