汉中郡隶属于益州刺史部，其郡治在南郑县（今陕西南郑），曹军此次的进军路线是由陈仓故道向南，过大散关、阳平关，直驱南郑。曹操四月份到达大散关，但直到七月份才来到阳平关，除了路道崎岖难行之外，平息氐人的叛乱也是行动迟滞的原因之一。
氐人世居于秦陇、巴蜀一带，与羌族杂居，所以又有“氐羌”的称呼。氐人有自己的王，东汉末年主要聚居于武都郡，即汉中郡的西邻，属曹魏新置的雍州刺史部管辖。
就在曹操南下汉中的时候，氐王窦茂突然起兵反叛，他们聚集一万多人，峙险不服。曹军如果继续南下，氐王就如同顶在背后的一把刀，这不是个小事。
所以，在四月至七月的这一段时间，曹操主要解决氐人的问题，他派张郃、朱灵率所部在雍州刺史张既的配合下攻打氐王。窦茂退守河池（今甘肃徽县），曹操下令猛攻，五月份将河池攻破，曹操下令屠城。
窦茂的覆灭，对雍州刺史部其余仍在割据中的各路势力形成了威慑，也就在这时候，盘踞在西平、金城一带的、蒋石等人斩杀了韩遂，把首级送给了曹操。据《典略》记载，老牌军阀韩遂起兵共三十二年，死时已七十多岁。
据《魏略》记载，除了氐人之外，曹操还解决了占据于此的刘鸣雄部。这个刘鸣雄是关中地区的蓝田人，郭汜、李作乱关中时隐入山中，很多人跑来依附他，马超叛乱时也来拉拢他，但他没有参加。曹操入大散关路过此地，刘鸣雄前来拜见，曹操很高兴，对他说：“我刚进关，就梦到一个神人，该不会就是你吧？”于是拜他为将军，让他召集部众，随同大军行动。
刘鸣雄的手下却不愿意归降曹操，他们劫持刘鸣雄造反，很多人前来依附，人数有数千人之众，他们占据武关道口。曹操派夏侯渊前往讨伐，刘鸣雄等人逃入汉中。
解决了这些问题，曹操南下再无后顾之忧。在武都郡曹操召见了太守苏则，对他的工作表示满意，让他带人担任大部队的向导（太祖征张鲁，过其郡，见则悦之，使为军导）。
这时麦子已经成熟，张既、苏则等人组织民众就地收获小麦，加上从关中调来的粮食，军粮供应不成问题，这也是曹操从合肥撤军急着发兵汉中的原因，他要赶上小麦成熟的季节，以保证军粮供应。
但军粮运输的难度很大，为此曹操命令河东郡太守杜畿征调一支五千人的运输队负责前线运输。杜畿治理河东郡有方，受到过曹操的嘉奖，上次潼关会战杜畿在后勤保障方面已经做出过重大贡献，这次五千人长途跋涉远离家乡，大家士气很高，都互相勉励：“人都有一死，宁死也不能辜负杜太守（人生有一死，不可负我府君）。”这支运输队竟然没有一个人逃亡。
除了杜畿外，曹操任命的长安特别市市长（京兆尹）郑浑也参加到支援前线的工作中，事后也受到曹操的表彰。
曹军继续行进，曹操命令张率五千步兵在前面开道，于七月份到达阳平关前。
阳平关位于今陕西省勉县境内，是汉中的西大门，它北面是秦岭，南临汉水和巴山，处于陈仓故道和金牛道的交汇处，这两条古道一条是关中南下汉中的必经之路，一条是汉中入川的必经之路，阳平关处于其结合部，可见地理位置之重要。
现在宝鸡到成都有一条宝成铁路，宝成铁路到陕南向右有一条支线，通往汉中、安康，这两条铁路的交汇处就是阳平关火车站。
据《魏名臣奏》记载，还在武都郡的时候，曹操曾向当地人询问过阳平关一带的地形，有人告诉他阳平关地势一点都不险要，关前的南北两山相距很远，不容易守住。但到了阳平关，曹操一看完全不是那么回事，不由得感叹道：“别人转述的，未必都是真实情况呀（他人商度，少如人意）。”
听说曹操亲率大军到达阳平关，张鲁自知不是对手，准备投降，但是遭到其弟张卫的反对。
张鲁于是派张卫以及杨昂等人率兵数万，在阳平关前横着筑石城十多里，拦住曹军的进攻。曹军大约有十万人，张鲁军大约三万人，但在这样的地理条件下，人多并不是最有利的因素，由于地势险要，易守难攻，曹军死伤惨重。
曹操感叹道：“打了三十年的仗，还没有这样受制于人的（作军三十年，一朝持与人，如何）。”
曹操决定撤兵，但是奇迹发生了。据《魏名臣奏》记载，曹操下令夏侯、许褚所部退兵，但在他们撤退过程中夜里误入敌人兵营，敌人不知究竟，还以为曹军攻营得手，竟然四散败走。
当时侍中辛毗、刘晔等人随军行动，他们赶紧告诉夏侯、许褚，说已经占领了敌人的要塞。夏侯、许褚不相信，亲自察看，确认果然是真的，回来报告曹操。
《世语》也记载了一件类似的事，说两军决战的关键时刻，突然不知从哪里窜出来数千只麋鹿，冲入张卫大营，张卫军营夜惊。恰在此时，曹操手下的高祚等离此不远，高祚吹响鼓角，召集其他友军。张卫大惧，以为这都是曹军预谋好的攻营战术，于是投降（夜有野麋数千突坏卫营，军大惊。夜，高祚等误与卫众遇，祚等多鸣鼓角会众。卫惧，以为大军见掩，遂降）。
阳平关就这样稀里糊涂地被攻下了，在南郑的张鲁见已无险可守，也想投降，但他手下的人事处长（功曹）阎圃劝他投降可以，但不要这么轻易就降。
阎圃认为：“现在就这么投降了，必然没有什么分量（今以迫往，功必轻）；不如先投奔杜和朴胡，然后看情况再说，到那时再投降功劳也大些。”
张鲁于是带领一部分人南入巴中。巴中即巴郡，在汉中郡之南，属益州刺史部，大巴山地区多在其内，包括今天四川省和重庆市所辖的万县、达县、南充等地，杜和朴胡是当地部族首领。
临走前，有人建议搞一些破坏，把仓库等设施烧毁，不留给曹操。张鲁不同意，他说：“本来打算归顺朝廷，现在离开是暂避锋芒，没有恶意，仓库里的东西都归朝廷所有。”张鲁让人贴上封条，然后才走。
曹操到了南郑，果然对张鲁的做法很高兴，他得知张鲁有归降的本意，就派人到巴郡寻找张鲁，劝他投降。
这一年的九月，巴郡地区的部族首领朴胡、杜率部出降，曹操下令分巴郡为巴西郡和巴东郡，任命朴胡为巴东郡太守，杜为巴西郡太守，都封为列侯。
十一月，张鲁率家属从大巴山出来投降，曹操以天子的名义拜张鲁为镇南将军，封阆中侯，食邑一万户，封张鲁的五个儿子以及阎圃等人为列侯。
据《典略》说，当初马超逃往益州，没有来得及带上妻子董氏以及儿子马秋。现在董氏和马秋都到了曹操手上，曹操把董氏赐给阎圃为妻，把马秋交给张鲁处理，张鲁很恨马超，亲手把马秋杀了。
张鲁亲手杀了马秋，还有向曹操表示忠心的意思，说明他与马超已成不共戴天的仇人，让曹操放心。
马超走得确实很匆忙，他把部将庞德也留在了张鲁处。张鲁失败后，庞德率部投降。曹操早就听说庞德作战勇猛，便拜他为立义将军，封关门亭侯，食邑三百户。庞德从此忠心耿耿追随曹操，至死不渝。
汉中攻破，前面那个逃到汉中来的刘鸣雄走投无路，再次投降曹操，曹操看到刘鸣雄，一把拽住他的胡子说：“老家伙，这回又抓到你了（老贼，真得汝矣）！”曹操恢复了他的职务，把他迁到渤海郡。
建安十六年（211年）与马超一同在关中作乱的程银、侯选等人各率一千余家此时也逃在汉中。汉中攻破后，他们出来投降曹操，曹操既往不咎，仍然恢复了他们的职务。
曹操对张鲁等人封赏都很重，原因并不像阎圃说的那样，而是曹操考虑到张鲁祖孙三代在汉中统治时间很长，又有一套“五斗米教”相辅助，在汉中影响很大，只有尊崇张鲁，才能得到汉中的人心，巩固汉中的统治，为进图益州作长远规划。
此时益州已被刘备占有，就在张鲁南入巴郡的时候，黄权曾向刘备建议：“如果失去汉中，则巴郡不可保，等于失去了益州的一条臂膀。”刘备于是任命黄权为护军，督率就近的各军前往巴郡，迎接张鲁。可是晚了一步，张鲁投降了曹操。
黄权转而攻击曹操新任命的巴中太守朴胡、杜等人，曹操命张率部赶往巴中进行支援，刘备也派张飞支援黄权。张与张飞战于巴中，双方相持五十多天，张飞打败了张，张撤回南郑。刘备任命张飞为巴西郡太守，三巴地区的大部分地区便归了刘备所有。所谓三巴，习惯指巴郡、巴东郡和巴西郡。
这时，担任丞相府办公室主任（丞相主簿）的司马懿向曹操建议：“刘备以骗术取得益州，蜀人未必肯服，此时他们与孙权为荆州的事相争于江陵，这是一个机会。如今攻克汉中，益州震动，进兵攻之，益州必然瓦解。圣人说过，做事不违背天命，但也不能失去时机呀。”
司马懿的建议并非没有道理，刘备得益州后，孙权趁机索要借出去的南郡等地，孙刘联盟出现了裂痕，这倒是一个机会。
刘晔也建议，攻克汉中后益州震动，正是一举攻占益州的最好时机（今破汉中，蜀人震恐，其势自倾。以公之神明，因其倾而压之，无不克也）。如果失去这个机会，必然给今后留下难题。
但是曹操迟疑不决，汉中之得有很大偶然性，如果不是天佑曹魏，说不定此次也是无功而返。这次行动的目标是汉中，既然目标已经实现就应该退兵了。
曹操没有接受司马懿和刘晔的建议，说了一句很有名的话：“人苦无足，既得陇，复望蜀邪！”这就是“得陇望蜀”典故的由来。
据《傅子》说，曹操很快就后悔了，他意识到失去了一次进军益州的好机会。占领汉中不久，有从益州那边投降过来的人报告说，听到曹军攻占了汉中，蜀中“一日数十惊”，虽然刘备连杀了不少人，但都不能安定局面（备虽斩之而不能安也）。这时候曹操动了南下益州的念头，他问刘晔是否可行，刘晔回答：“时机已经错过，现在那里的局面必然初步安定，不能再进攻了（今已小定，未可击也）。”
《傅子》的说法值得怀疑，战机虽然稍纵即逝，但进攻益州这样的大会战不是突袭，战机不会在几天之间就发生太大的逆转，即使前面曹操决定用兵，杀到成都耗时也得数月，怎么可能刚过几天就变化得这么快？
而从张和张飞在巴中地区交战的情况看，曹军如果即刻南下，在局面上未必占优，先不说汉中、巴中初定，人心不稳，单就战争准备、熟悉道路等方面，也不是仓促就能完成的。
曹操没有采纳司马懿和刘晔的建议，是明智的。
曹操任命夏侯渊为总指挥（都护将军），率领张、徐晃所部留守汉中，派丞相府秘书长（丞相长史）杜袭以驸马都尉负责处理汉中的政务。汉中郡之前已被刘焉改为汉宁郡，曹操下令恢复汉中郡，将汉中郡的安阳、西城等县分出来，设置西城郡，将锡县、上庸县等分出来，设置上庸郡，分别设置了太守、都尉。