孙权要向刘备讨要南郡，张召便说只须派一人去便可马到成功，孙权欣喜，忙问张召，张召道，“现诸葛亮在刘备处任军师中郎将，刘备对他是言听计从，主公可派诸葛谨前去讨要，诸葛亮与诸葛谨是亲兄弟，我想诸葛亮定会帮助诸葛谨，所以诸葛谨去定能成功。”
孙权喜道，“我怎么就没想到呢？好，就让诸葛谨去。”于是孙权便命诸葛谨前去成都讨要南郡。
诸葛谨到了成都先面见刘备，呈上孙权的书信说明来意，刘备看罢信便让诸葛谨去驿馆歇息，随后将诸葛亮找来，对诸葛亮道，“你兄弟诸葛谨从江东来了。”诸葛亮道，“莫非是讨要南郡之事。”
“正是，”刘备道，“你说我该如何作答？”诸葛亮道，“主道，“明日主公可如此如此这般说便是。”刘备大喜。
诸葛亮刚回到家中，诸葛谨便来找他，说明来意，忽然哭泣起来，“大哥，此次若讨不到南郡，孙权便要将我斩首，还望哥哥在刘备面前说合，将南郡还与东吴。”
诸葛亮道，“兄弟放心，我这就去见主公，劝主公归还南郡。”
次日，诸葛亮与诸葛谨去见刘备，问归还南郡之事，刘备怒道，“你家主公孙权私自将我夫人接走我还没向他兴师问罪，他倒要起南郡来了，不给！”
诸葛亮跪地哭拜道，“主公就还东吴南郡吧，否则我兄弟将被孙权杀害，我兄弟若死，我亦不独活矣！”
刘备思量片刻，忙将孔明扶起，道，“看在军师的面上，我就把长沙、桂阳、零陵三郡交于东吴，诸葛谨，你就回去复命吧。”
诸葛谨喜道，“请刘皇叔写一封书信让我交于关羽，让关羽交割三郡。”
刘备应允，于是便写了一封信让诸葛谨带上，诸葛谨唯恐刘备反悔，立即赶回荆州，不日便到达南郡的江陵城，入城见过关羽，对关羽说明来意，将刘备的书信呈上，关羽看罢将书信撕毁，道，“有道是将在外君令有所不授，大哥让我割让三郡，我偏不给，诸葛谨，你回东吴吧。”
诸葛谨大惊，想夺回信笺，可已经晚了，诸葛谨怒道，“关羽，你连家主公的话都不听了吗？你家主公让你交割三郡，你交还是不交？”
关羽也怒道，“诸葛谨，若不是念在你哥诸葛亮的面上，我早把你砍了，来人，给我轰了出去！”
几个兵士过来就把诸葛谨轰了出去，诸葛谨忿忿地回头看了看关羽的衙门，只得返回建业，垂头丧气地向孙权诉说一切，哭道，“关羽欺人太甚！”孙权咬牙切齿，“并非关羽之意，实则刘备之谋，刘备并无归还荆州之意，子明，你看我们该如何处之？”
吕蒙道，“刘备不是许诺交割长沙、桂阳、零陵三郡吗？关羽不给，那我们就强攻，夺取三郡。”
“好！”孙权道，“吕蒙，孤就命你率韩当、周泰、丁奉、徐盛引两万人马去取长沙、桂阳、零陵三郡，即日起程。”
吕蒙领令走后，孙权亲自前往陆口，让鲁肃引两万人马南下益阳以挡关羽救援三郡。
消息传到荆州，关羽大惊，急忙派人星夜赶程到成都去禀报刘备，刘看听后也吃惊不小，此次孙权派人来讨要南郡刘备没有给他，本以为孙权再会派人来索要，却不想孙权来硬的了，荆州是刘备的大本营啊，是诸葛亮“隆中对”中所设想攻取中原的一个战略要地，诸葛亮在“隆中对“中就阐明，待时局有变，刘备可令一大将出荆州北攻襄樊与洛阳，同时刘备则出益州北取长安，两下夹击以定中原，因此，荆州的战略位置十分重要。
因此，刘备亲率赵云引五万军马昼夜赶程前去荆州增援关羽。
再说吕蒙，率大军南下去攻取长沙、桂阳、零陵三郡，传檄长沙、桂阳，二郡望风归降，吕蒙乘势挥军过湘水，兵围零陵。零陵太守郝普登城拒敌。
吕蒙传檄郝普，让他投降，可郝普拒不投降，吕蒙便后撤十里地下寨，另想他策。此时刘备已经率军抵达荆州，刘备便令关羽引三万军马去收复长沙与桂阳，孙权得知，一方面让鲁肃引甘宁等将在益阳以挡关羽，一方面传令吕蒙撤军去增援鲁肃。
吕蒙收到孙权的命令后并没有马上撤兵，而是派人寻找到郝普的好友邓玄之，欺骗邓玄之说曹操已派兵攻打荆州，关羽此时正在南郡与曹操决战，不会抽调兵力来救零陵，让邓玄之进零陵城去劝降郝普。
邓玄之信以为真，匹马进零陵城去见郝普，尽言吕蒙之语，郝普惊惧，于是开城投降。郝普出了城后，吕蒙即刻派兵进占了零陵，吕蒙拉着郝普的手大笑，把孙权令他撤兵的信给郝普看，郝普才知上当，后悔晚矣。
此时关羽已兵至益阳，因益阳在湘水东侧，关羽便把大军驻扎在益阳对岸，自亲率五千精兵北上十里地，想在上游浅滩处过湘水去攻打益阳，鲁肃探马得到消息，与众将商议对策。
部将甘宁道，“请将军给我一千人马北上隔岸去阻挡关羽，关羽只要听到我的咳嗽声，定不敢徒步过河。”鲁肃大喜，遂拨一千精兵与甘宁，于是甘宁率军北上，在上游浅滩处扎营，以待关羽。
待关羽引军到达上游浅滩时发现对岸吴兵已扎营驻防，营门口的帺帜上书写一个斗大的“甘”字，关羽明白，领军大将定是甘宁。此刻，关羽犹豫了，如果强行涉浅滩渡河，势必遭到甘宁军的打击，自己兵马虽多，但对岸若甘宁军以弓箭射击，士兵步涉水中定有很大的伤亡，且甘宁乃是江东一员虎将，其武力也不在关羽之下，因此，关羽见对岸甘宁设防便没敢步涉过河。
关羽夜里在河边巡查，听闻对岸有一宏亮的咳嗽声，关羽对部下道，“此必是甘兴霸也”，次日，关羽便令兵士去荒野砍柴以筑营栅，以防甘宁过河，后此地被人们叫为“关羽濑”。
孙权令吕蒙攻取了长沙、桂阳及零陵三郡，刘备才从成都率大军赶到荆州，刘备令关羽去夺回三郡，却不料孙权早有预防，不易攻取，刘备只得与孙权各领兵在湘水两岸对峙，而此时曹操已兵出邺城直奔汉中，刘备得知消息后不免心情紧张起来。
而孙权取得了三郡后也不想再扩大战争，想尽快地与刘备结束这对峙的局面，于是他便派鲁肃为使去和关羽协商退兵之事。
鲁肃便写了封信给关羽，约请关羽在零陵城以北某地相见，协商退兵之事。关羽通报刘备后应允了鲁肃，鲁肃又建议将各自兵马退后一百步之外，只允许将军们带着单刀到约会地点相见。
到了约定之日，两军都在百步之外列队，各自都衣甲鲜明、旗帜招展、枪戟林立，杀气腾腾。
鲁肃带着甘宁、韩当、周泰、徐盛、丁奉来到关羽的对面，关羽的身后则站着关平、周仓、廖化、糜芳及傅士仁，关羽请鲁肃对面而坐，各自部将都按剑站立后方。
鲁肃道，“你我军队本是同盟，在赤壁一战大败曹操，我们才有了这稳定的局面，我们不应该相互攻伐，破坏了我们联盟的局面而让曹操渔翁得利。”
关羽道，“公既然说我们应该稳定结盟的关系，因何首先出兵攻取我长沙、桂阳及零陵三郡？”
鲁肃道，“事出有因。想当初你家主公刘皇叔借我南郡，言道待取了益州相还，可你们已经取了益州而不归还我南郡，我家主公派诸葛谨前去成都讨要南郡，刘皇叔不给南郡，说要割让江夏、长沙、桂阳三郡给我们，而到了关将军这里却又不给，我们万般无奈才走此下策，望关将军见谅。”
听鲁肃这么一说，关羽身后的周仓沉不住气了，厉色说道，“天下土地，唯有有德之人才能拥有，你们东吴凭什么想独占！”
鲁肃瞪着周仓也厉声道，“当初刘备在长坂坡时，计穷力竭，来投我们东吴，是我主孙权同情刘备没有栖身之地才割爱荆州以济其患，使有所庇荫，但刘备矫饰私情，已取得益州还想兼并荆州，这种事情连凡夫俗子都不忍心去做，何况还是有头面的领袖人物！我知道有这样的话，贪而弃义，必有祸。将军你我都是有重任在身的人，如果连这一道理都不明白，反而一味袒护其短，这能算是为主尽忠吗？”
关羽听罢无言以对，转而怒斥周仓道，“此国家大事，岂是尔等乱论尔，还不快快退下！”
周仓退下后关羽道，“将军所言也是，为了我们不伤和气，稳固同盟，我家主公给我的建议是：以湘水为界，湘水以东的江夏、长沙、桂阳三郡归东吴，湘水以西的南郡、武陵、零陵归我家主公，子敬将军你看如何？”
鲁肃想了想，回道，“待我禀明我家主公裁定后给你答复。”
于是两军各自撤兵。鲁肃回陆口去见孙权，告诉孙权刘备想以湘水划界的打算，张召道，“我看此事也行。零陵虽然我们已经取得，可零陵在湘水以西，直面南郡的威胁，不易防守。现我们的敌人是曹操，听闻曹操已去取汉中，我们不如趁机去取合肥，然后徐图中原，这比我们在这与刘备相耗好的多。”
鲁肃也道，“子布所言甚是，望主公三思。”
孙权想想也是，于是令鲁肃赶回零陵，与关羽鉴定协议，刘备与孙权两下平分荆州，以湘水为界，湘水以东江夏、桂阳、长沙三郡归东吴，湘水以西南郡、武陵、零陵三郡归刘备，孙权将取得的零陵郡归还刘备，将零陵太守郝普等不愿为东吴效力的三郡官员一律归还给刘备，两家就此罢兵言和。
此次湘水划界，孙权虽得了长沙与桂阳两郡，但孙权还是觉得吃了亏，这是因为原先借给刘备的南郡彻底归了刘备，而南郡无论是战略位置还是物产资源都要比长沙、桂阳强的多，所以，孙权对此还是耿耿于怀。