率诸军乘势追击,几乎捉住孙权,江东名将陈武亦在此战中被击杀。
曹操闻此,对张辽的表现大加赞许,并拜张辽为征东将军。张辽大败孙权一事震惊孙吴,计《三国志?吴书》连裴注中,述及此事的列传有七篇。据《魏略》记载,此役之后,江东小儿啼哭不肯止者,其父母只要吓唬说:“张辽来了,张辽来了!”孩童就没有敢哭泣的了。
建安二十一年(公元216年),曹操再征孙权。军到合肥,曹操循行视察昔日张辽作战的地方,赞叹良久。于是给张辽增兵,多留诸军徙屯居巢。
建安二十二年(公元217年),曹操攻濡须口,孙权请降,留夏侯、曹仁、张辽等屯居巢。
建安二十四年(公元219年),关羽围曹仁于樊城,适时孙权称藩于魏,为了让孙权安心攻打荆州,于是曹操召张辽及诸军悉数回救曹仁。张辽尚未到达,徐晃已经打败关羽。张辽便与曹操会师摩陂,曹操乘车出来慰劳他,并派他屯于陈郡。
建安二十五年(公元220年),曹操去世,曹丕即位魏王,改迁张辽为前将军,分封其兄张汛及一子列侯。不久孙权再叛变,张辽还屯合肥,并进爵都乡侯。曹丕赐舆车予其母以示荣宠,并派兵马送其家人到他驻军的地方,又预先在当地告示张辽家人将要到临,命令所有守军出迎,众军士将吏都列队出候拜迎张辽家人,看见此景的人均认为这是十分荣耀的事。同年,曹丕称帝,再封张辽为晋阳侯,增邑千户,并前二千六百户。
黄初二年(公元221年),张辽到洛阳皇宫朝拜,曹丕便引张辽会晤于建始殿,亲问其昔日破吴时的情状。张辽述说过后,曹丕向左右叹息道:“简直是古代的召虎啊。(召虎即召公是与方叔、尹吉甫、秦仲等齐名的东周大将。他因平淮夷所以被曹丕借作比喻。)”于是为张辽建造屋舍,替其母兴建殿室,当年跟从张辽突破吴军阵营、临时应募的一众步卒,都被封虎贲。
黄初三年(公元222年),孙权再次向曹魏称臣。张辽奉命还屯雍丘,却在此得病。曹丕遣侍中刘晔带著太医审视其疾,并令虎贲卫士们往来传达张辽病况,为张辽问病的使者经常在路上互相遇见。梁章巨《三国志旁证》中提到“汉三公病,遣中黄门问病。魏、晋则黄门郎,尤重者或侍中。张辽位未至公,而遣侍中,盖宠之也。”可见曹丕如何重视张辽。
张辽之疾久未痊愈,曹丕命人把他接到自己的行营,自己则车驾亲临,握着他的手,赐给他御衣,太官每天来送御膳。病情稍有好转后,张辽便返回其屯军之所驻军,忠于职守。
正当其时,孙权再次背叛曹魏,曹丕派张辽乘舟,与曹休到海陵临江驻防。孙权知张辽至此,甚为忌惮,敕令诸将道:“张辽虽然抱病,但仍是勇不可当的,千万要谨慎在意!”同年,张辽与诸将同破吴将吕范。但他的病情却也日渐严重,最后终于在江都逝世,一代名将就此陨落。曹丕为之流涕,谥曰刚侯。其子张虎嗣任其爵。
黄初六年(公元225年),曹丕追念张辽、李典在合肥之功,诏曰:“合肥一役中,张辽、李典仅以步卒八百人,破贼十万之众,自古用兵,未见如此。他们使贼众至今仍气为之所夺,真可谓国之爪牙。现分封辽、典邑各百户,赐一子爵关内侯。”