羊祜每次和吴军交战，总是先约定好日期才开战，不搞突然袭击。有的将帅想提出诡谲奸诈的计策，羊祜就不断地给他们灌酒，使他们无法开口。有人抓到吴国的两个人做俘虏，羊祜又把他们遣送回家。后来吴国的将领夏详等人来投降，这两个人的父亲也率领他们的属下、同伴一起来。吴国的将领陈尚、潘景带兵进犯，羊祜追赶并杀死了他们，但又称赞、宣扬他们的气节，厚加殡殓。陈尚、潘景的子弟来迎丧，羊祜还举行隆重的礼节把他们送回家。吴国的将领邓香到夏口进犯、抢掠，羊祜悬赏活捉邓香，捉到后却又把他放回去。邓香因此非常感激，就率领他的部下前来投降。
羊祜严厉约束自己的军队，他的军队出行，经过吴国的地段，收割地里的稻谷作为粮食，都计算好收割稻谷的数量，用绢偿还。每次会集部队在江沔一带游猎时，一般总是在晋国境内，不许军队进入吴国境内。如果禽兽为吴国人所伤而后被晋兵所得，他就让人送还给吴国人。于是，吴国人都对他心悦诚服，尊称他为羊公，而不呼他的名字。