关羽投降曹操后，曹操赞赏关羽为人，拜其为偏将军，礼遇甚厚。不久却觉察关羽心神不定，无久留之意，便对与关羽关系甚好的张辽说：“卿试以情问之”。张辽去问关羽，关羽叹息道：“吾极知曹公待我厚，然吾受刘将军厚恩，誓以共死，不可背之。吾终不留，吾要当立效以报曹公乃去”(《三国志·蜀书·关羽传》)。张辽将关羽的这番话转告曹操，曹操闻后，不但没有怨恨关羽，反而认为他有仁有义，更加器重他。
    建安五年(200年)，官渡之战爆发。二月，冀州牧袁绍调动十多万人马进军黎阳(今河南滑县东北)，征伐曹操并派大将颜良进围白马，攻东郡太守刘延，以保障主力渡河南进。刘延告急请援。四月，曹操为解除侧翼威胁，北救刘延。谋士荀攸建议：“今兵少不敌，分其势乃可。公到延津，若将渡兵向其后者，绍必西应之，然后轻兵袭白马，掩其不备，颜良可禽也”(《三国志·魏书·武帝传》)，曹操依行其计。袁绍闻曹兵渡河，果然分兵向西，挺进延津。曹操趁机引兵向白马疾进，及距白马10余里时，颜良大为震惊，仓促迎战。曹操派张辽、关羽为先锋，率部进击。关羽跃马阵前，远远望见颜良麾盖(大将所乘戎车，设幢麾、张盖)，直冲过去，在万众之中刺死颜良，斩其首级而归，袁绍诸将“莫能当者”(《三国志·蜀书·关羽传》)。曹操挥令大军冲杀，袁军大败溃散，遂解白马之围。
    曹操非常欣赏关羽的勇武，对他重加赏赐，封他为汉寿亭侯(汉寿，地名；亭侯，侯爵名)。关羽斩杀颜良后，曹操知其必去，不断加大赏赐的力度。关羽在得知刘备的下落之后，把曹操屡次给他的赏赐都封存妥当，把汉寿亭侯的印绶挂在堂上，给曹操写了封告辞信，保护着刘备的家小，离开曹营，到袁绍军中寻找刘备。曹操将士闻后，要去追赶，曹操劝阻说：“彼各为其主，勿追也”(《三国志·蜀书·关羽传》)。
    从关羽被擒到他立功报曹、重新投奔刘备，这段经历始终口耳相传，流行播衍。到《三国演义》，则形成了一个花团锦簇、精采纷呈的故事单元，包括关公屯土山约三事；曹操厚待关羽，小宴三日，大宴五日；曹操赠袍，关羽穿于衣底，上用刘备所赐旧袍罩之，不敢以新忘旧；曹操赠赤兔马，关羽拜谢，以为乘此马，可一日而见刘备；关公斩颜良、诛文丑；关公挂印封金，灞陵辞曹；千里走单骑，过五关斩六将；擂鼓三通斩蔡阳，古城兄弟相会等。这些故事可以说家喻户晓，极大地彰显了关羽忠义神勇的艺术形象。
    赤壁之战，孙刘联军在赤壁(今蒲圻县西北)大破曹操。关羽所率的一万精锐水军是刘备的主力，在这场战役中起了重要作用。后人为突出关羽“义薄云天”的形象，更演义出了他在华容道上义释曹操的细节，至今脍灸人口。