公元１８９年，荀彧被推举为孝廉，送至京城洛阳，经过考试，成绩优秀，又被授予守宫令之职。开始了他的政治生涯。不久，董卓兵变，荀见洛阳日益混乱，便要求赴外地为地方官，于是朝廷任命荀为亢父（今山东济宁市南）县令。董卓作乱以后，荀彧知道天下即将大乱，担心自己和亲属的安全，便弃官返回故乡颍川。他劝家乡的父老乡亲应该迅速离开，以躲避战乱。但乡邻难舍故土，不愿背井离乡，四处流落。此时，同郡人冀州（今河北临漳县）牧韩馥，因仰慕荀或，派人前来接荀彧及众乡亲到冀州。由于颍川乡亲仍不愿前往，荀彧便耐心动员本宗族的人迁往冀州。后来董卓派部将李催领兵出关。所过之处掳掠烧杀，荀彧的众乡邻很多被杀掠，他们才后悔当初没有听从荀彧的劝告。
荀彧率本族人到冀州后．韩馥见其中有不少饱学之士，很是高兴，都被委以重任。荀彧也深得韩馥信赖。后来，袁绍夺取冀州，灭了韩馥。他久闻苟彧的弟弟荀堪以及同郡人辛评、郭图等，都受到礼遇，并被袁绍委以重任。
荀彧虽久闻袁绍大名，但他发现袁绍外宽内忌，不善用人，治军不严、多谋寡断，他预料袁绍终难成就大事。智者择主而事之，荀彧觉得冀州非久居之地，打算另觅英主。更换门庭.不久奋武将军曹操领军击败黑山农民起义军白绕部，朝廷命他为东郡（今河南濮阳市）太守。荀彧知道曹操有雄才大略，通晓兵法，思贤若渴，多谋善断，虽然目前实力不强，但断定他日后终成大业，于是便把自己匡扶汉室的希望寄托在曹操身上。荀彧毅然离开袁绍，于１９１年前往东郡投靠了曹操。曹操见荀彧来投奔军中，十分高兴，同荀彧谈话后，对他评价很高，把他比作汉高祖刘邦的谋士张良。当时荀彧才２９岁，被拜为奋武司马，帮助曹操管理军务，并参与军事策划。