时张角弟宝以贼五万众围范阳，太祖既破当面贼，即欲驰援之。左右曰“范阳大城，又郭刺史居于其中，不至速失，可休兵数日，复伐之。”太祖对曰“即以刺史在彼，故云范阳得失，乃胜负之要，焉能不救？”乃速发兵，十日破之。
太祖既破张宝，复以社稷重，自请提三千骑，以驰河北。灵帝许之，乃诏太祖入洛。太祖乃集幽燕骑三千，直趣南下。至洛，拜五官中郎将，以骑都尉曹操辅之，持节驻河内，并督三河五校。旬日出东郡，即破白马、燕县、韦乡。太祖既伐黄巾至东郡，闻济阴有士名李进者，素知诗书，乃殚夜而往辟之。李进感其德厚，逢太祖克城勤苦，乃慨然举族而助。
五月，先破兖州黄巾贼卜已、梁仲宁、张伯众四万于苍亭，又破其众二万于东武阳，计获首自张伯以下万余级，降万余，赴河死者自卜已、梁仲宁以下，凡七千众人。东郡乃平。
太祖既入东郡，搜贼者，得钱钜亿，其以家富，尽分军粮于民，散财帛于军
。上下遂称其德。中常侍赵忠闻之，自以后从父名，遣家人往东郡求财货。太祖曰“无一文钱与宦者。”
太祖既平东郡贼，旋赴长社。城中左中郎将朱儁、右中郎将皇甫嵩引军四万，贼波才众十万，围之。太祖知不可攻，乃与儁、嵩约用火，遂覆十万贼众。
七月，临下曲阳，贼以宝为首，据滹沱河，与太祖相峙。太祖发三路，自领一路渡滹沱，以张颌戟兵两百为前驱，先登过河。敌炽，不得进，乃令义从呼喝“五官中郎将向前五十步！”俄而，再喝“五官中郎将向前百步！”汉军闻之奋气，一前在前。三喝“五官中郎将已向前两百步！”贼之阵轰然崩，遂破下曲阳，获宝首。
九月，临广宗。同月，张角死，南阳渐平。遂与嵩合，进广宗，张梁惶而走。太祖发骑兵与漳水，克梁，获其以下首三万级。黄巾遂平。
十月，太祖以功至卫将军、蓟侯、领河内太守。时河内屡遭匪患，闻太祖至，盗贼逃匿，士民鼓舞，沿途见白马辙箪瓢迎之。
中平初，太祖为河内守，春社日，令郡中名士辩经于县北射犬，以敬时节。其俭不着仆役，乃使司马朗为从，长公主年幼，遂亲抱于怀步行于道。既至，购陶器于射犬市中，复于辩经处席地坐，置长公主于膝。于时，太史奏曰“真龙北行也。”
后汉中平二年，二月，中常侍张让、赵忠说灵帝敛天下田，畮十钱，以修宫室，帝许之，乃加赋。诏至河内，太祖曰“十月方免，二月即加，此乱命也，使天下乱复生也！”
同年冬，逢师故太尉刘宽薨，太祖以遗言辞河内守理丧，入洛。及面帝，尽言算赋事。不听。出，谓左右曰“今日方知，上甚聪明，尽知天下虚实，但贪鄙无度，明知而不为，实无救药矣。”复曰“天下汹
汹而无能为也，今日知何谓忧心如醉！”太祖既弃职而走，遂遗卫将军印绶于洛。灵帝从议，遣使追而与之。凡三次，乃受。太祖之心，自此兴矣。
于回辽西之路，太祖居广阳，稍倾，冀州刺史王芬以许攸为使，言废立之事，太祖怒而斥之。及攸走，太祖夜临星河而叹，左右或知其意，俱劝“天子昏乱，遂令君侯不容于朝。今天下已叛，而兵不足自守，幽州乡里被君恩德，愿必从之。当安居广阳，率厉义徒，见有道而行之，以济天下。”太祖大叹“天子固昏，然关西之乱，傅南容何辜？王芬之悖，冀州百官何苦？兼两