同年，高句丽屯塞坐原，屡犯之。太祖忧之，乃召汉胡万众。十二月，过辽河，曰之冬狩。至坐原，太祖亲持白马旗督之。娄圭献计，一夜起冰城，敌众见而失据。复以徐荣将骑，一鼓而下，乃大破之，遂亡其国。
后汉光和二年春，太祖以灭高句丽殊勋，封无虑亭侯。无虑者医无闾也，令支都亭，与名字相合，时人称美。迁邯郸令，再迁中山太守。
太祖素重简朴，为政清厉，后汉光和年间，太祖为长吏行政，常有急令，左右讽之。太祖乃曰：“天下渐沸，士民如在釜中，吾观之，如己身在釜中，安的不急？”迁涿郡太守。涿郡豪右者，以奢侈无度闻于天下。及得太祖将至，豪右咸皆震怖，奸宄遁逃，窜入他郡。太祖速至，于道旁逢之，凛然斥曰：“尔辈者，入他郡便得安否？”豪右奸猾知其神武，皆惶恐，乃各自归郡，复膝行请罪。一郡遂安。
后汉光和末，张角兄弟领黄巾起，广阳黄巾三万众围涿城，太祖为涿郡守，见敌至城下立寨，乃引公孙越、刘备、关羽、牵招、张飞、魏越、娄圭、杨开，凡二十骑出城，透贼寨而还，贼不能伤也。及入城门中，众将自矜夸斩获不止，独太祖不言。待诸将噤声，太祖乃昂然曰：“既窥虚实，已得破敌策也，五日贼当覆，且观之。”乃行疲敌之计，后果五日覆之，众乃拜服。
时张角弟宝以贼五万众围范阳，太祖既破当面贼，即欲驰援之。左右曰：“范阳大城，又郭刺史居于其中，不至速失，可休兵数日，复伐之。”太祖对曰：“即以刺史在彼，故云范阳得失，乃胜负之要，焉能不救？”乃速发兵，十日破之。
太祖既破张宝，复以社稷重，自请提三千骑，以驰河北。灵帝许之，乃诏太祖入洛。太祖乃集幽燕骑三千，直趣南下。至洛，拜五官中郎将，以骑都尉曹操辅之，持节驻河内，并督三河五校。旬日出东郡，即破白马、燕县、韦乡。太祖既伐黄巾至东郡，闻济阴有士名李进者，素知诗书，乃殚夜而往辟之。李进感其德厚，逢太祖克城勤苦，乃慨然举族而助。
五月，先破兖州黄巾贼卜已、梁仲宁、张伯众四万于苍亭，又破其众二万于东武阳，计获首自张伯以下万余级，降万余，赴河死者自卜已、梁仲宁以下，凡七千众人。东郡乃平。
太祖既入东郡，搜贼者，得钱钜亿，其以家富，尽分军粮于民，散财帛于军。上下遂称其德。中常侍赵忠闻之，自以后从父名，遣家人往东郡求财货。太祖曰：“无一文钱与宦者。”
太祖既平东郡贼，旋赴长社。城中左中郎将朱儁、右中郎将皇甫嵩引军四万，贼波才众十万，围之。太祖知不可攻，乃与儁、嵩约用火，遂覆十万贼众。
七月，临下曲阳，贼以宝为首，据滹沱河，与太祖相峙。太祖发三路，自领一路渡滹沱，以张颌戟兵两百为前驱，先登过河。敌炽，不得进，乃令义从呼喝：“五官中郎将向前五十步！”俄而，再喝：“五官中郎将向前百步！”汉军闻之奋气，一前在前。三喝：“五官中郎将已向前两百步！”贼之阵轰然崩，遂破下曲阳，获宝首。
九月，临广宗。同月，张角死，南阳渐平。遂与嵩合，进广宗，张梁惶而走。太祖发骑兵与漳水，克梁，获其以下首三万级。黄巾遂平。
十月，太祖以功至卫将军、蓟侯、领河内太守。时河内屡遭匪患，闻太祖至，盗贼逃匿，士民鼓舞，沿途见白马辙箪瓢迎之。
中平初，太祖为河内守，春社日，令郡中名士辩经于县北射犬，以敬时节。其俭不着仆役，乃使司马朗为从，长公主年幼，遂亲抱于怀步行于道。既至，购陶器于射犬市中，复于辩经处席地坐，置长公主于膝。于时，太史奏曰：“真龙北行也。”