三月，郡中骤遇鲜卑万骑侵入，于柳城虏郡守母，载以叩郡治阳乐。太祖临卢龙，又汇兵数千，欲有所为也。然辽西广阔，自卢龙出柳城三百里，出阳乐五百里，所虑尤无能也。时娄圭在侧，献奇计，欲以太祖亲身犯险，左右皆怒，拔刀示刃者数矣。太祖乃排众曰：“子伯者，弃家来投，千里相随，吾视之为股肱，安可疑乎？”遂行。
太祖与公孙范、程普、韩当、娄圭五骑疾趋柳城，挟鲜卑莫户部，伪为胡骑，突入阵前，贼以矛突普，普赤手夺矛，反挑杀之，复弃矛，如是者再三，鲜卑胆寒，俱大惊而退。太祖在后喟然曰：“当时虎臣，何如程德谋者？”普由是知名塞外。韩当亦临阵射杀鲜卑中部大人柯最坦。
太祖既救郡守母而归，乃与圭、普立于丘上观汉军击鲜卑，两万骑卒，呼啸如潮，天地变色，一击而破。圭大叹曰：“人生于世，大丈夫当领万军如是！”太祖笑曰：”既如此，若得势，且与你万骑。”辽西太守赵苞在侧，既感其恩，又壮其言，愈奇之。战后即以女妻之，即孝武赵皇后也。或曰：“君少年知名，前途坦荡，然与太守婚姻，惜乎以避嫌失郡中孝廉之途也！”太祖不悦：“吾辈择偶但以德行观之，焉能论前途得失？”不数日，幽州刺史刘虞过辽西，见太祖，大喜曰：“见君如遇美玉也，岂能弃之野地？”郡中议论，皆言太祖将举州茂才也。然不日，有使自洛中至，乃三公并举，以天下纷扰，特以勇猛知兵法科，公车直入洛中。乡人乃复赞曰：“锥处囊中，其颖自出也，辽西公孙，岂虑前途乎？”
太祖公车入洛，须臾不停，过私门而不入，直入恩师太尉刘宽府中。乡中故人阳球在座，乃戏曰：“君何其速也，忧得劣官乎？”太祖慷慨曰：“国家板荡，四海不宁，正当吾辈用命之时，珣正忧不得其职也，岂以名利患之？固求边郡军职，以效国家！”座中自阳球以下，皆正色避之。刘公亦壮其言，乃表别部司马，出屯雁门。蔡邕闻太祖将行，尽托藏书数千卷，嘱之运返辽西版印。
太祖携韩当、吕范至雁门平城，凡数月，上至刺史、两千石，下至白身、黔首，莫不赤诚以待，推心置腹。乃至于上下一体，豪杰相投。曾将兵十余，护徙民千余过黄河，有贼知其兵少，夜窥营寨。太祖坐于帐前，指挥若定，贼首举箭指之，然目其风仪，不忍杀，乃射辕门火盆而去。其得人心如此。又明察太守之恶，遂单骑往谒刺史董卓。得专署，衣不解带，彻夜而返，一日而发其罪，便槛车洛阳。盖势如雷霆，乃郡中惊怖，上下惶恐，以至官吏不署。太祖于府中观郡中文书，察事业凋敝，民生艰难，乃叹曰：“天下汹汹，皆此僚也！”遂奋不顾名而亲执郡政。旬月之间，督理吏治，清察弊端，劝行农桑，举荐贤才，待新府履任，已政通人和，百废具兴也。至八月，整军已毕，会猎白登山校武，获白鹿而归。
熹平五年十二月，朝议北讨鲜卑，分三路出塞邀击，太祖以别部司马隶于右路护乌桓校尉夏育。鲜卑可汗檀石槐令三部大人逆战之，三路隔绝，军情恍惚。太祖烛见万里，窥得虚实，乃于晚日军中用饭时急谒之，自请为前部，不避剑矢，疾趋弹汗山。育许之，太祖即拔本部千五百人，两日连趋百里，直至歠仇水下，鲜卑王庭方五千兵，见之震恐，待大军援，将毕其功于一役也。然中路使匈奴中郎将臧旻忽败，使麾下属吏孙坚突围告之，育闻之，亦肝胆俱丧，乃遗辎重、弃太祖而走。太祖深夜闻之，仰天叹曰：“夏育虽恶，然军中士卒皆无辜也，且若其为檀石槐衔尾所食，则燕代之地无兵矣，数郡百姓将为荼毒。”乃决意夜渡歠仇水，火烧弹汗，以身诱檀石槐回军。将渡，诸将皆努力争先，自求先登而请太祖安坐河南，太祖厉声问曰：“临阵奋战，大丈夫岂可隔河而望活乎？”言尽，乃以一部疑兵临桥扰敌，自领军暗以马匹连绳相结做浮桥，遂亲握马首而渡。既渡，不及披甲，便复发神武跃马突阵，众将隔河观之，无不振奋，乃争相入水。敌军甚众，太祖既当先而战，又无甲，乃屡受刀矢。凡受数创，皆不裹，凡受数矢，皆折而掷地，由是三军用命，贼众丧胆。当是时也，将有失马者或拽袍泽马尾突阵，士有矢尽者皆索鲜卑尸身续射，故贼虽众，仍至速败。太祖乃迫近王庭，举火焚之，夏夜风盛，其光烟直映百里，震动漠南。鲜卑军望见，纷纷北走救之，汉军大部幸而得返。太祖创重昏迷，范、当护之，死战得脱，又遇雨失道，几死者数矣，赖天佑沿河重入塞内，遂返屯平城。高顺时为军中陪隶，有大功，太祖拔为军侯，赐字素卿。