于谨本姓勿忸于氏，乃魏宋南北大战时被刘裕尊称为“黑槊公”的北魏猛将勿忸于栗磾之后。勿忸于栗磾随道武帝拓跋珪征战有功，成为北魏朝重臣，孝文帝太和改制改姓为于，列为仅次于皇族的勋臣八姓之一。于家世代在北魏朝做大官，一门之中出过一个皇后，四个奉赠的公爵，三个领军将军，二个尚书令，三个开国公。
六镇大起义的导火索怀荒镇将于景也是这个家庭的一分子，不过他的辈分比于谨整整高出了三辈。于谨，字思敬，小名巨引。生于公元493年，为人深沉有识量，同鲜卑贵族子弟钟情于骑马射箭不同，巨引平时最喜欢做的事情就是抱着一本书反复琢磨，这本书的名字叫《孙子兵法》。
魏孝文帝迁都洛阳后，由于倾慕中原文化，来了个彻底汉化，不但把官方语言定为汉语，还让鲜卑人改汉姓穿汉服，仿照魏晋门阀制度厘定士族，把“上品无寒门”这套腐朽没落的制度当作了宝贝。但是，征服者的利益是需要保证的，因此，被后世人称为“虏姓”的鲜卑贵族成为同中原士族平等甚至更高的门阀。
所以，像于谨这样出身高门的贵族子弟，到了一定的年龄凭着高贵出身就可以到政府部门谋一个高级职位，但于谨这人却怪，一直不愿意出来做官。
面对大家好奇的眼光，于谨一开口把大家吓一跳：州郡这样操心劳累的职务我不喜欢，台鼎的位子要等将来。
言外之意，朝中宰相位子等着我将来去坐，说好听点这就叫少有大志。说不好听就是初生牛犊不怕虎不知道天高地厚。转眼于谨到了而立之年，按照伟大的教育家孔夫子老先生的划分，男子在这个岁数就应该建立家庭，事业有成了，但于谨的仕途却还没有开始。
经过时间老人的打磨。现在的于谨已经不再年轻气盛目空一切了，他准备谋一份差事踏踏实实地过日子。
不然，就这么混下去，到五十也混不到台鼎啊。当官不是仅仅凭你的本事，升迁还要靠积累的资历，这个是要靠时间来慢慢磨的。
机会来了。公元523年。大魏朝扶持的柔然可汗阿那瑰背叛，尚书令李崇奉命北伐，大行台仆射元纂随军出征。元纂素闻于谨的大名，于是请他随军出任铠曹参军事，负责军队的后勤装备。
那一仗。王师劳而无功，因为柔然人打仗很有游击战的心得，打得赢就打，打不赢就跑，所以当得到大魏大举北伐的消息后，柔然人选择了战略性撤退，带着部属赶着牛羊向北部大草原深处逃窜。
李崇大军基本没有跟敌人正面交锋，但是于谨率两千骑兵一直追到郁对原。前后跟柔然打了十七仗，斩获不少。其间于谨还遇到一次险情。
在他奉命带数百骑侦察敌情的时候，不成想跟归附柔然的高车叛军数千骑兵不期而遇。于谨知道不好，打吧，众寡悬殊必无胜算，逃吧，敌人一定紧追不舍，能不能逃得掉是个问题。
于谨的兵书没有白读。危急时刻他命令自己的骑兵分散开藏在树林中间，又派人到半山上挥舞军旗。造成指挥千军万马的假象。要一般有脑子的敌人看到这个架势也就算了，毕竟中了敌人的埋伏不是闹着玩的。然而。高车人没有这个头脑。
高车人大抵骁勇善战，根本不知道害怕是什么，所以他们虽然怀疑有伏兵，但却毫不理会，继续向前进攻。无奈之下，于谨命两名手下骑自己常骑的一紫一黄两匹战马突然冲了出去，高车人认得主将坐骑，抓一个将军和一个士兵意义当然不同，所以争先恐后地追了上去。
等高车人前脚刚过去，于谨立即率队从后面冲了上去，高车骑兵来不及回马组织防守，队伍一下被冲散了，于谨从容撤退。
就此，于谨一战成名，战后因功被朝廷封为积射将军。北魏是原始游牧部落入主中原建立的政权，原来的官号很幼稚，到了孝文帝改制，又采取全盘汉化的方针，设立九品官阶，每品分正从，自正四品以下每品分上下两阶共有正从九品三十阶。
于谨的积射将军为从六品，贺拔弟兄的强弩将军为第七品。此时的于谨名望和官职跟贺拔兄弟在伯仲之间。元渊北征，特地请于谨同行，让他担任主管军法的长流参军，元渊很佩服于谨的智谋，所有军事行动都要听听他的意见，还让自己的儿子佛陀拜于谨为师。于谨没有辜负元渊的期望，事实证明，孙子兵法没有白念。
在于谨的谋划下，在贺拔兄弟的鼎力协助下，广阳王元渊终于取得了一次重大胜利，大破高车叛军斛律野谷禄部，结束了北伐以来官军一直处于劣势的局面。形势一片大好，于谨接着提出了一个更为大胆的计划，叛军到底人多，凭官军目前的实力是杀不完打不跨的，不如分而化之，剿抚并用。
原来，于谨还有语言上的天赋，作为鲜卑人，他不但汉语说得很流利，还会说一口地道的高车话，也非常了解高车人的情况，这些北方蛮族不识文字且大多目光短浅，更看中眼前利益，谁强大服谁，斛律野谷禄的失利显示了官军的力量，高车人造反的信心已经有所动摇，所以此时具备了劝降高车人的条件。