许多人认为晋国的霸业成於晋文公重耳，实则不然。晋公子重耳在外流亡长达19年之久，回国即位时就已经62岁了，早已经垂垂老矣了，再怎么励精图治、改善吏政，能留给他的时间也不多。而其之所以能够在即位的第2年就能为周室平定王子带之乱，即位的第5年就能战胜强楚、开创晋国长达百余年的诸侯霸业。这显然是要归结到晋国原就具备称霸的大国基础的。所以，从这个层面上看，晋文公重耳也可以说得上是晋国霸业的摘桃人，而晋国霸业的实际奠基者其实要归结到晋国历史上那个著名的“昏君”也就是晋文公重耳的父亲晋献公诡诸。

晋国的始封君是唐叔虞，也就是周武王的儿子、周成王的弟弟。有个成语叫“桐叶封弟”，讲的就是周成王拿片剪成圭形的桐叶逗他的弟弟叔虞说：“用这个封你”，结果被史官记录下来，而周公又以“天子不可戏言”而因此要求周成王将叔虞分封为诸侯，于是叔虞就被封於唐地，后“唐”改为“晋”，是为晋国。其实，这个就是个流言，周以小邦攻克大邦殷，其统治中心又远在关中，为了控制东方之地，封建诸侯就成了周王室巩固统治的国策方略。而分封诸侯就是以宗法制为依托的，所以，才有周所封七十一国，其同姓者五十三国。而唐叔虞是周武王的嫡子，周成王的弟弟，整个周王室血缘最亲的人，本就是分封诸侯的最为重要的对象，所以根本就不需要有“桐叶封弟”这个戏言。再说，如果天子的戏言可以当真，周成王如果是拿桐叶跟身边的太监、宫女们开玩笑怎么办呢？拿自己的王位跟人开玩笑怎么办呢？，所以桐叶封弟切莫当真，因为那本就是封给该被封之人的。

自唐叔虞十传至晋昭侯，晋昭侯封其叔成师於曲沃，是为曲沃桓叔，从此掀开了晋国长达67年之久的以小宗最终取代大宗的“曲沃代晋”的战争。晋曲沃一系在历经桓叔、庄伯至曲沃武公三十七年尽并晋地，并以抢掠来的珍宝器物贿赂新立的周釐王，是以被周王室正式任命为晋国国君，曲沃武公也就改称为晋武公。第二年，晋武公去世，其子诡诸继位，是为晋献公。

晋献公在位期间，攻灭骊戎、耿、霍、魏、杨，芮、郇、耿、冀等国，击败狄戎，后又采纳荀息假道伐虢之计，消灭强敌虞、虢，史称其“并国十七，服国三十八”。而司马迁在《史记·晋世家》中写道，当此时，晋彊（通强），西有河西，与秦接境，北边翟，东至河内。黄河中游皆为晋国所有，可以说晋国的百年霸业的基础自此算是打下了。