晋国春秋五霸之一，其领土主要就在现在的山西省，山西省也因此简称晋，三晋的说法是来自历史上的“三家分晋”，晋国被分为韩、赵、魏三个诸侯国。
春秋末年，曾经非常强大的晋国大权旁落，朝政被赵氏、魏氏、韩氏、智氏、范氏、中行氏六家大夫把持，他们都有自己的武装和地盘，相互攻击，其中范氏和中行氏因为实力较弱，最早被打败，剩下的四家中，智氏的势力最大。
当时，智家的大夫叫智伯瑶，他想吞并其它各家，一统晋国。智伯瑶便找借口提出各家都拿出一百里土地和户口交给公家，其它三家大夫都知道这是智伯瑶借助晋候的名义来侵占土地，但是魏氏、韩氏不愿得罪智伯瑶就答应了，而赵襄子却不愿交出土地。
智伯瑶便以此为借口，胁迫魏氏和韩氏两家一起发兵攻打赵家。赵襄子被围困在晋阳（今山西省太原市内），危在旦夕。就在此危难紧急之时，赵襄子派出门客张孟谈与韩、魏两家秘密联络，意图说服两家反过来一起攻打智伯瑶。韩、魏两家当时本来就在犹豫，对智伯瑶非常不满，也知道这样下去自己也要被智伯瑶消灭，因此就同意三家结盟，共同对付智伯瑶。后来，智伯瑶被三家联军杀死，其土地被三家平分，实力最强的智伯瑶却因为自己的霸道，反而被赵、魏、韩彻底击败。
公元前403年，周威烈王正式册封韩虔﹑赵籍﹑魏斯为诸侯，这就是历史上著名的“三家分晋”。因为韩、赵、魏都是从晋国分立出的国家，所以习惯上被称为“三晋”。分裂的晋国也在很大程度上给了秦国东进的更多机会。