这一俗语源自“有眼不识荆山玉”。荆，指古代楚国或楚地。据《韩非子·和氏》记载： 春秋时代，楚国人卞和在荆山(在今湖北西)得一璞玉，献给厉王。厉王使玉工辨识，说是石头，便以欺君罪砍掉卞和的左足;武王即位后卞和又去献玉，又以欺君之罪被砍掉右足。到文王即位时，卞和抱着璞玉，哭于荆山下。文王派人问他，他说：“吾非悲刖也，悲夫宝玉而题之以石，贞士而名之以诳。”文王使玉工剖璞，果得宝玉。
这就是历史上著名的“和氏璧”，“有眼不识荆山玉”这句俗语即由此而来。《金瓶梅》第二十二回有“有眼不识荆山玉，拿着顽石一样看”一句，也能证明“金镶玉”原为“荆山玉”。
这句俗语在民间口耳相传几千年，后来人们不知荆即是古代的楚国，由于对“荆山玉”的不解而音讹为“金镶玉”了。
“金镶玉”，是指在金器上镶嵌各种玉石的图案花纹。“金镶玉”一词还有个传说： 汉代王莽篡位时，王莽与皇后争夺玉玺，摔掉一角，后来用纯金修补上，故称为“金镶玉”。另外，古书纸已发黄，书页边用新白纸裱上。因内黄外白，故也称为“金镶玉”。
现在“有眼不识金镶玉”借指有眼却不识宝贵的物品或怀有才能的人。