从原意来说，应该是“目不识下”。《旧唐书·张弘靖传》里有这样一段话：“今天下无事，汝辈挽得两石力弓，不如识一丁字。”这被认为是“目不识丁”的最早出处。
五胡十六国的前秦有个名叫苻坚的皇帝，是个大老粗。他有个大臣名叫姜平子，善于对苻坚阿谀奉承，溜须拍马，以求升官拜爵，封妻荫子。明·田艺蘅《留青日札》云：“天水姜平子，仕苻坚，坚享群臣赋诗，平子有丅(按： 是一横一竖，有点像大写的英文字母T)字，直而不曲。坚问其故，曰：‘曲下者不正之物，未足以献也。’坚悦，擢上第。夫丁字不曲，乃古‘下’字矣。盖(苻)坚粗人，正所谓丅字不识尔。”
在明代梅膺祚的《字汇》中也讲到了这个故事，说姜平子故意在赋诗时出了一个“丅”(古文“下”字)，投苻坚之所好。平子竟因一字而一步登天，这说明苻坚是个“目不识丅”的人，文化极低。
由于这个典故知道的人很少，再加上许多人又把“丅”看成了“丁”，于是有了“目不识丁”的说法。苻坚认不得“丅”字，固然可笑，而后来更多的人把“丅”认成和写成了“丁”，岂不也可笑么?当然，话得说回来，事过千百年了，“目不识丅”既已成了“目不识丁”，也就“约定俗成”了。
现在，此语常被用来讥诮人一字不识或没有学问。