汉语中的“黑马”一词是由英文意译而来的。
首先在文章中使用“黑马”的人是英国的本杰明·迪斯雷利(1868、1874—1880年两任首相)，他在1831年出版了一本名叫《年轻的公爵》的小说，在描写一次赛马的场面时写道：“两匹公认拔尖儿的赛马竟然落后了，一匹‘黑马’以压倒性的优势在主看台前疾驰而过。”看台上观众惊呼：“黑马!黑马!”《年轻的公爵》原文中所用的“darkhorse”一词即有黑马的意思，同时“dark”又有知名度不高之意。与原文的意思正好相应，从此“黑马”一词便开始流行使用，成了出人意料或实力难测的竞争者的代名词。后被体育界用来比喻那些潜心努力，不畏强手而一举成名的后起之秀。
“黑马”首次被用在政治上，是在1844年美国民主党全国大会上。“黑马”指的是詹姆斯·诺克斯·波尔克。尽管他曾任过田纳西州州长，又曾任美国众议院议长，但在当时，却从没有人想过他会得到总统候选人提名。由于会上民主党总统候选人产生不出，他得幕后斡旋，得到提名，并在总统选举中击败了共和党的前身辉格党的候选人，当选为美国的第十一任大总统。因此，他是在政治领域内被称为“黑马”的第一个人。
现在人们多用“黑马”来比喻竞赛中或竞争中实力难测或出人意料的优胜者。