效犬马之劳，表示尽力效劳，而又不居其功的意思。古代以“犬马”作为自卑之称。犬马为主人所养，所以臣下以“犬马”自比，表示感恩、眷念的意思。这个意思最早见于《史记·三王世家》：“臣窃不胜犬马心，昧死愿陛下诏有司……定皇子位。”所谓“犬马心”，就是思恩图报的心意。封建时代的观念认为君权至上，臣食君禄，这样的卑称是很自然的。对于平辈自比“犬马”，也是取忠诚、谦逊之意，并没有奴颜婢膝的意思。汉·张衡《东京赋》：“值余有犬马之疾，不能究其精详。”“犬马之劳”见于《晋书·段灼传》：“愿陛下思子方之仁，念犬马之劳……广开养老之制。”也是尽忠效力，但又不敢居功的谦卑说法。在古代，“犬马”是忠实无欺的代名词。发展到“效犬马之劳”，更是真心实意地为别人效劳的意思。而且我们现在引用，也是这个意思。有些工具书解作“像犬马那样为主子出力”，含有贬义，是不明古人以“犬马”自比的取意，极不妥当。元·郑德辉《梅香》二折：“小娘子可怜见，成就了这门亲事，小生必有犬马之报。”关于这个“犬马之报”，在民间流传着这样两个故事：
相传，从前有一个人特别喜欢他养的那条狗，到哪儿去都领着它。有一次他到朋友家去赴宴，自然也少不了带着他的爱犬。虽然不让它坐上席，它也可以在桌下捡点骨头鱼刺吃。席散后，狗领着喝醉酒的主人往家走。半途中被风一吹，主人的酒性发作，跌倒在路旁一堆柴草上。这狗就蹲在身旁耐心守候。一会儿，草堆起火，风助火势，眼看就要烧到柴草堆上了，狗急得汪汪直叫，却一直叫不醒主人。于是，它就用舌头舔主人的脸，用爪子搬他的头，都没有用。这狗灵机一动，跳到附近的水池里，浸了一身水，在草堆上连爬带滚，然后又跳进水里，来回折腾了老半天，柴草全滚湿了，火烧到草堆前，也就自然灭了。聪明的狗，救了主人一命。
再说马。古时候，有一个领兵的将军，打了败仗，单枪匹马，落荒而逃。跑到一座悬崖上，马失前蹄，将军从马上跌下崖去，挂在崖上的一棵柏树枝上。此时，上不来，下不去，后边追兵越来越近。在这危急之时，这马站到崖前，伸长脖子，顺下了马缰绳，让将军抓住缰绳，爬上悬崖，使他转危为安。
这两则故事也同样说明，在古代，无论是士大夫或平民百姓，都把“犬马”视作忠实可靠的象征。