汉朝时，在西南方有个名叫夜郎的小国家，它虽然是一个独立的国家，可是国土很小，百姓也少，物产更是少得可怜。
其中有一支名为“夜郎”的部落，在国王眼里，由于邻近地区以夜郎这个国家最大，从没离开过国家的夜郎国王就以为自己统治的国家是全天下最大的国家了。一天，他骑马带着随从出外巡游，他们来到一片平坦的土地上，指着前方说：“你们看！这一望无边的疆土，都是我的，有哪一国能比它大呢？”
跟随一旁的仆从连忙献媚说：“大王您说的很对，天下还有哪一国比夜郎更大呢！”国王心里沾沾自喜。走着走着来到一大片高山前，国王又抬起头来，望着前方巍峨的高山说：“天下还找得到比这更高的山吗？”随从连忙应和说：“当然找不到，天下哪有比夜郎的山更高的山呢！”
后来，他们来到一条江边，国王跳下马来，指着滔滔江水说：“你们看，这条江又宽又长，这是世界上最长最大的河了。”随从们没有一个不同意的，都齐声说：“那是肯定的。我们夜郎是天下最大的国家。”这次出游以后，国王就更相信夜郎是天底下最大的国家。
汉武帝时，武帝派使者出使印度，经过夜郎国。国王从没去过中原，根本不知道中原是怎么回事。于是派人将汉朝使者请进部落帐中，问汉朝使者汉和夜郎相比，哪个大些？
汉使者一听吓了一跳，不禁哈哈大笑起来，他没想到这个小国家，竟然无知的自以为能与汉朝相比，不知道自己统治的国家只和汉朝的一个县差不多大。使者回答，夜郎和汉是完全不能相比的，汉朝的州郡就有好几十个，而夜郎的全部地盘还抵不上汉朝一个郡的地盘。国王一听，不禁目瞪口呆，满脸羞愧。
正如夜郎自大的故事一样，在生活中，见识越广的人越懂得谦虚，而见识越短浅的人反而越盲目自大 。该成语告诫人们，躲在狭小的天地里闭关自守，妄自尊大，不去了解外界的新事物，接受别人的新经验，就永远不能前进。
