汉武帝时汉廷与匈一奴一之间常有战事。有一次，匈一奴一派使者前来求和，并把扣留的汉朝使者放了回来。汉武帝为了回应匈一奴一的善举，派中郎将苏武拿着旌节，带一干人等出使匈一奴一，没想到却出了意外。
单(chán)于想一逼一迫苏武投降，苏武说：“要我投降，除非海枯石烂，日从西升。”他宁死不屈，举刀自刎，经过抢救才幸免于难。苏武随后被单于流放到北海无人区牧羊。苏武一个人在冰天雪地里放羊，万般艰辛。没有粮食，他就挖田鼠藏在洞里的食物充饥；口渴了就抓把雪吞下解渴。唯一和他做伴的就是那根代表朝廷的旌节，日子一久，旌节上的穗子全掉了。
转眼间十几年过去了，这时汉昭帝已继位，匈一奴一老国王也已驾崩，换了新单于，汉匈议和，汉人和匈一奴一人通婚。汉昭帝遂派使者前往匈一奴一，要求放苏武回去，单于谎称苏武已经死去，使者信以为真，就没有再提。当汉昭帝第二次派使者到匈一奴一时，和苏武一起出使匈一奴一并被扣留的副使常惠设法买通了禁卒，秘密会见了汉使，把苏武还 活着、正在北海牧羊的消息告诉了汉使，并想出一计，让汉使对单于讲：“匈一奴一既然存心同汉朝和好，就不应该欺骗汉朝。汉朝天子在上林苑打猎时，射一到一只大雁，雁足上系着一封写在帛上的信，上面写苏武没死，而是在一个大泽中牧羊，你怎么说他死了呢？”单于听后大为震惊，以为苏武的忠义感动了飞鸟，连鸿雁也替他传送消息了。他无法再抵赖，只能向汉使道歉，把苏武放了回来。
这就是苏武牧羊的故事，随着故事的流传，鸿雁传书也广为人知，并逐渐演化为传信的象征了。