东汉末年，全国各地的军阀经常为了争夺地盘而发动战争。在河北的军阀袁绍手下，有一位掌管文书工作的大才子名叫陈琳。当时另一个军阀曹一操一的势力增长很快，对袁绍的威胁越来越大，于是袁绍就决定讨伐曹一操一。
有一天，袁绍把陈琳找来，让他写一篇声讨曹一操一的战斗檄(xí)文。于是，陈琳就按照袁绍的意思起草了一篇名为《为袁绍檄豫州》的檄文。在这篇文章里，陈琳不但历数了曹一操一本人的各种罪状，连曹一操一的祖宗三代也辱骂了一番。
曹一操一经常犯头痛病。这天，正犯病时，曹一操一看到了手下人送来的这篇檄文。由于文章写得生动一精一彩，曹一操一竟然越看越兴奋，连头也不疼了。虽然曹一操一对陈琳在文章中痛骂自己和自己的祖辈也非常气愤，但是他还 是非常欣赏陈琳的才华，并为陈琳服务于袁绍感到惋惜。 后来曹一操一打败了袁绍，陈琳归顺了曹一操一。有一天，曹一操一问陈琳：“当初你写檄文声讨我，只骂我一个人就行了，为什么连我的祖宗三代也骂呢？”陈琳说：“那时我在袁绍手下做事，他命令我写，我就写了。这就好像箭在弦上，不得不发，这也是没有办法的事啊。”曹一操一理解陈琳当时的处境，就没有责罚他，以后也再没有提起这件事。
后来，人们就用“箭在弦上”来比喻形势十分紧迫，事情已经到了不得不做的时候了。有时也与“不得不发”连用。