这个峡的得名，按过去的说法，是因为峡内有“兵书石’与“宝剑石”。在峡北岸的峭壁上，生有一个洞穴，远远望去，洞口好像有一叠形若书函的石头，离江面约100多米，名为“兵书”。在它下方的崖壁上，有一条凸出的剑状块石，如同一柄倒立的浮雕宝剑，“剑头”插入江中．名为“宝剑”。
相传，这是当年诸葛亮入川时，为后来出入峡江的蜀军留下的兵法和镇江宝剑。另一种说法是，诸葛亮晚年时，对自己的死期已经算定，他想到身边的兵书宝剑若落到奸臣手中，必生后患，乃独自来到三峡之中，选了这个险要之处，将这两件国宝藏了起来。后来，通过人们长久的观察，发现那洞穴中的“兵书”并非石头，称“兵书石”有误，它实际上是重叠着的两口悬棺。至于这两口悬棺到底经历了多少岁月，已经无法考证。
您经过此处时，若带有望远镜，就可把这两口悬棺看得清清楚楚了。
明代诗人何景明的《兵书峡》一诗这样写道：空岩一卷书，绿苔字应灭。志决功不成，千载有余烈。