王祥在三国魏时为徐州刺史吕虔别驾，吕虔托以州事，一州大治。吕虔有佩刀，相者认为有三公之命者方可佩此刀，吕虔把它送给王祥，后王祥位至丞相，王祥死前又把它送给弟弟王览，览亦官至三公。见《晋书·王览传》。后因以“王祥佩刀”为咏州郡别驾等佐贰官的典故。卢象《追凉历下古城西北隅此地有清泉乔木》：“谢朓出华省，王祥贻佩刀。”
