郭元振十八岁中举,不久做了通泉县(今四川省射洪县)县尉。县尉是掌管一县治安的官员。郭元振年纪轻轻,却没有把朝廷法度放在眼里,居然监守自盗,做起了掠卖人口的事,前后受害者不少。百姓往上告状,武则天听闻此事,命令抄他的家,但只抄到了几百卷书,这掠卖人为奴的钱去哪里了?武则天也感到奇怪,命令将他送到长安,亲自查问。郭元振却回答说,钱都用来接济他人了。
凡是知道他十六岁豪举之事的,就会相信这一定是他所为。做了非法之事,却不留一钱,全部接济他人,这到底是算好还是算坏呢?武则天绝不是糊涂的法官,她对这个男人非常好奇。与郭元振长谈之下,武则天的好奇渐渐变成了惊奇:这小子,胸中有奇兵啊!于是,武则天决定再考他一考。
考题是让他当场写一首命题诗,诗名《宝剑篇》。郭元振也不用纸笔,不一会儿便直接吟出了这首名作:
君不见昆吾铁冶飞炎烟,
红光紫气俱赫然。
良工锻炼凡几年,
铸得宝剑名龙泉。
龙泉颜色如霜雪,
良工咨嗟叹奇绝。
琉璃玉匣吐莲花,
错镂金环映明月。
正逢天下无风尘,
幸得周防君子身。
精光黯黯青蛇色,
文章片片绿龟鳞。
非直结交游侠子,
亦曾亲近英雄人。
何言中路遭弃捐,
零落漂沦古狱边。
虽复尘埋无所用,
犹能夜夜气冲天。
这首诗以剑自喻,诉说自己的成长,像良工精冶锻造出来的这柄龙泉宝剑,不但结交过游侠,也曾与英雄亲近。可是现在中途被抛弃,零落飘零,将要入狱。虽然被尘土掩埋,但挡不住我自带光华,夜夜剑气冲天!
这首诗非常豪放,又充满了自信,相信暂时的挫折不会成为自己未来的障碍,这真是郭元振心怀的写照。武则天听后,非常赞赏,任命他做了右武卫铠曹参军,后来派他出使吐蕃,逐渐做到了主客郎中。
大足元年(公元701年),突厥和吐蕃联兵,入侵凉州(今甘肃省武威市)。这次入侵突如其来,并且突厥和吐蕃联手,武则天不得不提高警惕。消息传来,武则天正在洛阳城楼饮宴,当即罢宴,急拜郭元振为凉州都督,即刻出发。
此时的唐凉州境界狭窄,州境的纵深才四百里,只要吐蕃或突厥入侵,转眼就可到凉州城下。郭元振上任后,视察地形,调派人手,在南硖口设置了和戎城(今甘肃省古浪县),在北碛设置了白亭军(今甘肃省民勤县),控扼住了道路要点,一下就拓展凉州的疆土一千五百里。他又在凉州屯田,粮食也有了保障。他做了五年凉州刺史,凉州的府库充盈,牛羊遍野,道不拾遗。他以自己的为官一任,造福了边塞。