張釋之擔任謁者仆射跟隨漢文帝出行，與漢文帝登上上林苑觀看養虎的虎圈。

漢文帝詢問上林尉飛禽走獸登記在目有多少，前前后后問了十多種問題，上林尉左右看，上林尉都答不上來。虎圈嗇夫跟隨在旁邊代替上林尉回答。

漢文帝詳細詢問禽獸登記在冊情況，想要以此觀看嗇夫才能；隨口應對回答敏捷，沒有被難住。

漢文帝說：“官吏不應該像是這樣嗎！上林尉不中用！”

乃下詔讓張釋之官拜嗇夫為上林令。張釋之走到漢文帝面前，說：“陛下以為絳侯周勃人怎么樣？”

漢文帝說：“他是長者。”

又再詢問說：“東陽侯張相如人怎么樣？”

漢文帝再說：“他是長者。”

張釋之說：“絳侯周勃、東陽侯張相如都被人們稱作長者，這兩人訴說事情曾經也不能說出口，怎么能效仿嗇夫能言善辯滔滔不絕應對敏捷呢！況且秦任用刀筆吏，以苛刻煩瑣為明察互相爭高低。

其中損害，僅僅有文條而沒有實際價值，陛下聽不到過失，國家衰敗以至于土崩瓦解。現在陛下因為嗇夫口才好而越級擢升嗇夫，臣恐怕天下人隨波逐流，爭著去做巧言善辯而沒有實際能力。

在下位的人受到上位人感化，如影隨形響應聲生音如同閃電之光。天子舉動不可不慎重。”

漢文帝說：“對。”

乃不官拜嗇夫。漢文帝登上車，下詔張釋之作為參乘陪坐。馬車緩慢前行，詢問張釋之秦國弊端，全部如實回答。到達宮中，漢文帝官拜張釋之為公車令。

過了不久，太子與梁王一同乘坐馬車入朝，一般來說到了司馬門，必須下車下馬。要通過司馬門必須審查和宮中記錄一致才能放行。

太子與梁王到了司馬門不下車。于是張釋之追上太子、梁王，不許再讓前行進入殿門，于是彈劾“不下公門，大不敬”，奏上一本。薄太后聽說；漢文帝脫帽謝罪，謝罪教育兒子不嚴。

薄太后乃讓使者奉圣旨赦免太子、梁王，然后才得以進入殿門。漢文帝更驚奇欣賞張釋之，官拜為中大夫；不久，官至中郎將。

張釋之跟隨漢文帝到達霸陵，漢文帝對群臣說：“嗟乎！我的陵墓用北山石為外槨，用麻絮切斷塞在縫隙中，再用漆粘合為一體，如此堅固，難道還可以打開嗎！”

左右都說：“對。”

張釋之說：“讓陵墓中有讓人引起貪欲的寶貝，即使被銅鐵鑄塞的南山仍然有縫隙；讓陵墓中不能引起貪欲，即使沒有石制的外棺，又有什么憂愁呢！”漢文帝表示贊同。

這一年，張釋之被任用為廷尉。漢文帝外出經過中渭橋，有一人從橋下走過，驚動皇帝車駕的馬匹。于是讓騎兵搜捕，把任務交給廷尉張釋之。

張釋之判罪說：“此人沖犯皇帝車駕，應當罰款。”

漢文帝勃然大怒說：“此人自己京東我的馬，馬信賴寬和柔順，如果換成其他馬匹，難道不讓我受傷嗎！而廷尉說應當此人罰款。”

張釋之說：“法律，眾人共有的。現在法令就是這樣，如果罪名更加嚴重，是法律失信于百姓。況且如果是驚動皇帝車駕的時候，陛下讓使者誅殺此人便罷了。現在已經遞送廷尉。廷尉天下天平，一旦傾斜，天下用法都變為可輕可重，百姓如何安放手腳！希望陛下明察。”漢文帝沉吟良久說：“廷尉是對的。”