北周末年，大丞相楊堅總攬朝政。楊堅發現趙綽正直剛毅，就引薦他當了錄事參軍。后來楊堅消滅北周，建立了隋朝，任命趙綽當了大理丞。由于趙綽按照法律辦事公正適當，并且他的考察成績連續幾年都是頭名，所以沒多久楊堅又提拔他當了大理正。之后，趙綽升遷為尚書都官侍郎，不久轉為刑部侍郎。無論在哪個位置上，趙綽都能做到執法不阿，他也因此被世人所敬仰。

在開皇初年，社會上的偷盜搶劫等犯罪現象很常見，并且怎么也制止不了。隋文帝對此下了一道命令：“一旦抓到這樣的罪犯，都要用嚴刑來懲治。”可是有一人不同意皇帝的這種做法，他就是趙綽。他向皇帝進諫說：“現在國家剛剛穩定，需要用堯舜之道治理。法律是天下最重要的信約，是不能夠失去的。”皇帝認為他說的有道理，于是就打消了加重刑罰的念頭。

后來趙綽被提升為大理少卿，掌管國家的刑獄。有一次皇帝要殺刑部侍郎辛亶，原因是辛亶穿過紅褲子。老話說，穿紅褲子對一個人的仕途很有好處。然而隋文帝卻認為這純粹是在蠱惑人心，就把辛亶交給大理寺，希望大理寺判他死刑以儆效尤。對此，趙綽進言說：“按照國家的律令，不能判處辛亶死刑，所以陛下的命令我是不能照辦的。”隋文帝聽了很生氣，說：“你只是憐惜辛亶的死活，難道就不顧及你自己的性命了嗎？”隨后就命令左右要將趙綽拉出去殺了。趙綽說：“陛下即使把我處死了，也希望您不要殺辛亶。”趙綽的官服在朝堂上就被行刑的人脫了下來，這時隋文帝問趙綽：“現在你要改變主意還來得及。”可是趙綽仍然不屈服，毅然說道：“我一心一意地按照法律辦事，即使搭上了我的性命我也不怕。”隋文帝見他還不屈服，就氣沖沖地回到了后殿。經過一番思考后，隋文帝覺得趙綽說的很有道理，于是沒多久就下令把他放了并且表彰了他的行為。

后來隋文帝頒布了一條法令，嚴禁市場上使用劣質銅錢。有一次，巡邏的士兵在市場上捉到了兩個人，原來他們在用劣質的銅錢換東西。隋文帝知道了這件事情很是生氣，下令要將他們殺掉。趙綽進諫說：“按照法律，他們罪不至死，只能判他們杖刑罪。”隋文帝說：“這事兒你不要管了。”趙綽說：“陛下任命臣當掌管司法刑獄，現在要殺人，怎能說和臣沒關系呢？”隋文帝堅決要趙綽執行自己的旨意，可是趙綽就是不聽，兩個人僵持了半天也沒有一個結果。后來書侍御史柳彧給隋文帝上疏，勸說隋文帝接受趙綽的建議，隋文帝這才答應沒治那兩個人的死罪。

有一個叫來曠的官員也在大理寺任職，他知道趙綽時常頂撞皇帝，讓皇帝不滿。為了迎合皇帝，他參了趙綽一本。他在奏章中說：“大理衙門執法不嚴格。”言外之意，就是說趙綽不按照皇帝的意思辦事。皇帝看了之后，認為他說得很對，就給他升了職。

來曠升了官之后，又告了趙綽一記黑狀，說他徇私舞弊，把不該赦免的犯人放了。隋文帝對此有點不相信，就派人去核實，結果證明來曠純屬是誣告。隋文帝很生氣，立即下令要將來曠處死。他把來曠交給趙綽處理，并且認為趙綽這次肯定不會跟自己做對了。誰知趙綽說：“來曠雖然犯了罪，但是不應該判處死刑。”經過一番解釋，隋文帝同意了趙綽的看法，赦免了來曠的死罪，將他革職流放了。

隋文帝到了晚年的時候，猜忌心比以前更加厲害了，因而時常會做出不按照法律規定動用嚴刑酷法的事情。每當這種情況發生時，趙綽都會勇敢地站出來，幫助隋文帝改正他的錯誤行為。隋文帝還算是一個開明的皇帝，看到趙綽對自己是真的忠心，也就沒有因為他冒犯自己而治他的罪。