劉玉，字咸栗，萬安人。祖廣衡，永樂末進士。正統間，以刑部郎中出修浙江荒政，積粟數百萬，督治陂塘為旱澇備。景泰初，歷左副都御史，鎮守陜西。請遇災傷，毋俟勘報，即除其賦，庶有司不得借覆核陰行科率，從之。還治院事。福建、浙江盜起，命往督兵捕。議創壽寧縣于官臺山，以清盜窟。討平處州賊。已，復巡撫遼東。居官以廉節稱。終刑部尚書。父喬，成化初進士。累官湖廣左布政使。玉登弘治九年進士，授輝縣知縣。發粟振饑，奏蠲虛稅，復業者千家。擢御史。初，孫伯堅、金琦、王寧皆以傳奉得官，已，又以指揮胡震為都指揮，分守通州。玉抗疏言：“傳奉不已，繼之內批，累圣德，乞皆罷之?！辈患{。

武宗即位，甫四月，災異迭見，玉陳修省六事。出按京畿，中官吳忠奉命選后妃，肆貪虐。玉奏。不問。劉健、謝遷罷，玉馳疏言：“劉瑾等佞幸小臣，巧戲弄，投陛下一笑。顧讒邪而棄輔臣，此亂危所自起。況今白虹貫曰，彗見紫微宮，星搖天王之位。民窮財殫，所在空虛，陛下不改圖，天下將殆。乞置瑾等于理，仍留健、遷輔政。”不報。玉遂引疾歸。后瑾榜玉奸黨，復誣構之。罰輸粟塞下者三，最后逮系詔獄，削籍放歸。瑾誅，起河南僉事，遷福建副使，皆董學政。正德十五年，累擢南京右僉都御史，提督江防。宸濠反，攻安慶，玉以舟師赴援。事定，改撫鄖陽。

世宗即位，召為左僉都御史。論遏亂功，進右副都御史。嘉靖元年改左。歷刑部左、右侍郎。初，偕九卿爭興獻帝不宜稱皇，及帝欲考獻帝，又偕廷臣伏闕哭爭。六年秋坐李福達獄削籍，卒于家。

玉所居僅庇風雨。天文、地理、兵制、刑律皆有論著。隆慶初，贈刑部尚書，謚端毅。

子愨，南京工部右侍郎。歷官亦有聲。