조선 중기의 문신으로 본관은 경주(慶州), 자는 상지(相之)이다. 판도판서(版圖判書) 김장유(金將有)의 후손으로, 증조는 김제군수(金堤郡守) 김천부(金天富), 할아버지는 노성현감(魯城縣監) 김가기(金可幾)이다. 아버지는 첨지중추부사(僉知中樞府事) 김덕민(德民), 어머니는 해주오씨(海州吳氏)이며, 5형제 중 장남으로 보은읍 종곡리에서 태어났다.

1627년(인조 5) 진사시(進士試)에 2등 17위로 합격하였다. 김옥은 그를 비롯해 김용(金鎔), 김상(金鋿), 김경(金鏡), 김익(金釴) 등 모두 5형제였는데 1627년 진사시에서 김옥, 김용, 김경이 함께 합격하였다. 현풍현감(玄風縣監)에 부임하였으며 재직 중 공무를 신속․정확하게 처리한 그의 활양상이 '현풍현지(玄風縣誌)'에 소개되어 있다.

그는 천성이 온화하고 조용하여 근검절약을 스스로를 다스리며 살았다고 하며, 묘소는 보은읍 성족리에 있다.