조선 중기의 무신으로, 본관은 경주(慶州), 자는 천추(千秋)이다. 할아버지는 노성현감 김가기, 아버지는 첨지중추부사(僉知中樞府事) 김덕민(金德民), 어머니는 해주오씨(海州吳氏)로 오희문(吳希文)의 딸이다. 김덕민의 넷째 아들로 보은읍 종곡리에서 출생하였으며, 부인은 참봉 최달원(崔達遠)의 딸이다.

1627년(인조 5) 18세의 나이로 형 김옥(金鈺), 김용(金鎔)과 함께 진사시에 합격하고, 1633년(인조 11) 무과 병과로 급제하였다. 함경도 종성(鐘城), 회령(會寧) 병마첨절제사(兵馬僉節制使)와 평안도 안주(安州)와 경상도 진주(晉州) 병마절제사를 거쳐 1668년(현종 9) 가선대부(嘉善大夫)로 전라도병마절도사(全羅道兵馬節度使)가 되었다. 1670년(현종 11) 경상우도수군절도사(慶尙右道水軍節度使) 겸 삼도통제사(三道統制使)에 올랐는데, 이때 진상할 조총 제조를 감독하였는데 조총이 정교하지 못하다 하여 남해현으로 유배를 가기도 하였다.

그는 청렴하고 강직한 성품이었으며, 병졸을 지휘하면서는 농사철이면 고향에 돌아가 농사를 짓도록 하고 농한기에 군사 훈련을 시켰다. 또한 군사들 훈련이나 주둔할 때 조금이라도 민간인들에게 피해가 없도록 하였다. 현종는 유서(諭書)에서 “그대는 본래 유학하는 신하로 군사에 관한 일을 듣지 못하였을 터인데 지금 보니 그 지략이 크고 생각하는 바가 깊고 무거우니 비록 옛 명장이라도 이보다 더한 것이 없을 것이다.”라고 극찬하였다고 한다.

묘소는 보은읍 누청리에 있다