조선 전기의 문신으로 본관은 경주(慶州), 자는 인초(仁初)이다. 판도판서 김장유의 5세손이며, 할아버지는 김호, 아버지는 김처용, 어머니는 옥천황씨(沃川黃氏)로 황헌(黃憲)의 딸이다. 부인은 김해허씨(金海許氏)로 판관 허윤공(許允恭)의 딸이다. 기묘명현 충암 김정의 아버지이다.

어려서부터 경사(經史)에 능통한 어머니 허씨로부터 학문을 배워 1475년(성종 6)에 알성문과(謁聖文科)에 병과로 급제하여 사간원 정언(正言)을 거쳐 호조정랑(戶曹正郞)으로 춘추관(春秋館) 기주관(記注官)을 겸임하였다. 외직으로 안음현감(安陰縣監)으로 나아갔으나, 그때 연산군의 폭정(暴政)이 나날이 심해지고 간신배들이 정권을 농단하여 바른 말을 하는 충간(忠諫)이 용납되지 않음을 보고 스스로 벼슬을 버리고 고향에 돌아왔다.

이후 문을 닫고 세상과 인연을 끊고 초야에 묻혀 독서를 즐기고, 채소를 가꾸며 일생을 마쳤다. 그러나 임금에 충성하고 나라 일을 근심하는 뜨거운 마음은 변함이 없었다고 한다.

뒤에 아들인 충암 김정이 영의정에 추증됨에 따라 이조판서(吏曹判書)에 증직되었다. 묘소는 수한면 동정리에 있다.