본관은 강릉(江陵). 자는 성재(聖載). 김홍주(金弘柱)의 증손으로, 할아버지는 좌참찬 김시형(金始烱), 아버지는 참판 김상적(金尙迪), 어머니는 이하범(李夏範)의 딸이다. 큰아버지인 선공감부정(繕工監副正) 김상우(金尙遇)에게 입양되었다.

1755년(영조 31) 정시 문과의 을과에 급제해 검열이 된 이래, 정언·수찬·부교리·교리에 제수되었고, 1760년 준천어사를 지냈다. 1770년 승지에 오르고 이듬해 대사간에 임명되었다.

이어 안동부사·경기감사를 지냈으며, 1776년 대사헌에 이어 이듬해 한성부우윤을 겸했다. 1778년(정조 2) 예조판서에 제수된 뒤 호조·병조의 판서에도 제수되었으나 파직되고, 1781년 평안도관찰사에 임명되었다.

같은 해 다시 호조판서가 되어 판의금부사(判義禁府事)를 겸임했으며, 숭록대부로 가자(加資)되었다. 1782년 형조판서가 되고 우참찬·예조판서·호조판서·형조판서를 두루 지내면서, 공부(貢賦)·식화(食貨)·조운 문제에 깊은 관심을 가지고 이의 시정에 힘썼다.

1783년 서학 문제로 채제공(蔡濟恭)의 죄를 탄핵하다 일시 파직되었으나 도감제조(都監提調)에 다시 임명되었다. 1784년 형조판서에 임명되어 김범우(金範禹)의 집에 모인 천주교도들을 체포했으나, 대부분이 양반의 자제들이라 타일러 보내고 중인(中人) 김범우만을 단양에 귀양보냈다.

1785년 판의금부사·원접사(遠接使), 이어 좌참찬·함경도관찰사에 임명되었다. 1796년 호조판서에 제수되어 주전사업(鑄錢事業)과 전세(錢稅) 문제를 관장했고, 특히 동전의 품귀 현상을 근심했다.

1797년에 파직되고 이어 동지 겸 사은사(冬至兼謝恩使)에 임명되었으나 병을 이유로 사양했다. 그 해 12월 다시 이조판서에 제수되었으나, 김재찬(金載瓚)이 대신하고 판중추부사에 임명되었다. 당색은 노론으로 남인을 규탄했으나 비교적 완론(緩論)에 속했다. 시호는 익헌(翼憲)이다.