태종의 아들 익녕군(益寧君) 치()의 4세손이며, 함천부수(咸川副守)를 지낸 억재(億載)의 아들이다. 15세에 4학 중 하나인 동학(東學)에 들어가 수학했다. 1564년(명종 19) 사마시에 합격하고, 1569년(선조 2) 별시문과에 급제하여 이듬해 승문원에 등용되었다. 정자·저작 겸 봉상직장을 거쳐 1573년 성균관전적이 되었으며, 그해 2월 성절사(聖節使) 권덕여(權德輿)의 질정관(質正官)으로 베이징(北京)에 다녀왔다. 그뒤 호조·예조·형조의 좌랑을 역임하고, 황해도도사에 임명되었다. 당시 황해감사이던 이이(李珥)의 천거로 1575년 정언이 되어 중앙관으로 올라왔다. 그뒤 교리·수찬·지평·동부승지 등을 역임했다. 1583년 우부승지로 있을 때 도승지 박근원(朴謹元)과 영의정 박순(朴淳)의 불화로 승정원이 탄핵을 받자 자신만이 파면을 면할 수 없다고 하여 5년간 야인으로 지냈다. 1587년 이조참판 권극례(權克禮)의 추천으로 안주목사에 기용되어 민생의 안정에 크게 기여했다. 그후 이러한 공로에 힘입어 형조참판, 대사헌, 호조·예조 판서, 이조판서 겸 도총관, 지의금부사 등을 역임했다. 1592년 임진왜란이 발발하자 평안도순찰사가 되어 왕의 피란길을 선도하고 군사를 모아 일본군과 싸웠다.

1593년에 이여송(李如松)과 합세하여 평양을 탈환한 공으로 숭정대부가 되었으며, 1595년에는 우의정 겸 4도체찰사에 임명되었다. 명나라에 진주변무사(陳奏辨誣使)로 다녀와 영의정이 되었으며 그뒤 중추부사에 임명되었다가 다시 영의정으로 복직했다. 1600년에는 좌의정을 거쳐 도체찰사에 임명되어 영남지방과 서북지방을 돌아보았다. 1604년에 호성공신(扈聖功臣)에 책훈되고 완평부원군(完平府院君)에 봉해졌으며, 광해군 즉위 후 다시 영의정이 되었다. 인목대비 폐위론이 제기되자 강력하게 반대 상소를 올려 홍천을 거쳐 여주로 유배되었다. 1623년(인조 1) 인조반정으로 인조가 즉위하자 영의정이 되었으며, 광해군을 죽여야 한다는 여론에 반대하여 광해군의 목숨을 구했다. 1624년 이괄(李适)의 난 때는 왕의 호위를, 1627년 정묘호란 때는 도체찰사로 세자의 호위를 맡았으며, 서울로 와서는 훈련도감제조에 임명되었다. 고령으로 기력이 쇠약해져 사직하여 낙향한 후에는 왕의 부름에도 응하지 않고 청빈하게 살았다.

그는 안주목사로 있을 때 농민의 생업을 안정시키고, 병졸들의 입번(入番)을 4번에서 6번으로 하여 1년에 2개월씩 근무하게 함으로써 백성들의 부담을 경감시켰다(→ 색인 : 6번제). 이 제도는 그뒤 순찰사 윤두수(尹斗壽)의 건의로 전국적인 병제로 정해졌다. 또한 그때까지 누에를 칠 줄 모르던 안주지방에 누에치기를 가르치고 장려해서 안주에서는 이공상(李公桑)이라는 말까지 생겼다. 또한 그는 전쟁복구와 민생안정책으로 국민의 부담을 경감시키기 위해 대동법을 실시했다. 즉 1608년(광해군 즉위) 영의정으로 있을 때 토지 1결(結)당 16두(斗)의 쌀을 공세(貢稅)로 거두되 중앙에 선혜청을, 경기도에 경기청을 두고 방납(防納)의 폐단이 가장 심한 경기도에 한하여 우선 실시하도록 한 것이다. 저서로는 〈오리집〉·〈속오리집〉·〈오리일기〉 등이 있으며, 가사로 〈고공답주인가 雇貢答主人歌〉가 있다. 인조 묘정, 여주 기천서원(沂川書院), 시흥 충현서원(忠賢書院), 안주 청천사(淸川祠)에 배향되었다. 시호는 문충(文忠)이다.