조선 초기의 문신으로 초명(初名)은 효기(孝起), 자는 여공(汝恭), 호는 백촌(白村)이다. 충청남도 옥천출신이며 김알지(金閼智)의 후손으로 당대에는 본관을 김해(金海)로 사용하였으나, 후대에 이르러 그 후손들이 김수로왕(金首露王)의 후손인 김해김씨와 구별하기 위하여 김녕(金寧)과 경주(慶州)로 사용하는 두 파로 갈라졌다.
관(觀)의 아들이다. 세종 8년 (1426) 문과에 병과로 급제했으며, 1430년에 예문관겸열, 1436년 사간원좌헌납이 되었다. 1448년 겸지형조사(兼知刑曺事), 1450년 병조참의를 거쳐, 문종 1년(1451) 함길도도관찰사에 부임, 안변·정평 등지에 둔전(屯田)을 설치할 것을 건의했다. 단종 1년(1453) 형조참판에 제수되었다가 다시 외직인 함길도도절제사로 나갔다. 1455년 세조로부터 차사원(差使員)과 힘을 합쳐 온성의 읍성을 축조하는 공사를 마치라는 유시를 받고 이를 수행하는 공을 세웠다. 그해 공조판서에 임명되었으나, 1456년 성삼문(成三問)·박팽년(朴彭年) 등이 주동한 단종복위계획이 발각되어 모두 주살당할 때, 그도 이 사건에 관련되어 군기감 앞에서 처형되었다.
그 뒤 여기에 가담한 사람들 중에 6인의 절의(節義)를 들어 "사육신"이라 하였는데, 이 사육신의 사실은 남효은(南孝溫)이 쓴 《추강집 秋江集》의 <육신전 六臣傳>에 실려 세상에 널리 알려졌다. 숙종 17년(1691)에는 국가에서 공인하여 육신을 복관시키고, 이어 영조 7년(1731) 김문기도 9대손 정구의 송원(訟寃)으로 복관되었으며, 1757년 충의(忠毅)란 시호가 내려졌다. 그 뒤 정조 15년(1791) 단종을 위해 충성을 바친 여러 신하들에게 《어정배식록 御定配食錄》을 편정(編定)할 때 그는 삼중신(三重臣 : 閔伸·趙克寶·金文起)의 한 사람으로 선정되고, 성삼문(成三問)·박팽년(朴彭年)·이개(李塏)·유성원(柳誠源)·유응부(兪應孚)·하위지(河緯地) 등 6인은 《추강집》의 <육신전>대로 사육신에 선정되었다. 이 《어정배식록》은 정조가 내각과 홍문관에 명령하여 《세조실록》을 비롯한 국내의 공사문적을 널리 고증하게 하여 신중히 결정한 국가적인 의전(儀典)이다.
이 때 김문기에게는 앞서 1453년 계유옥사 때 사절(死節)한 이조판서 민신과 병조판서 조극관과 같은 판서급의 중신이 되는 이유로 상중신이란 칭호가 내려진 것이다. 그의 사실을 기록한 《백촌유사 白村遺事》 3책이 전하며, 경상북도 금릉군 지례(知禮)의 섬계서원(剡溪書院)에 제향되었다. 경기도 시흥군 수암면 화정리에 정려각(旌閭閣)을 세웠는데, 오정각(五旌閣)이라 이름하였다.
뒤에 영조 34년(1758) 이조판서에 추증되었으며, 시호를 충렬(忠烈)이라 하였다. 노량진의 민절서원, 영월의 창절사, 선산의 월암서원 등에 제향되었다.