서울 출신으로 증조부는
경술국치와 일제의 회유에 항거해 목숨을 끊은 우국지사 오천(梧泉) 김석진(金奭鎭), 조부는 일제의 작위를 거부하고 은거한 동강(東江) 김영한(金寗漢)이다.
완고한 집안에서 태어난 덕분인지
보통학교도 남들보다 늦게 들어갔다고 하며, 보통학교를 마친 뒤에도
창씨개명을 하지 않았다는 이유로 1년 동안 진학하지 못하다가 협성소학교 측의 소견서를 얻어
휘문중학교[3]에 들어갔다.
[4] 당시 김응현의 가족은 김석진과 김영한이 일제를 거부한 일로 인해 계속 요시찰 대상이었다고 한다. 심지어 불심검문에 걸려 옥고를 치른 적도 있다고 한다. 1946년 휘문중학교, 1948년
동국대학교 전문부 문과, 1952년
고려대학교 영문과를 졸업했다.
[5] 또 같은 해에는
국회도서관에서 국회보 주간으로 일하기 시작해 약 10년 동안 재직하였다.
어려서 조부 김영한으로부터
한학과
서예를 배운 것을 시작으로 10대에는
안진경이나 구양순, 유공권의 서법을 기초로 익혔고, 10대 후반에는 조부가 구해 온 한·위 시대의 법첩을 중심으로 서법을 연마하였다. 이를 바탕으로 15세 때부터 작품 활동을 하였으며, 1950년대에는
숙명여자대학교,
홍익대학교,
성균관대학교 등에 출강하며 한문학과 서예를 가르쳤다.
1956년 같은 문중의 서예가 김용진(金容鎭)을 비롯, 김충현(金忠顯) ·노수현(盧壽鉉) ·김서봉(金瑞鳳)ㆍ민태식(閔泰植)과 함께 서예 연구 단체인 동방연서회를 창립하였고, 1971년부터는 회장으로 취임하여 활발하게 작품활동을 벌였다. 동방연서회를 중심으로 그는 한국의 전통적인 서풍을 연구, 복원할 것을 주장하며
광개토대왕릉비의 고예(古隸)를 본딴 예서 작품을 활발하게 썼다.
1999년, 교통사고로 손을 다치기도 하였고, 그 이후로도 당뇨병과 합병증, 중풍, 파킨슨병을 앓다가 2007년 별세하였는데, 별세하기 직전인 2006년 초까지 붓을 놓지 않았다고 하며,
광화문 현판을 대체할 새 현판을 쓸 제1순위의 인물로 꼽히기도 하였다.
그는
한자의 5체에 모두 정통했다고 평가되지만, 그 가운데에서도 특히 북위체에 기반하여 힘있고 호방한
예서와
해서에 특출한 것으로 평가되며, 역시 자유롭고 막힘 없는 필치로 인해
행서와
초서 작품도 높은 평가를 받는다. 생전에 여러 사찰의 주련과 현판을 쓰기도 했고, 작품도 다수 남겼으나 특히 2003년에 완성한 광개토대왕비문은 필생의 역작으로 손꼽힌다.
대단한 연습벌레로 하루 네시간씩 글씨를 연습했다고 하며 동방연서회 회원들을 가르칠 때에는 역시 하루 4글자씩 체본을 써서 나누어주었는데, 자신의 필체가 아니라 법첩에 근거해서 써주었다고 한다.(권경상 증언.)
[6]그의 세 형인 경인(褧人) 김문현, 일중(一中) 김충현, 백아(白牙) 김창현도 서예가로 활동하였는데 특히 김충현은 김응현과 더불어 한국 현대 서예계의 양대 산맥으로 손꼽힌다.