En 1991, Kim debutó como jugador profesional con Pohang Steelers (entonces POSCO Atoms ) justo después de graduarse de la escuela secundaria, lo que era bastante inusual en ese entonces. ( Choi Moon-Sik sería un caso similar). Comenzó a aparecer en los partidos de los mejores equipos después de unirse a Yukong Elephants (Bucheon SK después de 1996). En ese momento, Bucheon era muy reconocido por tener un centro del campo fuerte bajo el mando de Valeri Nepomniachi , y era un miembro clave.
Kim regresó a Pohang en 2003 y llevó a los Steelers al campeonato en 2007. También fue seleccionado como el "mejor once" de la liga en 2007. Ahora ocupa el segundo lugar en la aparición de carreras nacionales (liga y copas) en K-League. , solo después del portero Kim Byung-Ji .
El 9 de julio de 2011, se convirtió en el marcador más antiguo en la K-League con su gol en la victoria por 7-0 sobre Daejeon Citizen .