La primera experiencia musical a su temprana edad fue un piano vertical en la casa de soltera de su madre. En 1967, ingresó a la escuela secundaria coreana Amagasaki y estudió clarinete en la banda escolar . También estudió instrumentos populares coreanos mejorados enviados desde Corea del Norte . En 1969, School Band of Amagasaki Korean Middle School ganó un gran premio de 'Competencia de estudiantes coreanos residentes en Japón' bajo su dirección.
En 1973, Kim ingresó a la Escuela de Música Toho Gakuen como uno de los primeros ciudadanos coreanos. Cambió su especialidad de clarinete a dirección con Ken Takaseki y Naoto Otomo en 1975. Antes de graduarse en 1977, asistió a clases de, entre otros, Seiji Ozawa , Kazuyoshi Akiyama , Tadashi Mori y Shunsaku Tsutsumi. Por recomendación de Tsutsumi, fue nombrado director residente de la Orquesta Filarmónica de la Ciudad de Tokio cuando estudiaba en Toho. En 1977, dirigió la Orquesta Toho con Seiji Ozawa en el podio del concierto de graduación de Toho Gakuen.
Después de graduarse, Kim debutó oficialmente con la Orquesta Filarmónica de la Ciudad de Tokio el 22 de marzo de 1978 en el Salón Público de Shibuya , Tokio. Este concierto, titulado 'Concierto especial de obras orquestales (norte) coreanas', obtuvo una respuesta sensacional, no solo del primer director de nacionalidad coreana sino de cualquier obra estrenada en Japón.
Después de este año, participó en el Concurso Internacional de Directores de Tokio y recibió el segundo premio con un premio especial que lleva el nombre de Hideo Saito . En el mismo año, fue invitado por Corea del Norte para dirigir la Orquesta Sinfónica Estatal de la RPDC . En 1980 dirigió los conciertos de los premiados desde Hokkaidō hasta Kyūshū .
Kim fue nombrado director del programa de televisión titulado 'Aquí viene la orquesta' de Tokyo Broadcasting System (TBS) con Kazushi Ono y Deryck Inoue en 1980. Después de este año, dirigió otro programa de televisión titulado 'My Concert' de Nippon Television ( TVN). Durante estos dos años, dirigió numerosas obras desde Bach hasta Shostakovich y acompañó a muchos solistas conocidos, incluidos Hiroko Nakamura , Mitsuko Uchida , Toshia Eto, Ko Iwasaki, Jean-Yves Thibaudet y Mikhail Pletnev con dos orquestas regulares : New Japan Philharmonic yOrquesta Sinfónica de Yomiuri Nippon -y orquestas de otras ciudades.
En 1981, Kim se convirtió en director invitado principal de la Orquesta Filarmónica de la Ciudad de Tokio. Sus otros puestos importantes fueron director invitado principal de la Orquesta Filarmónica de Nagoya desde 1985 y director invitado principal de la Orquesta Sinfónica de Kyoto desde 1987. Realizó una gira con la Orquesta Sinfónica de Kyoto en Pyongyang y Wonsan -primera aparición de la orquesta de Japón en Corea del Norte- en 1987. También apareció en Beijing con China Broadcasting Symphony Orchestra (ahora China Philharmonic Orchestra ) en 1988.