Yılmaz comenzó a jugar al fútbol en el Karayollari Yolspor en 1988. Su carrera profesional comenzó en İnegölspor cuando se incorporó en 1996. Dos años más tarde, en 1998, fue transferido al Bursaspor . Yılmaz pasó la peor parte de su carrera en el club con sede en Bursa , liderando a la Süper Lig en goles marcados dos veces (2001 y 2003). Fue cortejado por el CSKA de Moscú y el Olympique de Marsella en 2003. El Bursaspor aceptó una tarifa de transferencia de l'OM, pero Yılmaz no aceptó los términos del contrato. [2]
Yılmaz comenzó su carrera internacional con la selección de Turquía Sub-21 en 2000. Fue ascendido a la selección absoluta en 2003, pero no ha sido convocado desde 2004. Tiene cinco goles en ocho partidos internacionales, así como un tercer puesto. en la Copa FIFA Confederaciones 2003 . [1] En la semifinal contra Francia , Yilmaz tuvo la oportunidad de igualar con un penalti, pero falló y, en consecuencia, Turquía perdió 3-2 y se fue al playoff por el tercer lugar.