Futbolculuk kariyerine Sarı-Kırmızılılar'ın altyapısında başlayan 27 yaşındaki oyuncu, bugüne kadar yalnızca Galatasaray forması giydi.
Yaşadığı ağır sakatlıklar nedeniyle beklenen patlamayı bir türlü yapamayan Yılmaz, bu sezon yalnıca 1 kez Süper Lig'de şans buldu.
Konya'ya attığı gol şampiyonluk getirmişti
2005-2006 sezonunda şampiyonluk için ezeli rakibi Fenerbahçe ile çekişen Galatasaray'da, 22 Ocak 2006 tarihinde Konyaspor'a karşı oynanan maçta henüz 19 yaşındayken ilk kez Sarı-Kırmızılı formayı giyen Aydın Yılmaz, sonradan dahil olduğu maçta 90. dakikada attığı golle takımını galibiyete taşıyarak, sezon sonunda elde edilen şampiyonlukta hayati bir rol oynamıştı.
Kritik gollere imza attı
Galatasaray'da hiçbir zaman ilk 11'de düzenli oynamayı başaramayan Aydın Yılmaz, Fatih Terim'in 2011-2012 sezonunda göreve gelişiyle birlikte rotasyonda kendisine yer bulurken, özellikle ligde Beşiktaş'a, Şampiyonlar Ligi'nde ise Braga'ya attığı gollerle kritik gollerin adamı olarak gündeme düşmüştü.
22 Ocak dönüm noktası
Galatasaray'ın 22 Ocak 2014 tarihinde Elazığspor'a karşı oynadığı Ziraat Türkiye Kupası maçında rakibi Serdar Özkan'la girdiği mücadele sonrası yerde kalan Aydın Yılmaz, yine uzun süre sahalardan uzak kalmıştı.