Alfred Gaida immigre en Allemagne avec sa famille en 1969, en tant que rapatrié tardif. Le il prend la nationalité allemande. En , il dispute sa première course pour son nouveau club allemand. En 1972, sous les couleurs du PSV Köln, Alfred Gaida devient champion d'Allemagne amateur de cyclisme sur route; la même année, il remporte la Flèche du Sud et termine troisième de Cologne-Schuld-Frechen. Toujours en 1972, il participe aux Jeux olympiques d'été de Munich, terminant 57e de la course sur route individuelle. Il passe ensuite professionnel, prend le départ du Tour de France 1973 et termine 81e. En 1974, il remporte une étape de Paris-Nice.
