Graf fut élève de André Jaunet à Zurich puis de Marcel Moyse et Roger Cortet à Paris. Il obtint le premier prix de flûte et le diplôme de direction au Conservatoire national de Paris. Il gagna aussi le premier prix au concours international de la chaîne de télévision ARD à Munich et le Prix Bablock du H. Cohen International Music Award à Londres. Depuis 1973 il enseigne la flûte à l'académie de musique de Bâle et vit à Binningen.