他的家乡流行唱黄梅戏，他小时候是浸润在黄梅戏的音乐中长大的。1958年他凭借拉得一手好二胡，以独奏《良宵》考进了安徽省艺校，整整学了三年黄梅戏音乐，学会了作曲。他说自己对黄梅戏的熟悉程度和喜爱程度都远远超过了庐剧，当初他的同班4个人后来只剩下他一人，别人都不学了，他依然在坚守，立志要为黄梅戏艺术做出点成就。然而就在他毕业时准备大展宏图的时候，学校却撤销了黄梅戏专业。当时学西洋音乐的何合浓被分配去了庐剧团，而徐代泉被宣布留校从事教学。徐代泉很不理解，以为领导弄错了，他认为按理应该把他分到庐剧团去才对。但学校领导说出的理由却让他心服口服：“我们是要为黄梅戲留一个种子。”但这个种子却没有机会发芽、开花、结果。省艺校直到1993年才招了一个黄梅戲班，这中间30多年徐代泉一直学无所用，没办法他只好下决心转向庐剧。但庐剧音乐与黃梅戲音樂是根本不同的，为了尽早掌握这个劇種，徐代泉采取了一個笨辦法——與黃梅戲表演班的學生一起上唱腔課。老师上课时，他一面聽，一面記譜。由于功夫下得大，他比十几岁的孩子學得還快，到後來藝校的黃梅戲教學曲目基本上都是由他來寫。
这一行干起来是既苦且难的。苦是苦在熬人，不断地创作和研究；难则难在從事戲曲音樂要學的人太少。而從事戲曲音樂的人卻往往免不了與清貧和寂寞為伍，那些辛酸歲月讓人難以忘懷。他的一生做三项工作，一是教学，是中国戏曲学院客座教授；二是在創作方面，为60多部教学剧目作过曲，还创作了一些电视剧歌词；三是在研究方面，对于古老而宝贵的地方话体传统艺术有着深入浅出的了解。
谈及安徽的地方文化，有一个名字不能不提及，他就是创作了《桃花扇》、《半把剪刀》、《家》、《春》、《秋》、《啼笑因缘》、《二月》等十几部 黄梅戏音乐电视剧音乐（含合作）的著名作曲家徐代泉。在退休后的今天，也仍旧担任着中国戏曲学院、安徽大学艺术学院客座教授，并致力于将自己的知识和经验传递给后辈，让更多的人了解并欣赏这门古老而又精彩纷呈的地方话体传统艺术。在那充满激情与挑战的一路走来，无论遇到什么困难或挫折，都没有让他的热爱减弱一步，而是一直坚持到底，用自己的方式记录下这些美好的瞬间，让历史记住他们曾经存在过，从而使之成为永恒不朽的事物。
