两年后，黄自转到美国耶鲁大学音乐学校就读。当时的耶鲁音乐院实行三二制，也就是说念三年颁给证明，再念两年高级课才授予学位，一共要念五年。插班生一般要念两年。而黄自却与众不同，他从1928年9月入学，到次年6月毕业，仅用一年的时间就完成了学业。黄自的勤奋耕耘收获了累累硕果：他的毕业作品——管弦乐序曲《怀旧》被选为优秀毕业作品，在毕业音乐会上演出，并由他的老师——耶鲁大学音乐学校校长、著名作曲家大卫·斯坦利·史密斯指挥。耶鲁大学音乐院有一个传统，即每学年结束时都会开一场毕业音乐会，同时也是音乐院的毕业典礼。它要求从应届毕业生中挑选优秀的演奏者及作品参加演出，这年的毕业音乐会共选出七个优秀毕业学生的七个节目，其中管弦乐新作曲目有三首，黄自的管弦乐曲《怀旧》即是其中之一。1929年5月31日，由校长史密斯指挥该院学生乐队与新港交响乐队，在康涅狄格州新港坞西音乐厅联合首演，当地的报纸高度评价了黄自的《怀旧》，称赞它“是所有创作的管弦乐曲中的佼佼者。该曲或许不像其他作品那么炫耀，但至少有一个中心乐念，并且表现出最佳的配器手法，它同时也是音乐会中唯一令人充分欣赏的作品”。黄自的《怀旧》是中国作曲家创作的第一部交响乐作品，也是外国乐团在海外演奏的第一部中国作品！

鲜为人知的是，《怀旧》曲的创作背后还有一个令人伤感的故事。早在欧伯林留学时，黄自就结识了早他一年保送留美，在欧伯林学院主修教育，兼习音乐的同学胡永馥，遭遇了人生中最美好的感情。活泼能干的胡永馥在欧伯林学院深得众望，先后担任了学校中国学生会副会长、会长，同时还是国际学生会的会员。而黄自在留美期间也很热心中国学生会的活动，1926年又继胡永馥担任了中国学生会的会长一职。频繁的工作接触和对音乐的共同兴趣，二人日久生情。遗憾的是，胡永馥回国后不久便于1928年3月因心脏病救治无效而去世。红颜早逝，知己难求，黄自异常悲痛，不久就转入耶鲁大学音乐学校。他的毕业作品《怀旧》就是因纪念这段难忘的初恋和早逝的女友而得名的。当这首集悲凉肃穆和热情庄重于一体的乐曲奏响时，我们仿佛感受到了黄自对那段悄然逝去的爱情生活的哀痛和无限缱绻之情。