of course you need a J-1 waiver

如果在加拿大呆幾年就可以不用waiver，那美國人也太弱智了吧？
http://www.sino-education.org/studyabroad/J1.htm
第七條 暫居加拿大申請者
曾經持J-1簽證來美、現暫居加拿大並持有效中華人民共和國因私護照的中國公民可依照上述辦法，直接向駐美大使館教育處提出申請。遞交申請材料時還需提供暫居加拿大的有效證明。

當然，你已不是中國人的話，就不用找中國大使館了。