2003年,卡尼離開高盛,加入加拿大銀行擔任副行長。[28]一年後,他受聘加入加拿大財政部,擔任資深副部長,並於2004年11月15日開始擔任此職務。[29]
2004年11月至2007年10月,卡尼擔任加拿大財政部高級副部長和G7副部長。他曾在兩位財政部長手下工作:自由黨的拉爾夫·古德爾和保守黨的吉姆·弗萊厄蒂。在此期間,卡尼監督了加拿大政府備受爭議的收入信托來源征稅計劃。[30] 卡尼也是聯邦政府出售加拿大國營石油19%股權並獲利的領導人。[31][32]
2007年底,卡尼被聯邦保守黨政府提名為加拿大央行下一屆行長,於2008年2月正式上任,成為8國集團和20國集團中最年輕的央行行長。當時加拿大正和其他歐美國家一樣,麵臨環球金融危機的嚴重威脅。卡尼預計危機將蔓延全球,於是加拿大央行決定向加拿大金融係統提供大量額外流通性[33],並采取不同尋常的舉措,宣布承諾將利率維持在一年內盡可能低的水平[34],這些似乎意外地對加拿大安全度過金融危機起到了重大作用。[35][頁碼請求]因此,卡尼常被各界認為在幫助加拿大避免遭受金融危機的最嚴重影響方麵發揮了重要作用。[36]