1958年,毛主席對全軍幹部提出:“凡是所有帶‘長’的,無論師長還是軍長,都要下到連隊當一個月的兵,要服從班、排長的命令,一年你管別人十一個月,別人管你一個月怎麽了,我看頭一年最好在連隊待上兩個月”。
1958年10月,楊成武和北京軍區十幾位將軍一起下到連隊當兵,楊成武被分配到了北京軍區某部二連當兵。