第二個是轟動上海灘的胡曉陽、陳小蒙等高幹子弟流氓團夥強奸婦女的案件。主犯胡曉陽係中共上海市委第二書記兼人大常委會主任胡立教的兒子,陳小蒙是中共上海市委原宣傳部常務副部長、後來的上海市政協副主席陳其五的兒子(陳其五是著名的《敦促杜聿明投降書》的原作者)。在當時影響很大,上海市委第一書記陳國棟不敢作主,給胡耀邦請示,胡耀邦批示:罪大惡極,不殺不足以平民憤。最後還是槍決了事。胡耀邦到上海的時候,還專門看望過胡立教,請他理解中央的決策。在此之前,他告訴上海方麵,不要告訴陳其五說是兩個兒子(陳小蒙、陳冰郎)的事情,因為陳其五已經是癌症晚期。不想過於刺激他,再者,陳其五的確不知道兒子們的荒唐事。
當年不少人都說胡耀邦真是鐵麵無私、執法如山。