陳湯少時家貧好學，有大誌，但是品行不端，不為鄉裏所稱。後赴長安求官，與張勃相識。漢元帝初元二年（前47年），張勃推薦陳湯為官，但是陳湯在待選期間父親過世，按照律法，他應該回家奔喪。陳湯隱瞞了此消息，結果事情敗露而下獄。
出獄後，他被授予郎官閑職，多次請求出使西域，後於建昭三年（前36年）出任西域都護府副校尉。時匈奴郅支單於因為殺害漢使穀吉，為了防備漢朝出兵報複，率領部眾向西遷居於康居，受到康居庇護。康居為借其威名稱霸西域，屢借兵與其攻掠漢朝屬國烏孫及大宛等。
建昭三年秋，陳湯矯詔調發屯田兵士和西域各國軍隊共4萬人遠征郅支單於，脅迫上司西域都護府校尉甘延壽服從其事。大軍既發，遂克郅支城（今哈薩克斯坦塔拉茲），全殲郅支單於及其本部部眾3千人。大捷後，兩人上疏朝廷“臣聞天下之大義，當混為一。匈奴呼韓邪單於已稱北藩，唯郅支單於叛逆，未伏其辜，大夏之西，以為強漢不能臣也。郅支單於慘毒行於民，大惡逼於天。臣延壽、臣湯將義兵，行天誅，賴陛下神靈，陰陽並應，陷陣克敵，斬郅支首及名王以下。宜懸頭槁於蠻夷邸間，以示萬裏，明犯強漢者，雖遠必誅！”。
陳湯私自貪汙了部分戰利品，當司隸校尉查辦時，他反而指責司隸校尉“是為郅支報仇也”，加上與之交好的宗正劉向為他上疏，元帝不顧丞相石顯和匡衡的反對，賜陳湯爵關內侯，命其為射聲校尉。
漢成帝繼位後，陳湯貪汙受賄事發，被罷免了官位。其後，他又誣稱康居所送質子非王子，敗露後下獄被判死罪。太中大夫穀永為其求情，使其得免一死，免爵充軍。外戚王商和王鳳當政時，西域都護段會宗被烏孫軍隊包圍。兩王谘詢陳湯意見，陳湯判斷烏孫軍隊必敗，果如其言，於是王鳳複起陳湯為從事中郎，掌管幕府參謀事宜。
陳湯複出後黨附王莽，仍然經常受賄，時將作大匠解萬年欲求功，謀劃遷移關東良民至關內，建立初陵邑，陳湯上疏讚同，表示自己將帶頭遷移。結果多年營造不成，民不聊生，該計劃唯有放棄。當拆除造好的房屋時，發現陳湯未帶頭遷居。陳湯因此再次下獄，發現其過往多次受賄，再次被發配敦煌，後被赦回，過世於長安。
王莽掌權後，追諡湯為破胡壯侯。
