像許多早期的航空技術一樣，空中加油技術是少數"飛行幻想家"異想天開的產物。
1917年，俄羅斯海軍飛行員亞曆山大·塞維爾斯基提出空中加油的設想，十月革命後他移居美國，並為自己的空中加油技術申請專利。1923年6月27日，美國陸軍航空隊的L.H.史密斯上尉利用軟管加油技術為一架DH-4B型飛機加油，創造了持續留空飛行6小時38分的記錄，這是航空史上第一次真是意義的空中加油。隨著第一次世界大戰的結束，商業航空迅速發展，為了彌補運輸機航程不足的缺陷，實現跨大西洋的商業空中航運，需要采用空中加油技術。
在商業利益的驅使下，民用空中加油技術迅速發展，1929年1月1日至月7日，通過空中加油，美國的C-2A飛機創造了留空飛行一個星期的壯舉。早期的加油技術由於空中加油傳輸管路連接技術複雜，一直難以推廣發展，後來英國人發明了"曲型軟管"加油裝置，這種裝置利用拖曳係統釋放加油管和導引索，受油機抓住導引索，從而鏈接加油管進行加油。
這種加油技術對接複雜，需要受油機受油員手動操縱，且隻能進行重力加油。一戰結束後迎來了短暫和平時期，空中加油技術在軍事上的運用始終沒有引起人們足夠的重視，然而，有遠見的軍事家已經看到空中加油技術巨大的軍事潛力。1936年，Hap Arnold在他所著的《This Flying Game》中斷言："在空軍獨立成軍前，它就會執行全球性質的使命，裝備精良、訓練有素的空軍，在全球範圍的作戰影響力將會全麵超過陸軍和海軍。空軍全球作戰的設想，在有了空中加油技術後，就能夠更加容易的實現"。
也許是二戰來得太突然了，同盟國和軸心國把大量的資源投入到轟炸機、戰鬥機的研製生產中，空中加油技術在強大的戰爭壓力擠壓下幾乎沒有發展空間。
在太平洋戰爭期間，盡管美國曾幾次探討運用空中加油技術的可能性，但都沒有付諸實施。空中加油技術沒有在二戰中發揮作用有一定的偶然性，否則二戰的曆史也許會改寫。二戰以後，空中加油技術的戰略意義得到人們充分的重視。1948年，第一架專用加油機KB－29M裝備美軍，它依然采用"曲型軟管"加油裝置 。
1949年，英國空中加油公司試驗成功"軟管錐套"加油裝置，很好地解決了空中對接的技術難題。1950年，波音公司開發了"伸縮套管"加油裝置，即著名的"波音探管"，美國人很快將這一技術使用到KB-29P飛機上。
為了區別這兩種加油技術，人們習慣地把軟管錐套加油裝置稱為"軟式加油"，把伸縮套管加油裝置稱為"硬式加油"。
"軟式加油"裝置通過加油吊艙放出加油軟管，受油機飛行員操縱飛機使受油探頭與加油錐套對接，頂開錐套內的單向活門實現加油。"軟式加油"技術可以同時為多架飛機加油，還可以給直升機加油，缺點是加油速度較慢，受大氣紊流影響較大，對受油機飛行員的技術要求較高。
"硬式加油"裝置由伸縮式加油管、壓力供油機構和控製機構組成，加油對接主要由加油員完成。其優點是加油速度較快，對受油機飛行員的技術要求較低，但一次隻能為一架飛機加油，而且無法給直升機加油。加油機通常由大型運輸機改進而來，因此，較大的載油量、改裝易於實施、作戰適應性強和研製成本低就成為選擇加油機平台的重要指標。
