涟水县境在夏、商、西周时期，为淮夷聚居之地。东周春秋时属吴；战国时，公元前473年，越灭吴，属越；公元前306年，楚灭越，属楚。

秦时，县境属东海郡。

汉武帝元狩六年（前117），置淮浦县，属临淮郡，此为涟水建县之始。新莽时，改淮浦县为淮敬县。东汉时，复称淮浦县，属东海郡。

三国时，淮浦属魏，划归广陵郡，西晋因之；东晋初元帝时侨置江南。

南北朝时，南齐建元二年（480），以东海郡属冀州，称北东海郡，侨治连口（现涟城街道），并于北境置襄贲县，此为襄贲侨置涟水之始。建武二年（495），省淮浦县，自此淮浦之名不存。梁时，襄贲仍隶北东海郡。东魏武定七年（549），改北东海郡为海安郡，襄贲属海安郡。

隋开皇三年（583），罢郡为州，以襄贲县属海州；开皇五年（585），改襄贲县为涟水县，因境内有涟河而得名，涟水之名始见。大业三年（607），改州为郡，涟水属东海郡。

唐初，改郡为州，武德四年（621），置涟州，在县境北15千米分置金城县（城址在现红窑金城村），州治涟水城，辖涟水、金城二县。贞观元年（627）废涟州，并省金城县，以涟水县属泗州。总章元年（668）改属楚州，咸亨五年（674）还属泗州。乾宁二年（895），杨行密袭取滨淮诸州，涟水属杨吴，后属南唐。后周显德四年（957），涟水属后周。

宋初，涟水县属泗州，太平兴国三年（978），置涟水军，属淮南东路；熙宁五年（1072）废，仍为涟水县，隶淮南东路楚州；元祐二年（1087），复为军。南宋时，涟水成为宋、金相争要地，时而属宋，时而属金。景定三年（1262），涟水军改为安东州。

元至元十二年（1275），安东州归附元，改立涟州，旋复称安东州，二十七年归山东路，二十九年改隶淮安路。

明洪武二年（1369），降安东州为安东县，属淮安府。

清因明制，仍称安东县，属淮安府。

民国3年（1914）1月，废府存道，因与奉天省安东县同名，复称涟水县，属淮扬道。民国16年废道，由省直接管辖。民国22年，江苏实行行政督察专员制，全省分13个区，涟水属十一区（淮阴区），此后，全省行政督察区多次变更调整，涟水先后属第八区、第七区、第六区、第七区，除第八区为东海区外，余属伪江苏省公署徐州办事处、伪苏北行政专员公署、伪淮海省淮阴督察区。

民国29年8月，中国共产党领导下的涟水县抗日民主政府成立。是年10月，成立河东办事处（亦称河东行署、涟东行署），辖原涟水县盐河以东的四区、六区和七区。民国30年1月，河东办事处与涟灌阜办事处合并成立涟东县，划归盐阜区。是年5月撤淮阴、涟水两县建制，成立淮涟办事处，12月撤销，恢复涟水县建制，属淮海区。

1950年6月，涟水、涟东两县合并为涟水县，属淮阴专区。1970年，淮阴专区改为淮阴地区，涟水隶属淮阴地区。1983年1月，江苏省实行市管县体制，涟水县隶属淮阴市。2001年1月，淮阴市更名为淮安市，涟水县隶属淮安市。