淮阴是一个非常古老的地方，早在旧石器时代，这里就有人类居住。先秦时期，淮阴是徐文化的中心地域，地处淮河(古淮河自南而来，今杨庄以东废黄河是其入海通道)南岸，旧以山之北、水之南为阴，因此名为淮阴。
据《禹贡》记载，夏代，淮阴以淮河为界，分属徐、扬二州之域。商周史籍称为东夷、淮夷之地。
春秋末，属吴。吴被灭后属越。周贞定王二十四年（前445年），楚国屡侵泗水流域，淮阴归属时越时楚，后来终属楚。
秦王政二十四年(前223年)秦灭楚，始设淮阴县，属泗水郡（一说属东海郡，也称郯郡），淮阴县治所设在今楚州区。西汉初，分出淮阴县西南地域置富陵县（今洪泽湖内和洪泽、盱眙的部分地区)。
高祖六年（前201年），封韩信为淮阴侯，淮阴为其封邑。十一年，韩信被杀，淮阴侯国取消，仍称淮阴县。武帝元狩六年（前117年），置临淮郡，淮阴、富陵为其属县。
王莽篡汉，改淮阴为嘉信，并改临淮郡为淮平郡。
东汉初并临淮郡入东海郡，淮阴县属之，且撤富陵县，其地入淮阴县，永平十五年(72年)分临淮郡故地立下邳国。
建安十一年(206年)，下邳国名废除，仍为临淮郡，淮阴属之。
三国时属魏，魏承汉制，没有变更。
晋武帝初，仍属临淮郡。
太康三年，移广陵郡治于淮阴，至晋元帝渡江，广陵郡移去，其间共三十四年。
东晋以征北、镇北将军，青兖二州刺史或徐州刺史镇淮阴，淮阴遂为重镇。
永和八年(352年)，荀羡以北中郎将徐州刺史镇守淮阴。他认为淮阴旧镇“地形都要，水陆交通，易以观衅，沃野有开殖之利，方舟运漕”，却“无地屯兵”，因而在秦汉故城(即甘罗城)之南一里许，营造新的城池(后来的淮阴故城，今码头镇附近)，自此淮阴为南朝国防要地。
石闵率领十万精锐之师赶到了淮阴，可是他连淮阴的城头都没有见到，眼前的这条淮河天堑，就足以让他望而兴叹！
庾翼是下令淮阴和寿春的晋军坚壁清野是没错，但是这淮河也是可以依仗的有利地形，所以曹据专门在淮河的南岸建造了一座巨大的营寨，只不过赵军来得太快了，几日的时间，营寨只是完成了一个大概，实质上防守能力是很差的。
绕是如此，想要在晋军的阻击之下强渡淮河，谈何容易？
“大王，末将愿率部渡河！”李信第一个站出来表态。
“大王，末将也愿往！”在场的将领各个都摩拳擦掌，跃跃欲试。
石闵却是摇摇头道：“淮河险阻，没有坚固的战船无以渡河。传令下去，就地扎营！一切等到咱们的战船抵达淮阴再说！”
“诺！”
军令已下，无可更改。
赵军随即就在淮河的边上扎营下来。
石闵果真是一个深谋远虑的人，不打无准备的仗。这不，他早就知道南方水网密布，战船的作用远远大于战马，所以石闵一早就让人抽调了北方所有的战船和水师，就准备大干一场了。
建康，显阳宫。
夜已深。
已经躺在了床榻上，一病不起的司马岳在接到庾翼的奏报之后，随即找来了自己的五个顾命大臣，庾冰与中书令何充、武陵王司马曦、会稽王司马昱和尚书令诸葛恢。
司马岳躺在病床上，声若游丝地道：“诸卿，赵军果真南下犯我疆界，眼下石闵携精锐之师十万人南下，已经在淮阴一线与我晋军对峙。然则庾翼唯恐兵力不足，请求增派兵马，诸卿以为如何？”
庾冰还没说话，中书令何充却是说道：“陛下，臣以为赵军势力强大，而且风头正劲，不宜正面硬抗。淮阴、寿春都有淮河天堑，而且城高池深，料想赵军攻不破寿春和淮阴两地。所以不必加派兵力，庾翼将军只需要运筹得当，御敌于国门之外不是难事。”
司马岳微微颔首。
一向主张北伐的庾冰不禁皱着眉头道：“陛下，臣以为何充大人所言不妥。天下无不破之坚城壁垒，再坚固的城池关隘也有被攻破的一天！眼下赵军以十万兵众犯我，严防死守固然能有一时的效果，但是石闵如果真是铁了心要伐晋，淮南迟早不保，而一旦淮南失守，我建康就会暴露在敌军的兵锋之下啊！”
庾冰主张增兵，而何充则是持反对意见，不主张增派兵力。
何充又道：“庾冰大人，淮南固然重要，但是有庾翼将军的数万兵众已经是绰绰有余的。眼下朝廷的兵力虽然还有不少，但还需要拱卫各地，一时之间也无法调集。根据我得到的可靠消息，赵人已经秘密联络了成汉的李势，要求成国出兵犯我疆界！眼下我晋国能抽调的兵力，只有梁州和东川的三四万人，但是一旦调走了这些驻军，李势未必不敢出兵南下啊！”
“何充大人说的没错。”会稽王司马昱颔首道，“赵军也曾几度伐我大晋，但都无功而返，盖因我将士悍勇，城池坚固，水网密布，地形险峻所致！所以说石闵的这次南征我想也会差不多，调兵遣将的事情不必急于一时啊。”
闻言，司马岳也是赞同地点了点头：“庾翼的能力朕是信得过的。石闵的统兵打仗的能力虽然十分出色，有赵国战神之称号，但是朕相信庾翼和桓温不比他石闵差多少！只要牢牢守住寿春和淮阴，任凭赵军再强，任凭他石闵分能力再强，朕就不信了！他赵军还真能打破我晋国的淮河防线！”
对于庾翼和桓温，司马岳确实是十分信任的。
桓温且不说，在统军作战上，庾翼也表现得格外的出色。
庾翼外表风仪秀伟，年轻时便有经世大略。
苏峻之乱时庾翼以白衣身份守备石头城，又随庾亮逃奔温峤。
事后，受太尉陶侃征辟，历任参军、从事中郎，后任振威将军、鄱阳太守，转任建威将军、西阳太守。庾亮准备北伐时，任命庾翼为南蛮校尉、南郡太守等职，镇守江陵，以协助保卫石城之功，封都亭侯。
庾亮逝世后，朝廷任命庾翼为都督江、荆、司、雍、梁、益六州诸军事，安西将军、荆州刺史，假节，接替庾亮镇守武昌。
当时人怀疑庾翼年轻，不能继承他兄长庾亮的业绩。
但庾翼尽心治理，军务和政务都很严明，数年之间，官府和私人资用充实，众人都称赞他的才能。后赵黄河以南领地的人民都有归附之心。