日本1945年战败投降后，军队被解散，军事机构被撤消。1950年朝鲜战争爆发后，美国基于其自身需要指令日本1952年成立“海上警备队”，并提供军备支援。1954年新建防卫厅，将海上警备队改称为海上自卫队。由于日本不能拥有军队，而且采取专守防卫的立场，因此并不配备大型战舰、航空母舰以及核动力潜艇。其主要任务是防卫日本领海，以“质重于量”为建军方针。
冷战后日本海上自卫队的作用可以用“烈度轴”、“时间轴”和“地域轴”等三个坐标轴来表示，它们分别代表“从参加国际紧急援助活动到日本发生有事事态”、“从平时到有事”和“从日本周边到印度洋”。海上自卫队的作用在这三方面都取得了切实的发展。今后海上自卫队的舰艇将要处理各种各样的事态，这就要求进一步提高舰艇的“多用途性”、“机动性”和“续航性”。日本海上自卫队开始参与联合国维和行动，此一类似向海外派兵的行动引起极大的争议。目前兵力约44000人左右，拥有各式舰艇152艘。
根据太平洋战争的经验，海上自卫队非常重视反潜与扫雷闻名，训练也集中在这两项，这两项是日本海上自卫队的长处。弱点则是上述武器面对空中武力显得脆弱，必须依赖航空自卫队，而航空自卫队的主要任务是防卫日本岛屿。
作战指导思想
作战指导思想由消极的“专守防御”转向积极的“攻势防御”
根据日本和平宪法的精神，日本战后的安全战略一直是以“专守防卫”为核心，其类型是一种被动式防御。冷战后，日本海上自卫队不断对其作战思想进行调整，上世纪90年代，日本确立了“广域防卫，洋上歼敌”的积极防御思想，并实施预先前置的防卫战略，以“遏制事态发生”或“早日排除事态”。到2001年，其防卫白皮书甚至公开宣称，一旦国家战略需要，日本将“对他国发动先发制人的打击”。同时大力发展先发制人的作战力量，加快了进攻性武器的发展。目前，日本海上自卫队早已超出自身防卫的需要，已经具备了全球攻防的能力。
正是在远洋积极防御作战思想的指导下，从21世纪开始，为应对“新型威胁”，日本海上自卫队加快了其远洋机动作战力量的建设，在装备发展上，不断推动其舰艇装备向大型化、导弹化、远洋化发展，重点发展海基导弹防御系统和具有远洋作战能力的“准航母”大型水面舰艇，并注重加强海上巡逻装备的建设。 日本军事装备建设向来注重质量，在装备发展上注重谋求技术优势，在本国雄厚的经济实力支持下，海上自卫队的装备已经跻身世界海军装备强国之列，反潜、扫雷和常规潜艇等装备处于世界先进水平。然而，日本并没有满足现状，近年来，海上自卫队更加重视信息战装备的发展，信息战能力不断提高，并开始了新一轮造舰计划。
同时，日本并没有放弃长期以来拥有真正航母的努力。日本是世界上较早研发航母的国家之一。1922年，日本建造的“凤翔号”被认为是世界上第一艘标准的航母。二战期间，日本建造了20多艘航母，一度横行海上，成为其野心高度膨胀的催化剂。
