该词来源于意大利语"班长"。1647年俄军条令《步兵习武概则与谋略》中，首次出现俄文的这一称号，在 1722年的《官级表》中，被列为官级第十七级。下士在德文中由"旗帜"和"贵族子弟"两词组合而成。过去的贵族为把自己的子弟培养为军官，从小就把他们送入军营。由于他们出身于豪门，在军队中被授予一种特殊的权利，就是掌旗，因此称他们为"掌旗的贵族子弟"。1806年普鲁士军队被拿破仑打败后，废除了这一称呼，1899年威廉二世重新将其作为军士军衔中的一级称号。
世界上绝大多数国家都设有此衔，有的国家还将下士区分为若干级，如奥地利和智利分为两级，波兰分为三级。
1905年12月经清政府批准，陆军军官开始按新官制评定等级，从而形成了我国最早的军衔等级。1909年11月，军咨处奏请朝廷设立军士衔三级，即上士、中士、下士。
1912年，临时政府沿用晚清军衔制，并做了一些调整，其中军士原分为两级:一等目兵、二等目兵。不久之后，又对军衔等级和称谓做了修改，军士改为三级:上士、中士、下士。
根据《深化士官制度改革方案》规定:
"各衔级士官按照授予军衔级别佩带相应的军衔标志。其中，下士、中士、上士、四级军士长、三级军士长、二级军士长对应佩带原一级士官至六级士官的军衔标志。"故，"09式"下士肩章同"07式"一级士官肩章。
陆军下士的主要标识为，松枝绿色肩章底版上，缀有金色半环绕麦穗的交叉步枪和一条细折杠。
海军下士的主要标识为，深藏青色肩章底版上，
缀有金色半环绕麦穗的交叉步枪和一条细折杠。
空军下士的主要标识为，深蓝灰色肩章底版上，缀有金色半环绕麦穗的交叉步枪和一条细折杠。
武警下士的主要标识为，红色肩章底版上，缀有金色半环绕麦穗的交叉步枪和一条细折杠。