該詞源自古斯拉夫文“旗”，1649年俄國軍隊首次稱旗手為準尉。旗手通常是從最勇敢、最健壯、經過戰斗考驗的軍人中挑選任命的。彼得一世建立正規軍時，于1712年正式設立了準尉軍銜，作為步兵和騎兵中的最低官銜。在 1722年的《官級表》中，將準尉分為兩個等級，“下級準尉”列入軍士的等級，準尉列入尉官行列。

　　準尉是一個特殊的等級，準尉制度在國際上很不統一，表現在以下三個方面：一是有的國家設置，有的國家不設，兩者的比例大體是 4：6；二是設置準尉的國家，對準尉的地位規定不一，有的列入尉官等次，有的列入軍士級別，有的則將其列為軍官與軍士之間的一個非官非士的獨立等級；三是對準尉有的國家分級，有的國家不分，分級者所分數量多少不一，阿爾及利亞分兩級，印度分三級，美國分四級，玻利維亞分五級，原捷克斯洛伐克分六級。

　　軍銜傳人中國后，清朝政府規定設準尉銜，稱之為“額外軍官”；辛亥革命后，中華民國歷屆政府也規定設置該銜，孫中山南京臨時政府沿用清朝名稱，北洋政府改稱“準尉官”，國民政府稱“準尉”和“準佐”，明文規定“不列入官等”。中國人民解放軍50年代一60年代首次實行軍銜制期間，立法文件沒有規定設置準尉，但實際上授有準尉軍銜，全軍最多時擁有十一萬余人。當時準尉為副排級人員，算干部但不算軍官，在軍隊內部稱之為“預備軍官”。1988年人民解放軍重新實行軍銜制，準尉沒有列入軍銜等級體系，五六十年代由準尉擔任的工作分別由少尉、軍士長或文職人員擔任。