国や時代によって少し違ってくるけど、
少なくとも旧日本軍は大体はこんな感じ。

水木しげる先生による日本の軍隊の階級一覧表