Base dell'esercito era la legione (legio). L'etimologia del termine rimanda al verbo legere (raccogliere, scegliere): "legione" designava, in origine, il "contingente scelto", perché costituito da cittadini romani a pieno titolo che venivano reclutati nell'esercito ed eventualmente richiamati. Tutti i cives a partire dai 17 anni, età in cui si diventava maggiorenni, potevano essere arruolati se avevano i mezzi per procurarsi a proprie spese l'armatura. Le classi meno abbienti, i proletarii, originariamente ne restavano escluse. I soldati-cittadini, quindi, combattevano nella consapevolezza di difendersi o di salvaguardare i propri interessi. Ciò perdurò sino alla riforma dell'esercito operata da Gaio Mario nel 107 a.C. In conseguenza della crisi demografica e della difficoltà di arruolare soldati, Mario trasformò l'esercito di leva in un esercito di volontari: anche proletarii e provinciali furono quindi reclutati, armati e pagati dallo stato. L'esercito divenne così una milizia di professionisti che vedevano nella guerra il principale mezzo di sostentamento. In questo modo, inoltre, la nobilitas senatoria, interessata ad ampliare i territori di Roma, legava ulteriormente a sé i nullatenenti in una comunanza di interessi economici. Si ebbe un'altra conseguenza, importantissima nella storia di Roma, e per l'esito delle guerre civili: da questo momento, i soldati si sentirono profondamente vincolati al loro comandante, tanto da formare una sorta di esercito personale, come quello di Cesare in Gallia e nella guerra civile contro Pompeo, o ancora quello di Ottaviano, che dovette ai veterani ereditati da Cesare la sua vittoria su Marco Antonio.

In età arcaica, la legione era una sola e costituita da 3000 fanti e 300 cavalieri. Essa combatteva schierata in falange come gli eserciti greci. La legione si disponeva, sul campo di battaglia, su tre file. Dall'esterno costituivano un elemento di disturbo i veliti (velites), che, armati alla leggera, dovevano creare scompiglio tra i nemici. In prima linea stavano i principes (lett. i primi), uomini di maggiore esperienza e migliore armamento. Ben presto, però, in prima fila furono schierati i guerrieri più giovani, muniti inizialmente di lancia (hasta) e in seguito di giavellotto (pilum), chiamati astati (hastati). Essi avevano il compito di sostenere il primo urto con il nemico. I principes furono posti in seconda linea. In terza fila c'era il nerbo della legione, i triarii (triarii), veterani che intervenivano nelle situazioni più difficili.

In età repubblicana, le legioni furono portate a due e comandate dai due consoli (consules) che avevano il massimo potere militare (imperium) o, in subordine, dai pretori (praetores). I capi dell'esercito romano non erano, quindi, militari di professione, ma magistrati; in quanto tali, lasciavano l'esercito alla fine del loro mandato. Le legioni furono portate a quattro verso la fine del IV sec. a.C. e il loro numero aumentò ulteriormente in futuro. Augusto le fissò a 28. Lo schieramento a falange fu invece eliminato all'epoca delle guerre sannitiche e contro Pirro. Le difficoltà crescenti della guerra costrinsero infatti i Romani a cambiare radicalmente modo di combattere. Venne potenziata la cavalleria, che agiva ai fianchi della legione; fu migliorato l'armamento (il pilum sostituì la lunga hasta; lo scutum, lo scudo lungo sostituì quello rotondo alla greca, clipeum). Soprattutto, venne riformata la legione, che fu divisa in manipoli. Il nuovo schieramento assicurava maggiore velocità di movimento, flessibilità e ricambio in battaglia. Infatti, nel vecchio ordinamento, se una parte della falange veniva sconfitta, era compromesso tutto l'esito della battaglia; invece nel caso di sconfitta di un manipolo, gli altri manipoli potevano continuare la lotta senza che l'esercito ne risentisse particolarmente. I manipoli erano infatti disposti a scacchiera, elemento che favoriva le manovre di avanzamento e di ritiro sul campo di battaglia. La riforma dell'esercito di Mario introdusse un ulteriore cambiamento: i soldati furono armati ed equipaggiati allo stesso modo, cioè con armi pesanti. La vecchia distinzione tra hastati, principes, triarii e velites perse significato. La legione fu divisa in dieci coorti, comprendente ciascuna tre manipoli, ciascuno dei quali formato da 200 uomini. Con la riforma dell'esercito di Mario, anche l'addestramento fu migliorato: venne abbreviato il tempo delle marce e migliorata la resistenza fisica dei soldati che, oltre che combattere, durante gli spostamenti dovevano trasportare a spalla parte del materiale necessario per costruire l'accampamento.