Le système militaire byzantin commença à se développer à une époque marquée par une série de conjonctures, comme le déplacement de la capitale impériale romaine par l’empereur Constantin 1er en 330, la division en deux parties de l’empire en 376 et la chute de la partie ouest de ce même empire un siècle plus tard. Étant un « descendant direct » de l’Empire romain, le système militaire du début de l’Empire byzantin s’inspira grandement de précédents, voire de réformes mises en branle sous les règnes des derniers empereurs tels Dioclétien et Constantin.

Parmi ces réformes, on observe l’établissement de puissantes frontières fortifiées défendues par des troupes professionnelles bien équipées et ravitaillées, le tout financé à même le trésor public. Initialement, les légions, les forces auxiliaires et les cohortes continuèrent d’exister à titre d’unités militaires, bien qu’à partir du VIe siècle, les termes génériques pour ces unités furent ceux de numerus (en latin) et arithmos ou tagma (en grec), qui signifient simplement « nombre » ou « unité » de soldats. Toujours au VIe siècle, on note également que la stratégie et les tactiques byzantines commencèrent à changer, surtout à la suite de désastres militaires subis devant les Ostrogoths, les Visigoths, les Huns, les Perses et, peut-être plus important encore à partir du milieu du VIIe siècle, les Arabes.

Les réformes visèrent donc l’optimisation de l’efficacité militaire des unités aux frontières, notamment par la création des kaballarika themata, soient des armées de cavalerie légère capables d’exécuter des missions d’embuscades et autres opérations s’apparentant à la guérilla, pour employer une expression relativement plus moderne. Quant à l’infanterie, celle-ci ne disparut évidemment pas, mais elle fut moins valorisée qu’au temps de l’Empire romain. Cette infanterie dut adapter ses tactiques afin de faire face à la montée en puissance de la cavalerie, en particulier face à celle des envahisseurs arabes. Au niveau provincial, les armées byzantines furent réorganisées en unités nommées tourmai, drouggoi et banda, des termes génériques faisant allusion à la taille de ces formations. Chaque tourma était affectée dans une forteresse ou dans une ville fortifiée et elle était commandée par un administrateur militaire local, souvent l’officier le plus haut gradé dans la place.

Avec le déclin des campagnes militaires islamiques au Xe siècle, l’armée byzantine adopta une nouvelle doctrine davantage axée sur l’offensive que la défensive. Pour ce faire, il fallut recruter plus de soldats pour en faire des combattants professionnels, tout en prenant soin de former davantage d’unités de cavalerie et d’infanterie lourdes équipées d’une plus grande variété d’armes. À cela, les armées étaient entraînées afin de pouvoir livrer bataille après de longues marches, tout comme elles devaient servir de forces de garnison lorsque nécessaire.

Ce fut également au cours de cette période que plusieurs manuels militaires furent rédigés. Ceux-ci mettaient tous l’emphase sur l’entraînement, la discipline et les tactiques sur les champs de bataille. Lors d’affrontements, les Byzantins virent à ce que la cavalerie et l’infanterie fussent employées équitablement, de manière à pouvoir s’appuyer mutuellement selon les manœuvres à exécuter. La plus importante de toutes ces innovations fut probablement le développement d’une unité de cavalerie lourde nommée la kataphraktoi (ou klibanophoroi), dont les combattants disposèrent d’armures des pieds à la tête, ainsi que leurs montures. L’utilité d’une telle unité sur les champs de bataille consista à former une pointe afin de percer n’importe quelle formation défensive ennemie. Dans l’ensemble, ces innovations furent profitables à l’Empire byzantin. Elles leur permirent de remporter plusieurs engagements militaires importants, du moins jusqu’à la bataille de Manzikert en 1071. Cette défaite face aux Turcs seldjoukides amorça une période de déclin militaire dans l’Empire byzantin, ce qui mena éventuellement à la capture de Constantinople par les chrétiens de la IVe Croisade en 1204.

Avec la reprise de Constantinople par les armées byzantines en 1261, une nécessaire réorganisation militaire s’ensuivit. Cependant, l’occupation latine de la capitale et sa reconquête finirent par saper les ressources militaires byzantines, en même temps que les frontières géographiques impériales s’étaient dangereusement rétrécies, notamment en Asie Mineure et en Grèce. De plus, malgré les efforts afin de reconstituer une armée professionnelle, le gouvernement byzantin devint de plus en plus dépendant des services de mercenaires étrangers. L’armée de métier put encore profiter, de manière toute relative selon les époques, de l’appui de milices provinciales. Par contre, à mesure que les menaces externes se précisèrent autour de l’empire et que les coffres publics se vidèrent, force fut de constater qu’il y eut de moins en moins de mercenaires pour servir, ce qui contraignit les milices en provinces à défendre leur propre territoire contre les envahisseurs. Leur efficacité demeura donc limitée.

De toute manière, l’Empire byzantin tirait à sa fin. Les nombreuses réformes militaires visant à adapter l’armée aux nouvelles donnes stratégiques et tactiques ne purent assurer à terme la survie de l’empire. En peu de temps, les Serbes parvinrent à conquérir la Macédoine, comme des aventuriers francs étaient parvenus à occuper la Grèce. En fin de compte, l’armée byzantine connut sa fin avec le siège de Constantinople par les Turcs. Ayant vécu leur montée en puissance à l’intérieur même de l’Empire byzantin, les Turcs dirigés par le sultan Mehmed II capturèrent Constantinople en 1453, ce qui mit fin à l’empire et à son armée.