Markó Árpád 1885. október 12-én született a felvidéki Rozsnyón egy hívő, evangélikus családba. Édesapja Markó Sándor a város jogásza és közjegyzője volt. Markó Árpád elemi iskoláit Rozsnyón végezte az evangélikus főgimnáziumban. A kiváló rozsnyói oktatási intézményben a fiatal Markó a nyelvek iránt is komoly érdeklődést mutatott. A latin és görög mellett németül, valamint franciául tanult. A nyelvek mellett azonban a katonai pálya is érdekelte, ezért apja tanácsára a bécsújhelyi katonai akadémiára jelentkezett, ahol 1903 októberében kezdte meg tanulmányait.

Az Osztrák-Magyar Monarchia legrangosabb katonai akadémiáját elvégző Markót, 1908-ban, császári és királyi hadnaggyá avatták. Innen katonai pályafutásának első állomáshelyére, Kassára került, ahol a 34. gyalogezredben kezdte meg szolgálatát. Kassai szolgálati ideje alatt folyamatosan képezte magát, így a 13. komáromi utászzászlóaljnál műszaki kiképzésen is részt vett. A fiatal hadnagy 1912-ben feleségül vette Sárkány Ilonát, a komáromi rendőrfőkapitány lányát.

Az első világháború őt is a frontra szólította: csapattiszti szolgálatot teljesítve, előbb főhadnagyként, majd századosként volt jelen a hadszíntéren. A harcok alatt kétszer is megsebesült. A világégés utáni trianoni békeszerződés értelmében életének két fontos települése - szülővárosa Rozsnyó és lakhelye Kassa – egy idegen ország fennhatósága alá került. A frontról hazatérő bajtársaival együtt részt vett egy irredenta szervezkedésben. Itt betöltött szerepe miatt, el kellett hagynia életének addigi állomásait és az anyaország területére szökött feleségével, ahol csatlakozott a Nemzeti Hadsereghez, tisztként.

1921-ben, egy év szolgálat után a Hadtörténelmi Levéltárba került, ahol – nyugállományba helyezéséig - közel két évtizedig dolgozott, mint őr és központi titkár. Markó a levéltárban kezdett el komolyan foglalkozni hadtudományi és hadtörténelmi témákkal. Időközben történelemszakos diplomáját is megszerezte a Pázmány Péter Tudományegyetemen, mint önkéntes hallgató. Tanulmányai megjelentek a Magyar Katonai Közlönyben, a Magyar Katonai Szemlében, valamint a Magyar Szemle és a Századok is közölte írásait. Tudományos pályája során sokat foglalkozott Zrínyi Miklóssal, de fő témája a kuruc kor és a II. Rákóczi Ferenc vezette szabadságharc volt. Hadtudományi munkáiban írt Kossuth Lajos szerepéről, foglalkozott Hadik András életútjával, de a magyar katonai nyelv fejlődéstörténetéről is értekezett a hadászati szaklapok oldalain. Tudományos munkásságát 1934-ben a legmagasabb szakmai szinten is elismerték: a Magyar Tudományos Akadémia levelező tagjává választották, székfoglalójában a liptói kuruc hadjáratról tartott előadást. A katonai pályát sem hagyta maga mögött, 1938-ban ezredesi rangra emelték. 1941-ben vonult nyugállományba, így a második világháborúban már nem vett részt.

Feleségével kétlaki életet folytattak, az év egyik részét a fővárosban, krisztinavárosi otthonukban töltötték a másikat pedig Dénesházán. A Budapest alá érő front, azonban menekülésre kényszerítette őket. Ausztriába érve amerikai hadifogságba estek és az altausseei táborban lettek elhelyezve. 1945-ben tértek haza az elpusztult fővárosba. A háború vihara fővárosi és vidéki otthonukat is elsodorta, ráadásul az ekkor már hatvanéves Markó megözvegyült. Feleségét egy súlyos betegség ragadta el mellőle.

A kiépülő kommunista diktatúrában – sokakkal egyetemben – ő sem találta a helyét. Az előző korszakban betöltött szerepe miatt 1949-ben visszaminősítették az Akadémián is: levelező tagból, tanácskozó tagnak. Ekkor már egy éve Budapesten, rokonainál élt szerény körülmények között. A rendszer a katonai pályán is „utána nyúlt”: megvonták tőle az ezredesi nyugdíjat. Unokaöccse, - az evangélikus lelkész Sztehlo Gábor - vette pártfogásába és tőle kapott egy szobát egy evangélikus szeretetintézmény otthonában. A komoly publikációval rendelkező és elismert tudományos pályát befutó Markót, azonban a rendszer sem tudta teljesen mellőzni. Hadtudományi és hadtörténelmi munkái olyan szinten voltak meghatározóak, hogy 1953-ban a történettudományok kandidátusi címét kapta meg. Újra lehetősége nyílt publikálni a Hadtörténelmi Közlönyben és 1965-ben megvédte nagydoktori címét is.

1966. szeptember 17-én hunyt el, hamvait felesége birtokán, Rábapatonán helyezték örök nyugalomra.