Действительную службу начал в рядах Псковского карабинерного полка[16] в 1776, в 1778 был произведён в корнеты, и только через восемь лет — в следующий офицерский чин — поручика. Незнатное происхождение Барклая сказалось в его продвижении по службе, ему понадобилось более двадцати лет, чтобы достигнуть чина полковника. В 1786 г. переведён в Финляндский егерский корпус
В 1788 — назначен генеральс-адьютантом к генерал-поручику принцу Ангальт-Бернбургскому с производством в капитаны. Участвовал в русско-турецкой войне 1787—1791; в 1788 принимал участие в штурме Очакова, а в 1789 — в битве под Каушанами, при взятии Аккермана и Бендер).
В 1790 году переведён в финляндскую армию, в рядах которой участвовал в русско-шведской войне 1788—1790. По окончании шведской войны переведён в Санкт-Петербургский гренадёрский полк. Участвовал в военных действиях 1794 г. c польскими повстанцами и за особые отличия, оказанные при взятии штурмом укреплений г. Вильно и при разгроме отряда Грабовского близ Гродно, награждён орденом
Св. Георгия 4 степени Произведённый затем в подполковники с переводом в Эстляндский егерский корпус, он был назначен командиром 1-го батальона, переименованного при воцарении Павла I в 4-й егерский полк. В 1798, уже в чине полковника, назначен шефом этого полка, за отличное состояние которого в 1799 г. произведён в генерал-майоры.
Барклай де-Толли участвовал в Аустерлицком сражении (1805 г.) В войне с Наполеоном 1806—07 командовал дивизией (с 1807), отличился в сражении при Прeйсиш-Эйлау. Командуя арьергардом при отступлении российской армии к Ландсбергу и Прейсиш-Эйлау, дал возможность Беннигсену сосредоточиться на позиции у этого города, выдерживая у Гофа напор почти всей армии Наполеона. В сражении был ранен в правую руку с переломом кости и принуждён был удалиться из армии, получив, кроме других наград, чин генерал-лейтенанта.
В русско-шведской войне 1808—09 русские войска под командованием Барклая совершили переход через пролив Кваркен в зимнее время, чем заставили шведов вступить в переговоры и уступить Финляндию Российской империи. Михаил Богданович был произведён в марте 1809 г. в генералы-от-инфантерии и назначен главнокомандующим финляндской армии, генерал-губернатором новоприобретенной Финляндии; а при заключении мира награждён орденом Св. Александра Невского. В 1809 г. в Российской императорской армии насчитывался 61 генерал-лейтенант. В этом списке Барклай-де-Толли занимал 47-е место по старшинству производства. Когда государь пожаловал его в генералы от инфантерии, обойдёнными оказались 46 человек. Все они сочли себя незаслуженно обиженными, и тогда в высших армейских кругах начали возмущённо обсуждать «выскочку» Барклая, а некоторые даже в знак протеста подали прошение об отставке. До января 1810 г. Барклай оставался главнокомандующим русской армией в Финляндии.
С 20 января 1810 по сентябрь 1812 — военный министр. Провёл большую работу по усилению армии. Руководил изданием «Учреждения для управления большой действующей армией», в котором определялись права и обязанности высших начальников и штат полевого штаба. Ввёл корпусную организацию войск и новые воинские уставы, добился усовершенствований в боевой подготовке и довольствии войск, увеличения численности армии и строительства новых крепостей
