В сентябре 1774 года записан фульером Семеновского полка. Действительная же военная служба Коновницына началась в январе 1785 в чине подпрапорщика. Через 3 года молодой Коновницын приниает участие в русско-шведской войне, а 1791 году при содействии отца – петербургского губернатора – получает назначение в действующую армию, адъютантом князя Потемкина. В боевых действиях, правда, поучаствовать не успел.
В Яссах Петр Петрович впервые познакомился с Кутузовым.

После победного окончания войны с турками Коновницын получает чин подполковника и назначение командовать Старооскольским мушкетерским полком. В этом качестве участвовал в боевых действиях в Польше против Барской Конфедерации. За отличия в боях Коновницын был отмечен орденом св. Георгия 4-й степени и повышением до полковника. К тому моменту Петру Петровичу исполнилось 30 лет.

После того как на престол взошел император Павел случилась довольно типичная для времени его царствования ситуация: Коновницына повышают до генерал-майора, назначают сначала шефом Киевского гренадерского, позже Угличского мушкетерского полка, а затем, в 1798 году, отправляют в отставку. Следующие 8 лет Петр Петрович проводит в своем имении Киярово Петербургской губернии, где не тратит времени даром, занимаясь науками и много читая.

К началу войн Четвертой коалиции (1806) Петр Коновницын возвращается в Петербург и, вскоре, с одобрения Александра I, избирается на должность начальника земского ополчения. В этом качестве принимает активное участие в формирование и отправке войск в Европу. Под руководством Петра Петровича было подготовлено 4-батальона.

Меньше чем через год, в 1807 году, император переводит Коновницына в свою свиту. Еще через год, в 1808, он вновь назначен в действующую армию дежурным генералом, под командование генерала Буксгевдена. Несмотря на то, что должность носила преимущественно административный характер – дежурный генерал ведал снабжением и обеспечением армии – Коновницын не упускал возможности поучаствовать в боях. Так, он отличился при штурме Свеаборга – важной базы гребного флота шведов. За это, а так же за ряд других сражений, в том числе за взятие Свартгольма, в 1808 году получает повышение до генерал-лейтенанта.

Прославился в этой войне Коновницын и как командующий флотом. В том же 1808 году под его командованием было отбито нападение на мыс Рунсало.
В 1809 году от действий Петра Петровича, командовавшего 3-й пехотной дивизией, пострадал шведский десант у местечка Абу. Эта операция была отмечена орденом св. Георгия 3-й степени. После заключения Тильзитского мирного договора и присоединения России к континентальной блокаде, дивизия Коновницына участвует в охране побережья Балтийского моря. В этот период дивизия входит в число лучших по боевой подготовке.

Начало войны с Наполеоном 3-я пехотная дивизия встречает в составе 1-й армии Барклая-де-Толли. На подразделение Коновницына ложится тяжелая задача прикрывать отступление 1-й армии. Первый бой с французами состоится 14 июля под Островно. Свежая дивизия Коновницына сменит потрёпанный корпус графа Остермана-Толстого.

Под селом, с трудно произносимым названием Какуявчино, 3-я пехотная дивизия успешно сдерживает войска Мюрата и Евгения Богарнэ, давая возможность спокойно отойти 1-й Западной армии. В совокупности, действия Коновницына в самом начале войны на сутки задержали наступление Великой армии на Витебск.

В упорном сражении за Смоленск Петру Петровичу был доверен один из самых сложных и опасных участков – Малаховские ворота. Коновницын был ранен, но боя не покинул. Чуть позже вместе с генералом Ермоловым защищал Валутину гору, прикрывая отход армии.

С 29 августа Коновницын назначен командовать арьергардом объединенных армий. Ежедневные бои с конницей Мюрата заставили французов в полной мере оценить мастерство Коновницына–полководца. Генерал Сегюр, цитируя маршала Даву, говорил о том, что русские отступают в удивительном порядке, занимая лучшие стратегические позиции, и защищают их столько, сколько требуется, движение их определяется не действиями Мюрата, но исключительно местностью.

1 сентября 13-часовой бой под Гжатском против авангарда французских войск, выдержанный солдатами Коновницына, дал русской армии достаточное количество времени для того, чтобы максимально организовано отступить к Бородино.

В самом кровопролитном сражении Отечественной войны дивизия Коновницына занимала позицию у старой Смоленской дороги, до того момента как выяснилось главное направление удара Наполеона. В 10 часов утра 3-я пехотная дивизия подошла к главным позициям 2-й армии и, увидев, что флеши у Семеновской заняты французами, Коновницын ударом в штыки возвращает укрепления.

После ранения Багратиона Петр Петрович временно принимает командование над 2-й армией и отводит её на позицию за Семеновским оврагом: примерно на 300-400 метров от флешей. Там Коновницын, использую преимущества местности, организует прочную оборону. Прибывший, по приказу Кутузова, Дохтуров принимает командования над 2-й армией и высоко оценивает действия Коновницына. При защите позиций Петр Петрович был дважды ранен, мундир был разорван осколками снаряда, но поля сражения он не покинул.

После Бородино Коновницын назначен командиром 3-го пехотного корпуса, которым командовал генерал Тучков – в сражении он был смертельно ранен.
На совете в Филях Коновницын высказывался за ещё одно генеральное сражение. Однако совет, возглавляемый Кутузовым, решил иначе.

Оставление Москвы произвело тяжелое впечатление на офицеров и армию, кроме того, потери при Бородино, которые оцениваются в 40 тыс. солдат и офицеров, не могли не привести к частичной дезорганизации армии. Вооруженные силы были в то время, фактически, главным социальным лифтом, и представляла собой клубок интриг.

В такой ситуации главнокомандующему требовался талантливый и честный администратор, чуждый интриганству и подсиживанию. Учитывая все это – лучшего кандидата, чем Коновницын должность дежурного генерала во всей армии просто не было. У Петра Петровича бы огромный опыт исполнения подобных обязанностей. Достаточно вспомнить должность главы земского ополчения или его участие в Русско-шведской войне 1808-1809 гг.

На штабной работе Коновницын проявляет феноменальную энергию, все свои силы, прикладывая к укреплению армии. В этот период он спит по три-четыре часа. В Тарутинском лагере Коновницын руководит пополнением и обучением армии, снабжением, восполнением запасов и многим другим. При этом Петр Петрович ни на секунду не забывает о делах фронтовых, регулярно обращаясь к Кутузову допустить его к активным боевым действиям.

Несмотря на недомогание из-за лихорадки и просьбы главнокомандующего не рисковать, Коновницын принимает участие в бою против корпуса Мюрата под Тарутино, где едва не погибает. После, Петр Петрович участвует в бою у села Красное, а под Малоярославцем уже сам Кутузов вынужден обратиться к талантливому генералу с просьбой вернуть город под контроль русской армии. В дальнейшем, от Малоярославцев до Немана, Коновницын пребывает на той же штабной должности, де-факто, выполняя функции начальника штаба. Вся боевая переписка генералов с главнокомандующим проходила через него.

Заграничный поход русской армии принес Петру Петровичу освобождение от опостылевшей бумажной работы. Он был назначен командиром Гренадерского корпуса, который в армейской иерархии считался вторым после Гвардейского.Коновницын учувствовал в сражение при Лютцене, где получил тяжелое ранение в ногу и был отправлен на лечение в минеральные воды. В 1815 году, ещё сильно хромая примет участие в битве под Лейпцигом.

С завершением войн с Наполеоном Александру I требуется надежный и эффективный руководитель военного ведомства. Чудовищно возросшие военные расходы не могли не сказаться на состоянии казны. Император не ошибся в выборе, уже первый год управления министерством, принес результаты, за которые Пётр Петрович был представлен к ордену Александра Невского с алмазными знаками..

В 1819 году Коновницын из-за резко ухудшившегося здоровья просит отставки. Александр прошение удовлетворяет и отправляет средства на лечение в минеральных водах. Вернувшись с лечения, личным указом императора, Коновницын назначен руководить кадетскими корпусами. Однако здоровье его продолжает ухудшаться. 22 августа 1822 года Петр Петрович Коновницын умер. На отпевании присутствовали первые лица государства, в числе которых был и будущий император Николай I.