Родился 2 июня 1914 года в селе Концеба ныне Савранского района Одесской области (Украина) в семье крестьянина. Украинец.
В 1933 г. окончил строительную школу в городе Горловка (Донецкая область, Украина). Работал слесарем.
В 1935 г. окончил Полтавскую летную школу Осоавиахима, в 1936 – Центральную летную школу Осоавиахима (Тушино). В 1935–1937 годах – летчик-инструктор Новосибирско го аэроклуба, в 1937–1938 – летчик-инструктор Барнаульского аэроклуба. В 1939 г. окончил КУНС Осоавиахима (Москва).
В 1939–1940 – командир звена Новосибирского аэроклуба, в 1940–1941 – инспектор авиации Новосибирской области.
В рядах Красной Армии с апреля 1941 года. В 1941–1943 годах проходил службу в 160-м, 11-м, 26-м запасных авиационных полках (Закавказский фронт), готовил летные кадры для фронта. Член ВКП(б)/КПСС с 1943 года.
В июле – августе 1943 года находился на боевой стажировке в действующей армии в должности командира звена 88-го истребительного авиационного полка (Северо-Кавказский фронт). Выполнил 33 боевых вылета на истребителе ЛаГГ-3, провел 10 воздушных боев, в которых сбил лично 1 и в группе 1 самолет противника.
В 1943–1944 годах продолжал службу в 26-м запасном авиационном полку (Закавказский фронт). В 1944–1946 – командир авиаэскадрильи 6-го перегоночного истребительного авиационного полка; перегонял иностранные истребители «Аэрокобра», «Киттихаук» и «Тандерболт» из Ирана.
С марта 1946 г. – в запасе. С 1946 г. – летчик-испытатель Новосибирского авиационного завода имени В.П. Чкалова. Поднял в небо и провел испытания головных истребителей МиГ- 15 (1949), МиГ-17 (1952), МиГ-15УТИ (1953) авиазавода. Испытывал серийные истребители Як-9 (1946–1949), МиГ-15 (1949–1953), МиГ-17 (1952–1955), МиГ-15УТИ (1953–1954),
МиГ-19 (1955) и их модификации. В 1951 окончил курсы при Школе летчиков-испытателей.
Погиб 13 июля 1955 года при выполнении испытательного полета на сверхзвуковом истребителе МиГ-19. Похоронен в Новосибирске.
Указом Президиума Верховного Совета СССР от 1 мая 1957 года летчику-испытателю 1-го класса Павлу Яковлевичу Гербинскому за мужество и героизм, проявленные при испытании новой авиационной техники, присвоено звание Героя Советского Союза (посмертно).
Награжден орденом Ленина, двумя орденами Красной Звезды, медалями [178, 481, 734, 743, 787, 1066].