Народився 26 лютого 1864, в селі Токарівка Літинського повіту Подільської губернії (нині – Вінницький район Вінницької області). У 1885 році закінчив Подільську духовну семінарію. В 1914 - 1928 роках - благочинний і настоятель собору в місті Ольгополі Гайсинського району, деякий час викладав Закон Божий в місцевій гімназії.
Виконуючи ці обов'язки, він проявив себе як справжній пастир стада Христового. Слова Господа про те, хто виконає заповіді і навчить тому людей, той великим назветься в Царстві Небесному (Мф.5,19), запали йому в серце, і через все подальше життя проповідницька діяльність, вчителювання і духовна опіка ввіреної йому Богом пастви пройшли золотою ниткою. Духовний авторитет отця Полікарпа зростав, і слово його ставало вагомим і переконливим для багатьох. Коли до влади прийшли атеїсти-більшовики, отець Полікарп зумів об'єднати навколо себе тих, хто вболівав душею за Православну віру. У результаті утворилася міцна спільнота духовенства та мирян. Надалі, коли пособники більшовиків обновленці в боротьбі за владу стали роздирати хітон Христовий, отець Полікарп твердо відстоював непорушність канонів Православної Церкви.
У 1927 році помирає дружина отця Полікарпа, і він, бажаючи цілком присвятити себе служінню Церкві, приймає чернечий постриг з ім'ям Порфирій. Його активна діяльність привертає увагу влади. У 1927 році Харківське ОДПУ викликає отця Порфирія в місто Харків. Час цієї поїздки виявився для отця Порфирія сприятливим у багатьох відношеннях. Він познайомився з церковним життям міста Харкова і зблизився з чудовими священиками. Мабуть, у Харкові і було прийнято рішення про архієрейську хіротонію ієромонаха Порфирія.
25 червня 1928 року, відбулася архієрейська хіротонія. Новопосвячений Владика Порфирій був призначений єпископом Криворізьким, вікарієм Дніпропетровської єпархії. З перших же днів свого архієрейського служіння єпископ Порфирій здобув повагу і любов серед духовенства і мирян, ввірених його святительській опіці.
Скромність і смиренність його визначалися словами Іісуса Христа: І хто хоче між вами бути першим, нехай буде вам рабом (Мф. 20, 27). Незважаючи на вік (Владиці було 64 роки), він зберігав дивовижну працездатність: звершував часті богослужіння, на яких незмінно виголошував проповіді, ніс адміністративні труди і відвідував парафії єпархії. Але на цій кафедрі єпископ Порфирій пробув недовго. 5 вересня 1930 року він був призначений єпископом Зінов'євським, вікарієм Одеської єпархії. І там Владику Порфирія запам'ятали смиренномудрим архієреєм.
11 вересня 1931 року, після арешту Архієпископа Кримського Арсенія (Смоленця), Єпископа Порфирія перевели на Кримську кафедру, де він залишався аж до наступного арешту.
Православні стародавньої Тавриди прийняли з любов'ю нового Архіпастиря, і він, відповідаючи на любов батьківською увагою і турботою, молитвою і добрими справами об'єднував свою паству. За словом апостола Павла, Владика був усім для всіх. Боротьба з обновленцями принесла Владиці Порфирію багато моральних страждань і зовнішніх поневірянь, але через це він набув надзвичайної смиренності, лагідності та любові до всіх оточуючих. Він завжди перебував у духовно-піднесеному настрої і вирізнявся особливою проникливістю. У 1931-1932 роках єпископ Порфирій надає посильну допомогу Єпископу Клинському Гавриїлу (Красновському), який перебував у той час на засланні в Криму. Єпископ Гавриїл був хворий на туберкульоз і перебував у дуже скрутному матеріальному становищі. Владика Порфирій допомагав йому матеріально, влаштував його спочатку в Топловському монастирі, а потім у Бахчисараї і підтримував із ним зв'язок через священника Миколу Бичкова.
У 1933 році Єпископа Порфирія заарештували, але у в'язниці його протримали недовго, через два місяці його відпустили. Владика служив у Сімферопольському Преображенському соборі. На службу Єпископ Порфирій ходив завжди пішки. Служив Владика натхненно. За свідченням очевидців, з Єпископом Порфирієм було легко молитися, все стороннє відступало, його молитовний настрій і горіння духу передавалися тим, хто молився.
9 жовтня 1936 року Владику знову заарештували. З ним було заарештовано ще десять священників і ченців. На допитах він тримався просто і твердо. На провокаційні запитання слідчого відповідав безбоязно, не упускаючи архієрейської гідності. Протягом чотирьох місяців Владика нудився в сімферопольській в'язниці. 3 січня 1937 року Єпископа Порфирія було засуджено до п'яти років адміністративної висилки в Казахстан. Прибувши в місто Алма-Ату, де знаходився пересильний пункт НКВС, єпископ Порфирій написав листа митрополиту Сергію (Страгородському) про своє нове становище. У лютому 1937 року НКВС направило Владику Порфирія на станцію Уш-Тоб Каратальського району Талди-Курганської області. Там уже проживав засланий у 1935 році єпископ Катеринославський Макарій (Кармазін). Заслані Архіпастирі були раді зустрічі і в спілкуванні один з одним зміцнилася їхня однодумність і рішучість до кінця стояти за Істину і Церкву Христову. Єпископ Макарій запропонував Владиці Порфирію оселитися у нього в будинку.
Незабаром, 2 жовтня 1937 року, приїхала племінниця єпископа Порфирія Ганна Петрівна Міхо. Вона привезла з Криму листи і посилки від духовних чад Владики. Треба сказати, що кримські громади Сімферополя, Ялти і Керчі не залишали свого Архіпастиря без допомоги, і за будь-якої слушної нагоди відправляли посилки з усім необхідним. Це було єдине джерело існування для Владики. Єпископи жили дуже замкнуто, мало спілкуючись із зовнішнім світом, перебуваючи в постійній молитві і богомислії, таємно звершували Божественну літургію. 20 листопада 1937 року Єпископа Порфрія і Єпископа Макарія було заарештовано. Їх звинувачували в тому, що на станції Уш-Тобе вони ''проводили антирадянську пропаганду і дискредитували радянську владу, а також підтримували зв'язок із контрреволюційними елементами, систематично отримуючи від останніх матеріальну допомогу". 1 грудня 1937 року Єпископ Порфирій (Гулевич), Єпископ Макарій (Кармазін), Раїса Ржевська постановою трійки УНКВС Алма-Атинської області були засуджені до смертної кари. Наступного дня, 2 грудня, єпископа Порфирія (Гулевича) і Раїсу Олександрівну Ржевську було розстріляно. Місце поховання невідоме. Висновком прокуратури Талди-Курганської області від 27 квітня 1989 року Єпископ Порфирій (Гулевич) був реабілітований.
Пам'ять священномученика Порфирія (Гулевича) молитовно вшановується Святою Церквою 2 грудня в день його упокоєння. Священномученик входить до Собору Вінницьких святих.