Родился 3 августа 1924 года в деревне Денисовка ныне Каргатского района Новосибирской области в семье рабочего. Русский. Окончил среднюю школу.
В Красную Армию призван в сентябре 1942 года Яшкинским райвоенкоматом Кемеровской области. В 1942 году окончил полковую школу. На фронтах Великой Отечественной войны с марта 1943 года. Член ВКП(б)/КПСС с 1944 года.
Наводчик орудия 846-го артиллерийского полка (277-я стрелковая дивизия, 5-я армия, 3-й Белорусский фронт) сержант Илья Гуленко 21 августа 1944 года на реке Шешупе в районе деревни Тарпуце Шакяйского района Литвы в составе батареи участвовал в отражении контратаки вражеской пехоты и танков. В этом кровопролитном бою наводчик Гуленко, проявив умение и находчивость, подбил четыре вражеских танка.
Когда орудие вышло из строя, сержант Илья Гуленко гранатами и огнем стрелкового оружия отбивал яростные атаки противника. В результате позиция была удержана.
24 августа 1944 года недалеко от границы с Восточной Пруссией тяжело ранен. Только на 17-е сутки пришел в себя в военном госпитале после перенесенных операций, во время которых из его тела достали 21 осколок от снаряда. Один из осколков задел глазной нерв и навсегда лишил зрения этого мужественного человека.
Указом Президиума Верховного Совета СССР от 24 марта 1945 года за образцовое выполнение боевых заданий командования на фронте борьбы с немецко-фашистскими захватчиками и проявленные при этом мужество и героизм сержанту Гуленко Илье Андреевичу присвоено звание Героя Советского Союза.
В 1945 году И.А. Гуленко демобилизован. Жил и работал в городе Куйбышеве (с 1991 года – Самара).
Награжден орденом Ленина, орденом Отечественной войны 1-й степени, двумя орденами Красной Звезды, медалями.
Скончался 5 мая 1986 года. Похоронен в Самаре на кладбище «Рубежное».
Имя Героя Советского Союза Ильи Андреевича Гуленко увековечено на Доске Героев у Вечного огня в городе Самаре, а также на Аллее Героев у Монумента Славы в Новосибирске [178, 532, 787, 806, 1111].