Олексій Ганжа народився в с. Рижки, що на Чернігівщині. 1 вересня 2002 року пішов навчатися до першого класу Нехаївської ЗОШ 1-3 ступенів. 25 травня 2013 року Олексій закінчив 11 класів цієї школи. 1 серпня 2013 року він вступив на навчання до Національної Академії Національної гвардії України за напрямком підготовки «Військове управління, спеціалізація «Управління діями підрозділів НГУ», яку 24.06.2017 успішно закінчив.

Коли у 2014 році Російська Федерація розпочала гібридну війну проти України, Олексію було 18 років. Він навчався на 2 курсі в Академії НГУ. У військовій справі хлопець знайшов своє покликання і загалом присвятив їй одинадцять років життя. Гвардієць мав дружину та сина. Останні чотири роки він проходив службу в 27-ому полку м. Чернігова, чим дуже пишався.

З 24 лютого 2022 року під час повномасштабного вторгнення у складі військової частини 3082 майор Ганжа стає на захист м. Чернігова.

09 серпня 2024 року майор Ганжа, будучи командиром зведеного підрозділу виконував бойове завдання в складі групи зведеного підрозділу 27-го полку Північного оперативно-територіального об’єднання Національної гвардій України в складі ТГР «Чернігів» ОТУ «Сіверськ». Підрозділ успішно утримував стратегічно важливі рубежі, які останнім часом щоденно перебуває під загрозою проникнення диверсійно-розвідувальних груп та ракетних атак. 

14 вересня 2024 року близько 10 години 40 хвилин, продовживши проводити розвідку місцевості та перевірку позицій підпорядкованих підрозділу, рухаючись на автомобілі УАЗ, між населеним пунктом Мощенка та населеним пунктом Берилівка, Чернігівського району, Чернігівської області, під час руху автомобіля ворожий саморобний fpv дрон, вантажопідйомністю до 10 кг, прошив передню частину автомобіля в якому перебував особовий склад. Фугасна хвиля перевернула палаючий автомобіль, внаслідок чого майор Ганжа Олексій Григорович загинув на місці.

Разом ним загинули старший солдат Петровський Петро Миколайович та 02.10.2024 в лікарні помер майор Білоус Олександр Юрійович.