Родился 7 июля 1918 г. в Киеве. В 1922 г. вместе с родителями переехал в Москву.
В 1936—1939 гг. учился в ИФЛИ (Институт философии, литературы и истории), затем также занимался и в Литературном институте им. Горького.
Еще школьником дважды исходил пешком центральную Россию. Побывал в геологической экспедиции в Армении.
Публиковаться при жизни поэту Когану не пришлось. Его печатали лишь в периодике в конце 50-х и в 60-е. Первый сборник вышел в 1964 году.
Как и Михаил Анчаров, на войну Павел Коган попал переводчиком - не пройдя по здоровью в армию, пошел на курсы переводчиков. Окончив курсы, он попадает на фронт сначала переводчиком, потом помощником начальника штаба полка по разведке.
23 сентября 1942 года, во время разведпоиска в окрестностях сопки Сахарная голова под Новороссийском, разведгруппа, которой командовал лейтенант Коган, была обнаружена, и в бою командир группы был убит. Страна потеряла поэта, который мог вырасти в величину масштаба Симонова или Слуцкого.