Urodził się 31 stycznia 1937 roku w Baltimore w stanie Maryland (USA). Na Uniwersytecie Chicagowskim ukończył matematykę i filozofię (1956). Uzyskał stypendium Fulbrighta i w latach 1963-1965 studiował w Paryżu pod kierunkiem Nadii Boulanger. Tam odkrył muzykę indyjską, która wpłynęła na kształt jego późniejszej twórczości. W 1965 poznał Ravi Shankara. W 1966 wyjechał do Indii północnych, spotkał się z Dalajlamą (1972) i stał się gorącym orędownikiem sprawy tybetańskiej. Glass zajmował się również muzyką północnej Afryki; w latach 80. zaczął współpracę m.in. z Foday Musa Suso. Na przełomie lat sześćdziesiątych i siedemdziesiątych Glass współpracował z kanadyjskim strukturalistą Michaelem Snowem oraz z Robertem Wilsonem przy jego przedsięwzięciach teatralnych (opera „Einstein on the Beach”). Skomponował cykl piosenek „Songs from Liquid Days”. W oparciu o twórczość Davida Bowie i Briana Eno stworzył symfonie „Low” oraz Heroes. W 1968 stworzył własny zespół – Philip Glass Ensemble; oprócz tego współpracował z kwartetem smyczkowym Kronos Quartet oraz z zespołem Uakti.
Największy rozgłos zdobył dzięki współpracy z Godfreyem Reggio przy dokumencie „Koyaanisqatsi". Został nominowany do Oscara i Złotego Globu za muzykę do filmu Martina Scorsese „Kundun – życie Dalaj Lamy”, a także do filmu Stephena Daldry Godziny. Zdobył Złoty Glob za kompozycję do „Truman Show”. Eksperymentował z muzyką do horrorów (seria „Candyman"), a także stworzył muzykę do biograficznego filmu Errola Morrisa „Krótka historia czasu” (opowiadający o Stephenie Hawkingu) oraz do pierwotnie niemego filmu „Dracula” (1931) Toda Browninga.