Phillip Terry lahir dengan nama Frederick Henry Kormann pada 7 Maret 1909 di San Francisco, sebagai anak tunggal dari pasangan pasangan. Karena ayahnya seorang insinyur kimia yang sering berpindah tempat kerja, ia tinggal bersama kerabat di New Jersey untuk mendapatkan pendidikan yang stabil.

Setelah lulus dari sekolah menengah, Phillip bekerja di bidang minyak sebagai roustabout dan rig builder berkat bantuan ayahnya. Ia kemudian melanjutkan studi di Sacred Heart College dan Stanford University, di mana ia juga menjadi bintang sepak bola dan atlet lari, sekaligus mulai tertarik pada dunia akting.

Setelah gagal di New York, Phillip berangkat ke Inggris dan belajar di Royal Academy of Dramatic Art pada 1933. Karena merasa homesick, dia kembali ke AS dan bergabung dengan CBS Radio di Los Angeles. Suatu hari, seorang agen MGM menonton siarannya dan mengundangnya untuk mengikuti audisi film.

Setelah sukses melewati screen test, Phillip mulai tampil dalam film kecil tanpa kredit, salah satunya adalah Mannequin (1937). Ia kemudian menandatangani kontrak di Paramount dan tampil dalam film seperti The Monster and the Girl (1941), The Parson of Panamint (1941), Torpedo Boat (1942), dan Wake Island (1942).

Pada masa ini, Phillip menjalin hubungan singkat dengan aktris Joan Crawford. Mereka menikah selama enam minggu pada Juli 1942, namun cerai empat tahun kemudian. Setelah meninggalkan Paramount di pertengahan 1940-an, ia bergabung dengan RKO, tapi filmnya tidak menonjol dan tampil biasa saja dalam karya seperti Music in Manhattan (1944) dan Pan-Americana (1945).

Karena kebanyakan peran yang didapatkan kurang menonjol, Phillip mulai fokus di bidang properti dan sukses berinvestasi. Ia tampil sporadis di film dan TV dari tahun 1950-an hingga pensiun total pada 1973 setelah mengalami stroke. Seiring kesehatan yang memburuk, ia meninggal karena pneumonitis pada tahun 1993.