La 39 de ani, Joe Clark a devenit cel mai tânăr prim ministru al Canadei în 1979. Un conservator fiscal, Joe Clark și al lui guvern minoritar au fost învinși după doar nouă luni la putere, pentru o moțiune de non-încredere cu privire la un buget de creștere a impozitelor și reduceri de programe.
După ce a pierdut alegerile din 1980, Joe Clark a rămas în funcția de lider al opoziției. Când Brian Mulroney a preluat funcția de lider al Partidului Conservator Progresist din Canada în 1983 și apoi de Prim Ministru în 1984, Joe Clark a continuat ca ministru eficient al relațiilor externe și ministrul constituțional Afaceri. Joe Clark a părăsit politica în 1993 pentru a lucra ca consultant în afaceri internaționale, dar s-a întors ca lider al Partidului Conservator Progresist din 1998 până în 2003.
Joe Clark și-a început cariera politică în calitate de director al organizației pentru Partidul Conservator Progresist din Alberta, din 1966 până în 1967. A fost asistent special la un membru conservator al parlamentului Davie Fulton în 1967. A fost asistent executiv la un membru conservator al parlamentului Robert Stanfield din 1967 până în 1970.
Joe Clark a fost ales pentru prima dată la Camera Comunelor în 1972. A fost ales lider al Partidului Conservator Progresist din Canada în 1976 și a fost lider al opoziției până în 1979. Joe Clark a fost înjurat ca prim-ministru al Canadei după alegerile generale din 1979.
Guvernul conservator a fost învins în 1980. Joe Clark a fost din nou conducător al opoziției din 1890 până în 1983. Joe Clark a numit o convenție de conducere a partidului conservator progresist și a pierdut conducerea partidului față de Brian Mulroney în 1983.
În guvernul Mulroney, Joe Clark a fost ministru al Afacerilor Externe din 1984 până în 1991. A fost președinte al Consiliului privat și ministru responsabil pentru afaceri constituționale din 1991 până în 1993. Joe Clark nu a candidat la alegerile generale din 1993.
Joe Clark s-a întors ca lider al Partidului Conservator Progresist din Canada în 1998. El a fost reales în Camera Comunelor în 2000. În 2002, Joe Clark a spus că a dus Partidul Conservator Progresist în măsura în care a putut. Demisia lui Joe Clark din funcția de lider al Partidului Conservator Progresist a fost efectivă la convenția de conducere din mai 2003.