Sudjelovao je u osnivanju pokreta Al Fatah, a 1968. je postao i njegov vođa. PLO je osnovan 1964., Arafat je postao njen predsjednik 1969. a potom 1971. i glavni zapovjednik Palestinskih revolucionarnih snaga. Cilj je bio vratiti Palestini zemlju koju je Izrael okupirao. On je organizirao gerilske napade. 1982. izrealska vojska je udaljila PLO od njihovog sjedišta u Libanu. Arafat je 1983. osnovao novu bazu u
Tunisu, a 1989 je pozvan u UN gdje je odbacio nasilje, priznao državu Izrael i pozvao na političko rješenje problema. 1993. potpisao je mirovni ugovor sa Izraelom. Te iste godine dolazi na čelo nove Palestinske narodne uprave u Gazi i autonomne palestinske gradove na zapadnoj obali. Od tada je izgubio podršku mnogih Palestinaca zbog neuspješnog rješavanja osnovne infrastruktre, zbog navodnih prevelikih ustupaka Izrealcima u mirovnim pregovorima i zbog
autokratskog načina vladanja. Godine 1996. je izabran za predsjednika palestinske samouprave.