Le groupe east coast rap EPMD est fondé en 1987 par Erick Sermon, alias E Double E, et Parrish Smith, alias Pee MD. Les deux compères sont élevés à Long Island aux Etats-Unis. Ils se rencontrent et forment EPDM qui signifie Erick and Parrish Making Dollars. Diamond J, DJ K La Boss, et plus tard DJ Scratch ont été DJs pour le groupe.
Leur premier single s'intitule " It's My Thing ". Il est suivi de l'album " Strickly Business " (1988) qui connaît un succès certain avec le single " You Gots to Chill ". Il en va de même pour son successeur " Unfinished Business " (1989). EPDM signe ensuite chez le label Def Jam l'album " Business as Usual " (1990) puis " Business Never Personal " (1992).
En 1992, il forme le Hit Squad avec Redman, K-Solo et Das EFX puis se sépare car Erick Sermon et Parrish Smith veulent tenter des carrières solo. Erick Sermon enregistre en 1993 l'album " No Pressure " et Parrish Smith " Shade Business " en 1994. Le duo se reforme en 1997 avec le disque " Back in Business ". Ils enregistrent ensuite " Out of Business " en 1999.