Le groupe, formé en 1987, se compose, dès l'origine, de musiciens déjà distingués dans le milieu punk. Mathias, Paulo et Gaby jouent dans le groupe Les Maîtres, Stef et Isa dans le groupe Les Ouvriers avec Grégoire Paulus, alors que Noël Rota (alias Helno) développe ses talents de choriste au sein de Lucrate Milk puis des Béruriers Noirs. Ils se rencontrent au gré de fêtes tapageuses dans le 19e arrondissement de Paris. Le nom du groupe aurait été choisi suite à l'invective d'un vigile dans un bar, qui se serait exclamé « sortez les négresses vertes ! » en référence à leurs cheveux teints. La troupe, qui compte jusqu'à neuf membres, teste ses premiers titres dans le métro, les halls d'immeubles, ou sur les trottoirs de Paris. Leur premier album, Mlah, sorti en 1989, enregistré sur le label Off The Track , est réalisé par le duo Sodi & Clive Martin. Il contient deux titres qui resteront des références dans la discographie du groupe : Zobi la mouche et Voilà l'été. Ils définissent à eux deux un style gouailleur et festif, au confluent des influences parisiennes (polka, valse), méditerranéennes (flamenco, raï) et anglo-saxonne. La même année, ils effectuent une tournée outre-manche, saluée unanimement par la critique et le public. Madonna leur demande de participer à la bande originale du film Dick Tracy. Le succès discographique est également au rendez-vous avec 180 000 disques vendus en France et 350 000 à l'étranger. Le second album, Famille nombreuse, mixé à Londres toujours sous la houlette de Clive Martin et Sodi, sort deux ans plus tard — une sortie retardée par un conflit avec leur maison de disques. On y retrouve notamment le titre Sous le soleil de Bodega. En 1991, ils donnent à Beyrouth le premier concert français accueilli dans la capitale libanaise depuis le début de la guerre en 1975. En 1993 sort un album de remix en collaboration avec de grands noms tels que Massive Attack, Norman Cook (Fat Boy Slim) ou William Orbit.