Nazwa jednostki nawiązuje do imienia szefa UOP, Gromosława Czempińskiego, który - ryzykując własnym życiem - uratował w Iraku od śmierci oficerów Centralnej Agencji Wywiadowczej Stanów Zjednoczonych podczas "Pustynnej Burzy". Później Czempiński został "ojcem chrzestnym" jednostki i wniósł olbrzymi wkład w jej powstanie.

Bezpośrednim impulsem do stworzenia GROM-u była operacja "Most". Polegała na przerzuceniu rosyjskich Żydów emigrujących ze Związku Radzieckiego do Izraela. Samoloty z nimi lądowały na Okęciu. Od tej chwili Polska stała się krajem narażonym na zamachy ze strony takich ugrupowań, jak Hezbollach czy Dowództwo Główne Ludowego Frontu Wyzwolenia Palestyny. Potwierdzili to specjaliści z Wielkiej Brytanii.

Decyzję o utworzeniu jednostki podjął rząd premiera Tadeusza Mazowieckiego. Oficjalną datą powstania GROM-u jest 13 lipca 1990 r. Rozpoczął się nabór odpowiednich ludzi. Poszukiwano ich w jednostkach wojskowych i policyjnych.

Momentem przełomowym było zakończenie w 1991 r. wyczerpującego szkolenia w Stanach Zjednoczonych. Starannie wyselekcjonowana do służby w GROM-ie grupa liczyła wraz z dowódcą 13 oficerów. Szkolili się od tropików po mroźne góry.