Bereits 1992 ließ sich Gerald Grosz politisch begeistern und übernahm verschiedenste Funktionen im Rahmen der freiheitlichen Bewegung Jörg Haiders. 2005 kandidierte Grosz für den Gemeinderat der Stadtgemeinde Deutschlandsberg, zog auf Anhieb ein und bekleidete diese Funktion bis 1. Mai 2007.

Im Juni 2005 gründete Grosz gemeinsam mit Jörg Haider das steirische BZÖ, dessen Obmann er bis zu seinem Ausscheiden aus der Politik im Jahr 2015 war. Zwischen Oktober 2006 und Oktober 2008 war er Generalsekretär des Bündnis Zukunft Österreich in Wien. Im Jänner 2008 war Gerald Grosz Spitzenkandidat des BZÖ bei der Grazer Gemeinderatswahl, auf Anhieb gelang ihm mit zwei Mandaten der Einzug in den zweitgrößten Gemeinderat Österreichs.

2008 kandidierte er als steirischer Landesspitzenkandidat für den österreichischen Nationalrat, errang 13,2 Prozent Wählerzustimmung und drei steirische Nationalratsmandate. Dem Nationalrat gehörte er bis 2013 an. Von 2013 bis 2015 stand Grosz an der Spitze des Bundes-BZÖ als dessen vierter Parteichef. Im Jahr 2022 kandidierte er für das Amt des Bundespräsidenten als einer von sieben Kandidaten. Dabei gelang ihm ein Achtungserfolg von 5,6 Prozent.