Неговите песни се еротски, сатирични, контроверзни, како и самиот човек. Серж Гензбур денес не би можел јавно да настапува ни со половина од својот репертоар, а сигурно ретко би го викале во мејнстрим шоу програми. Но човекот си бил посебен и во далечните 1970-ти кога било нормално да си откачен. Успеал да ги изнервира дури и традиционално либералните Французи, и тоа во 1979, кога напишал свои стихови за француската национална химна, Марсељезата, и ја испеал во реге ритам. Дури и ставил и нов наслов. „Вооружете се, граѓани и така натаму“.
Песната е снимена во Кингстон, Јамајка, a Серж успеал да ја убеди сопругата на Боб Марли, Рита, да пее придружни вокали. Сепак, не очекувал толку остри реакции од сограѓаните какви што следеле. Добил неколку закани по живот од поединци и од националистички групи, како и од воени лица кои се заколнале дека ќе го убијат ако се осуди да ја пее јавно.
За Гензбур ова изгледа било дополнителен мотив, па во 1980 на еден од неговите концерти во Стразбур сепак ја испеал. Група легионери упаднале на концертот кој се одржувал во градот кадешто е и напишана Марсељезата, бендот престанал со свирење, но Гензбур без око да му трепне ја испеал оригиналната химна а капела. Сакале-нејќеле легионерите и самите се придружиле на хорот од публиката.
Ова не бил единствен пат на „осквернавување“ на француската химна. Еднаш дури и самиот поранешен претседател Жискар д’Естен се обидел да воведе своја верзија, изведувајќи ја во побавно темпо кое според него било посвечено. По бура протести морал да се извини и од тогаш да ја користи само оригиналната оркестрација на Хектор Берлиоз.
Гензбур сепак не останал на ова. Една година по инцидентот во Стразбур на аукција ги купил правата за оригиналниот ракопис на стиховите, напишани од Руже де Лил, каде самиот автор ги користи зборовите „и така натаму“, наместо да ги повторува рефрените. Со тоа Серж докажал дека неговата верзија не е исмевање туку дека само се држел до оригиналот.