Jazzová sekce vznikla původně coby oficiální organizace v roce 1971 jakožto odnož Svazu hudebníků, ale s vlastním organizačním řádem, hospodařením a právní odpovědností. Během 70. let organizovala hudební festivaly (zejména Pražské jazzové dny), vydávala časopis Jazz a založila knižní edici Jazzpetit, kde vycházely knihy o jazzu, jazz-rocku, moderním umění i divadle, rockové hudbě apod. V polovině 70. let si vliv získal nezávislejší, i když po hudební stránce méně profesionální proud v čele s Karlem Srpem starším, členská základna se rozrůstala a činnost Jazzové sekce se stávala stále nezávislejší na orgánech komunistické moci. Státní bezpečnost proti ní rozpoutala kampaň, mnohé koncerty ani publikace nedostaly povolení, členové výboru byli sledováni a vyslýcháni. V roce 1980 Svaz hudebníků nejdříve Jazzovou sekci jako svou pobočku zrušil, nakonec byl v roce 1984 rozpuštěn celý Svaz hudebníků. Policejní pronásledování proti členům vedení se stupňovalo, v roce 1986 byli čelní aktivisté vzati do vazby a připravoval se proces pro neplacení daní. Údajné neodvedení asi 1 milionu korun na daních se však neprokázalo a po mezinárodní kampani za jejich propuštění byla počátkem roku 1987 většina z nich postupně z vazby uvolněna. Věznění a výslechy však na mnoha z nich zanechaly vážné zdravotní následky včetně předčasného úmrtí. Proces také nakonec skončil s mnohem nižšími tresty, než bylo původně navrhováno. Po výkonu trestu v roce 1988 bývalý předseda JS Karel Srp požádal o registraci organizace Artforum s podobnou náplní, jako byla JS. K tomu došlo v červnu 1989. Po pádu komunistického režimu v roce 1989 byli členové Jazzové sekce rehabilitováni.
Kulturní přínos Jazzové sekce pro nezávislou kulturu je nezpochybnitelný. V rámci omezených možností organizovala řadu (nejen jazzových) koncertů i hudebních festivalů – zejména Pražské jazzové dny – ale i výstavy, přednášky, divadelní představení, vydávala publikace o hudbě i moderním umění, po zrušení JS v podstatě jako samizdat.
Jazzová sekce měla početnou členskou základu a spoustu dalších příznivců, proto i dosah její činnosti v společnosti, zejména u mladší generace, byl značný. I když se zpočátku jednalo o oficiální registrovanou organizaci, mnoho jejích akcí bylo na hranici snesitelnosti ze strany komunistických úřadů. Množství registrovaných členů překročilo 8 tisíc a JS byla pokládána za nejpočetnější organizovanou opozici.
O tom, že si i představitelé západních zemí uvědomovali přínos Jazzové sekce opozičnímu hnutí v Československu, svědčí i pozvání pro Karla Srpa od francouzského prezidenta Franҫoise Mitterranda na známou snídani s disidenty na francouzském velvyslanectví v Praze během jeho oficiální návštěvy v prosinci 1988.