Konspiracyjną działalność niepodległościową w latach okupacji niemieckiej rozpoczynał w szeregach konspiracji ruchu ludowego (BCh), skąd trafił do AK, gdzie służył w miejscowej placówce terenowej pod ps. „Łysy”. Po wejściu na Mazowsze wojsk sowieckich został zmobilizowany do 9. pp „ludowego” WP, skąd po kilku miesiącach służby zbiegł i dołączył do oddziału Albina Kocięckiego „Orła”, „Groźnego” (operującego w pow. Mława i Sierpc oraz w rejonie Nowego Miasta i Brodnicy), który organizacyjnie należał do Batalionu ROAK „Znicz”. Wiosną 1946 objął dowództwo nad własną grupą, która funkcjonowała jako samodzielna grupa partyzancka w ramach Batalionu ROAK „Znicz”. Oddział Rychcika wykonał szereg poważnych akcji przeciwko komunistycznemu aparatowi represji. W wyniku porozumienia zawartego latem 1946 przez komendanta Obwodu „Mewa” st. sierż. Józefa Marcinkowskiego „Wyboja” z komendantem Pomorskiego Batalionu ROAK „Znicz” kpt. Pawłem Nowakowskim „Leśnikiem”, oddział Rychcika (wraz z oddziałami Albina Kocięckiego „Groźnego” i Edmunda Fijałkowskiego „Kruka”, których żołnierze pochodzili z terenów pow. Mława, objętych działalnością Obwodu ROAK „Mewa”) został przekazany do tej jednostki podziemia. Do najbardziej spektakularnych operacji oddziału Rychcika należał brawurowy rajd, podczas którego rozbrojono posterunki MO w Strzegowie, Kowalewie i Szreńsku oraz opanowanie Kuczborka. Oddział ROAK Zygmunta Rychcika dotrwał bez poważniejszych strat do tzw. amnestii ogłoszonej przez władze komunistyczne zimą 1947, po sfałszowanych wyborach do Sejmu.
Rychcik ujawnił się wraz ze swymi żołnierzami w marcu 1947 w Mławie. Zaraz potem wyjechał do Wrocławia. Niektórzy jego podkomendni powrócili na partyzanckie ścieżki Mazowsza.