Nell'agosto 1931 con [[Hans Kippenberger]] fu coinvolto nell'[[assassinio di Paul Anlauf e Franz Lenck]]. La sua compagna [[Margarete Buber-Neumann]] nella sua autobiografia nega però che Neumann fosse coinvolto in questi omicidi politici, scrivendo: "Heinz [...] non aveva nulla a che fare con l'apparato terroristico del KPD".<ref>{{cita libro|lingua=de|autore=[[Margarete Buber-Neumann]]|titolo=''Von Potsdam nach Moskau. Stationen eines Irrweges''. Fischer Taschenbuch Verlag|città=Francoforte sul Meno|anno=1985|p=245-246}}</ref>
Neumann è fu anche una figura centrale nelle convergenze politiche tra il KPD e l'NSDAP in funzione antisistema e antisocialdemocratica. Uno scritto del 1933 dal militante del KPD [[Georg Schwarz (politico 1896)|Georg Schwarz]], dedicato alla «bancarotta» del partito, riporta che Neumann, durante un incontro con i nazionalsocialisti presieduto da [[Joseph Goebbels]], cercò di attrarre i militanti dell'NSDAP proponendo loro di attaccare il capitalismo occidentale insieme all'[[Armata Rossa]]. Secondo Schwarz, Neumann disse: «Giovani socialisti! Combattenti coraggiosi per la nazione: i comunisti non vogliono una lotta fratricida con i nazionalsocialisti»<ref>{{cita|Ascher, Lewy 1956|p. 478}}. La stessa citazione è riportata in {{cita|Kistenmacher 2016|p. 1}}, che la riprende da una monografia sul KPD pubblicata nel 1948 da [[Ossip K. Flechtheim]], militante del partito dal 1927 al 1931.</ref>.
