Perselisihan keduanya terus berlanjut bahkan sampai muncul tudingan serius terhadap Bakunin. Pada 1848, Marx dalam koran terbitannya sendiri Neue Rheinische Zeitung menuduh sang bangsawan anarkis adalah mata-mata dari Rusia. Tudingan ini jauh dari fakta karena saat itu Bakunin sedang bekerja sama dengan revolusioner Prancis. Tentu Marx membantah telah menyudutkan Bakunin, tapi Bakunin tetap percaya sebaliknya.
Perdebatan bahkan sampai menyeret organisasi di mana keduanya bergabung, The International Workingmen’s Association (IWA) atau Internasional Pertama. Kelompok anarkis dikeluarkan dari IWA pada kongres 1872 setelah Bakunin menerbitkan Essay Against Marx yang secara lugas menganggap bahwa Marx adalah seorang otoriter. Tentu Bakunin termasuk orang yang dikeluarkan.
Dalam kongres ini Bakunin juga memperkenalkan konsep kolektif anarkis. Gagasan ini merupakan perkembangan dari pemikiran Proudhon dan fokus pada perjuangan serikat pekerja anarkis, alih-alih terlibat dalam politik seperti yang diyakini marxisme.