Từ quãng 1860, phong trào thợ thuyền lại bắt đầu trỗi dậy ở Đức, Pháp, Anh sau gần mười năm tan rã, tê liệt vì những chia rẽ nội bộ, hay khủng bố đàn áp của các lực lượng quân chủ phản động. Nhưng lần này vùng lên, các lãnh tụ đều cảm thấy cần thực hiện một liên kết vượt phạm vi quốc gia những lực lượng thợ thuyền của từng nước mới mong chống lại được một liên kết quân chủ cũng có tính chất quốc tế. Nhân dịp dân Ba Lan nổi dậy chống chuyên chế Nga hoàng, thợ Anh và Đức dự định tổ chức một biểu tình ủng hộ Ba Lan. Chưa làm được thì cuộc nổi dậy trên đã bị tiêu diệt. Tuy nhiên hai phái đoàn Anh và Pháp đã nhờ dịp gặp nhau và đã thoả thuận về nguyên tắc thành lập một tổ chức quốc tế thợ thuyền. Đứng trước những cuộc vận động mới có vẻ “nghiêm chỉnh” như trên, Mác không thể lãnh đạm đứng ở ngoài được. Cho nên Mác nhận lời khi được mời vào Uỷ Ban dự thảo thành lập quốc tế lao công. Buổi hội chính thức để thành lập kết quả hoàn toàn tốt đẹp: lần lượt các đại biểu Pháp, Anh, Đức, Ý, Ái nhĩ Lan lên diễn đàn và sau đó toàn thể chấp thuận nghị quyết thành lập hội quốc tế thợ thuyền, tức là “Đệ nhất Quốc tế” cộng sản; Trung ương lãnh đạo đặt trụ sở ở Luân đôn. Nhưng khi bàn đến hiến chương, nội quy, các khuynh hướng trong hội không đi tới một thoải thuận nào vì phần đông lãnh tụ vẫn chưa nhận định đúng một con đường phải đi, nên đưa ra những ý kiến mà Mác cho là “không thể chấp nhận” được, quá ấu trĩ nguy hại cho phong trào. Thảo luận chán, cuối cùng Mác được uỷ nhiệm dự thảo quy chế và khi đưa ra hội đồng được toàn thể nhiệt liệt hoan nghênh chấp thuận. Ý niệm căn bản của qui chế là: “Công cuộc giải phóng thợ thuyền phải do chính giai cấp công nhân đảm nhiệm”. Mục đích của hội nhằm thiết lập những liên lạc liên đới giữa những tổ chức thợ thuyền các nước trong tinh thần tôn trọng tính cách độc lập của mỗi tổ chức quốc gia. Trong ý định của Mác, Hội quốc tế thợ thuyền phải là một lợi khí giáo dục ý thức cách mạng của thợ thuyền, làm cho họ giác ngộ về thân phận của họ, nhận thức được vai trò lịch sử của họ và biết tranh đấu thực hiện vai trò lịch sử của mình theo được đường lối cách mang, chứ không phải chỉ vì nhiệt tình cách mạng bộc phát. Đệ nhất Quốc tế vừa thành lập đã bành trướng rất mau lẹ. Khắp nơi đều hưởng ứng thành lập những khu, ban, liên đoàn. Năm 1865 Mác viết cho Engels: “Thợ Pháp, nhất là thợ Paris, coi Đại hội đồng ở Luân-đôn như một Bộ ngoại giao của giai cấp công nhân”. Đại hội đồng thực ra là Mác. Mác lãnh đạo, cho chỉ thị, khuyến cáo cho tin tức hay xác định lập trường trước những biến cố xảy ra. Trong thời gian này, Mác hoàn toàn bị lôi cuốn hết thời giờ vào việc tổ chức điều hành Đệ Nhất quốc tế. Nhưng chẳng bao lâu, những khó khăn về đường lối lại xuất hiện. Mác có thể quan niệm mỗi tổ chức đia phương được hoàn toàn tự do độc lập trong việc bầu cử nội bộ, nhưng không thể để cho những đường lối lý thuyết trái ngược với quyền lợi chung của Đệ Nhất quốc tế. Chẳng hạn, khuynh hướng theo Lassalle chủ trương vô sản cộng tác với phong kiến phản động chống lại dân chủ trưởng giả. Mác cương quyết chống lại và tuyệt giao với nhóm đó. Nhưng đối thủ nguy hại hơn cả là Michel Bakounine. Sinh trưởng ở Nga, nhưng sang Đức học, Bakounine cũng giống Mác ở chỗ cả hai đều thuộc phái Hegel khuynh tả, và đi từ lý thuyết đến thực tiễn cách mạng. Bị bắt kết án tử hình vì tham gia vào những cuộc nổi loạn, rồi bị đày đi Sibérie, sau cùng Bakounine vượt ngục qua Nhật, Mỹ để trở về Âu-châu. Bakounine gặp Mác ở Paris hồi 1844. Hai người đều làm cách mạng vô sản, nhưng quan niệm khác hẳn nhau về cách mạng vô sản và cả về cách làm cuộc cách mạng đó. Theo Mác, cách mạng vô sản sẽ phải thoát thai từ xã hội cũ, nó vượt xã hội cũ nhưng giữ lại tất cả những giá trị tích cực, những thành quả về văn hoá, chính trị xã hội. Trái lại, theo Bakounine, cách mạng là sự huỷ diệt triệt để mọi cái cũ, không giữ lại gì cả và xây dựng lại từ số không: “Ba lê, Luân đôn, Bá linh sẽ trở thành một đống lửa vĩ đại”. Hơn nữa, về phương thức tranh đấu, Bakounine cũng chủ trương như Weitling, Willich trước đây, nghĩa là có làm cách mạng phải làm tức khắc bằng âm mưu hội kín và là làm cách mạng vô sản, nếu không thì thôi. Với những quan điểm đối nghịch như vậy đã hẳn khó lòng quan niệm được Mác sẽ cộng tác với Bakounine. Sự xung đột càng không thể tránh được khi Bakounine nuôi tham vọng lái toàn thể “Quốc tế vô sản” vào hướng đi của mình và ra sức củng cố địa vị, gây thêm phe cánh để gạt ảnh hưởng và uy quyền của Mác. Nhưng Bakounine quỷ quyệt không bao giờ trực tiếp công kích Mác, vì hiểu rằng nếu đả kích trực tiếp Mác, sẽ bị quá ba phần tư “Quốc tế” phản đối tẩy chay. Bakounine theo chiến thuật chia mà đánh, nhằm một vài đồng chí của Mác, ít có uy tín bằng Mác để đả kích, đồng thời vẫn ca tụng ra mặt ủng hộ Mác. Sau hội nghị đảng ở Balê và nhất là từ 1870, sự mâu thuẫn giữa Mác và Bakounine càng trở nên sâu sắc, không thể nào hoà giải được. Một lần nữa Mác lại phải đương đầu với những đối thủ nội bộ để bảo vệ đường lối tranh đấu công khai của một phong trào thợ thuyền chính thức, vì theo Mác, lối tranh đấu “âm mưu” hội kín là lỗi thời với tình thế thợ thuyền hiện nay, do đó không thể dùng lại và chấp nhận quan điểm của Bakounine. Đang lúc Mác bận tâm chống Bakounine thì những biến cố lớn xảy ra đòi hỏi những nhận định và tranh đấu kịp thời. Năm 1870 Pháp gây chiến với Đức, nói đúng hơn, Napoléon đánh nhau với Bismark. Trước cuộc chiến tranh Pháp – Đức, thái độ của vô sản, nhất là vô sản hai nước Pháp, Đức phải xử trí thế nào? Dĩ nhiên việc xác định thái độ ở đây tùy theo quan niệm về chiến tranh trong công cuộc giải phóng vô sản. Một số những người có chân trong Đệ nhất Quốc tế nhưng theo khuynh hướng Proudhon cho rằng tất cả những chiến tranh giữa các nước Âu châu đều có tính chất một tranh chấp giành giật ảnh hưởng, quyền lợi giữa các chế độ quân chủ chuyên chế mà thôi, do đó không liên hệ đến quyền lợi giai cấp công nhân. Vậy công nhân phải chống chiến tranh, hô hào giải giới và dùng đình công để đòi hỏi chấm dứt chiến tranh. Trái lại, Mác nhận định rằng chiến tranh có thể là một động cơ mãnh liệt của cách mạng và đôi khi là một yếu tố tiến bộ lịch sử; chính vì thế mà Mác đã hô hào ủng hộ cuộc chiến tranh chống Nga hồi 1848, vì Mác vẫn coi nước Nga với chế độ Nga hoàng chuyên chế là một ngăn trở lớn lao nhất cho cách mạng. Do đó đánh đổ được Nga hoàng tức là tiêu diệt được một lực lượng phản động nguy hiểm hơn cả. Mác còn nhìn nhận đôi khi chiến tranh đánh dấu một tiến bộ trong quá trình lịch sử giải phóng lao động. Chẳng hạn những chiến tranh có tính chất quốc gia nhằm thống nhất dân tộc chống việc thống trị của ngoại bang, mặc dầu những người cầm đầu và có công trong công cuộc tranh đấu đó là độc tài quân phiệt như Cavour đã thống nhất nước Ý và Bismark đã thống nhất nước Đức. Về sau, khi viết cho Engels, Mác có dịp bày tỏ lý do biện minh cho quan điểm trên: “Đối với một dân tộc lớn lao, không thể bàn một cách nghiêm chỉnh, trên phương diện lịch sử, những vấn đề nội bộ, dưới bất cứ hình thức nào, bao lâu nó chưa thực hiện được nền độc lập quốc gia. Một phong trào quốc tế chỉ có thể có được giữa những quốc gia độc lập, đồng đều”. Trước cuộc chiến tranh Pháp – Đức, Mác nhận định như sau: Napoléon đánh Đức, không phải chỉ đánh nước Phổ của Bismark mà chủ yếu là đánh dân Đức. Vậy nếu Napoléon thắng, thì trước hết sự thống nhất của Đức vừa chinh phục được có thể bị tan rã, và do đó không thể có phong trào thợ thuyền độc lập liên kết hùng mạnh, vì thế tất cả mọi lực lượng đều phải dồn vào công cuộc thiết lập lại độc lập, thống nhất quốc gia, sau là chế độ chuyên chế của Napoléon sẽ được củng cố chặt chẽ thêm, do đó trở thành một ngăn trở lớn cho phong trào quốc gia ở Trung Âu. Trái lại, nếu nước Đức thắng, chế độ chuyên chế Napoléon sụp đổ, sự thống nhất nước Đức không còn bị đe doạ và đồng thời phong trào độc lập quốc gia có thể phát động nhanh chóng, quyết liệt. Căn cứ vào phân tích trên, Mác kêu gọi thợ thuyền Pháp chống chiến tranh, chống Napoléon, tạo điều kiện thiết lập nền Cộng Hoà. Sau thất bại lớn lao ở Sedan, nhà vua đầu hàng và nền cộng hoà được tuyên bố thành lập ở Paris. Nhưng cuộc kháng cự của Bismark cũng không còn ý nghĩa và sẽ trở thành xâm lăng nếu Bismark tấn công nền Cộng Hoà Pháp. Mác kêu gọi thợ thuyền Đức chống Bismark và bác bỏ luận điệu đòi sáp nhập vùng Alsace Lorraine vào Đức để duy trì nền an ninh của Đức, đồng thời kêu gọi thợ thuyền Pháp vùng lên bảo vệ nền cộng hoà Pháp mới thành lập dù không phải do những phần tử thuộc giai cấp công nhân lãnh đạo. Nhưng Bakounine không đồng ý với Mác và cho rằng chính lúc “nền cộng hoà” còn yếu mới là lúc thuận tiện nhất để thiết lập một nền cộng hoà bình dân của thợ thuyền. Bakounine cùng với nhóm “French Branch” lập tức điều động bạn hữu, thu góp tiền bạc và đến Lyon tổ chức âm mưu lật đổ chính quyền lâm thời vì Lyon có nhiều phần tử quá khích hơn cả. Ngày 28-9, Bakounine và đồng bọn chiếm đóng Toà Đô sảnh Lyon, và tuyên bố Công xã cách mạng. Nhưng chỉ mấy giờ sau, âm mưu bị dẹp tan. Những nơi khác nổi lên như Marseille, Brest, cũng bị thất bại cả. Khi Mác được tin những “hoạt động khuynh đảo” của Bakounine, Mác nổi giận điên người và thét lên bọn họ đã làm hỏng hết cả. Trong khi đó, nước Pháp kháng cự một cách tuyệt vọng. Mác và trung ương “Quốc tế cộng sản” hô hào các quốc gia, nhất là nước Anh ủng hộ giúp đỡ nước Pháp. Nhưng ngày 28-1-1871, chính phủ lâm thời Pháp ký kết đình chiến với nước Đức. Chiến tranh chấm dứt. Tuy nhiên, sau khi đình chiến dân chúng Pháp mới thấy bại trận không hẳn là vì thiếu sự giúp đỡ ngoại bang mà là do chính phủ không cương quyết kháng cự, không dám huy động, võ trang thợ thuyền, thà rằng để cho quân Đức chiếm đóng còn hơn để cho một cuộc cách mạng vô sản bùng nổ cướp chính quyền, và chính vì sợ dân chúng công nhân vùng dậy mà chính phủ lâm thời vội vã ký đình chiến. Tình tự bất mãn, đó là nguồn gốc những hành động tổ chức đưa đến vụ “Công xã” Ba lê. Những người lãnh đạo công xã đều có chân trong “Quốc tế” nhưng tuyệt nhiên không phải do Trung Ương quốc tế vận động, khuyến khích hay đứng ra tổ chức Công xã. Mác và Engels đều không hay biết gì về những vận động, tổ chức Công xã. Tuy nhiên khi vụ Công xã đã bùng lên, Mác và Engels đều coi nó như đứa con tinh thần của Quốc tế cộng sản, là cuộc chiến đấu đầu tiên của giai cấp vô sản chống trưởng giả Âu châu. Nhưng Mác cũng lại là người thực tế, nhìn thấy trước công xã sẽ thất bại vì những khuyết điểm, sai lầm về quân sự, chính trị, chẳng hạn không bố trí cẩn thận những ngõ vào Paris, không chiếm đóng nhà băng, không dám tuyên bố nội chiến và tiến quân xuống Versailles khi Thiers còn chưa đủ thời giờ chỉnh đốn hàng ngũ… Do đó Mác đề nghị một giảng hoà giữa Paris và Versailles nhưng Bakounine lại nhất định chủ trương đánh đến cùng và nếu thất bại thì thất bại trong danh dự. Công xã thất bại, nhưng thất bại không tiêu diệt hoàn toàn lực lượng thợ thuyền và làm tê liệt chí tranh đấu cách mạng của giai cấp công nhân: “Đảng công nhân, với Công xã, vẫn sẽ được ca tụng như tiền phong vinh quang của một xã hội mới. Những tử sĩ của nó có chỗ đứng trong lòng giai cấp công nhân”.