Στις 28 Σεπτέμβρη του 1864 στο Λονδίνο, στο Σεντ Μάρτινς Χολ, έγινε μια διεθνής συγκέντρωση για να διαβαστεί η απάντηση των Γάλλων εργατών. Στη συγκέντρωση αυτή πήραν μέρος αντιπρόσωποι του προλεταριάτου της Αγγλίας, της Γαλλίας, της Γερμανίας, της Ιταλίας, της Πολωνίας και της Ιρλανδίας. Ο Μαρξ εκλέχτηκε στο προεδρείο της συγκέντρωσης σαν αντιπρόσωπος των Γερμανών εργατών. Η συγκέντρωση αποφάσισε να ιδρυθεί η Διεθνής ένωση των εργατών.
Σκοπός της Διεθνούς (International) ένωσης των εργατών ήταν να εκπληρώσει το ιστορικό καθήκον της συσπείρωσης των δυνάμεων του παγκόσμιου προλεταριάτου. Είχε και έναν άλλο σκοπό που ο Μαρξ τον διατύπωσε αργότερα στο γράμμα που έστειλε στο Γερμανό σοσιαλιστή Φρ. Μπόλτε. «Η διεθνής, έγραφε ο Μαρξ, ιδρύθηκε για να αντικαταστήσει τα διάφορα σοσιαλιστικά και μισοσοσιαλιστικά τμήματα με μια πραγματικά αγωνιστική οργάνωση της εργατικής τάξης».
Τα καθήκοντα αυτά προσδιόρισαν το περιεχόμενο του ιδρυτικού μανιφέστου και του καταστατικού της Διεθνούς ένωσης των εργατών. Και τα δυο κείμενα γράφτηκαν από τον Μαρξ και εγκρίθηκαν ομόφωνα την 1η Νοέμβρη 1864 από την επιτροπή που εκλέχτηκε από τη συγκέντρωση του Σεντ Μάρτινς Χολ για να καταρτίσει το πρόγραμμα της Διεθνούς ένωσης της εργατικής τάξης.
Η Διεθνής ένωση των εργατών βασίστηκε στην αρχή του δημοκρατικού συγκεντρωτισμού. Ανώτατο όργανο ήταν το ετήσιο συνέδριο. Το συνέδριο εξέλεγε από τα μέλη του για ένα χρόνο το κεντρικό, ή όπως ονομάστηκε αργότερα, το γενικό συμβούλιο, που ήταν το ανώτερο όργανο της Διεθνούς στο χρονικό διάστημα που μεσολαβούσε ως το επόμενο συνέδριο.