Constituida en Berlín en 1922 por diversos grupos anarcosindicalistas y sindicalistas revolucionarios que rechazaban el neutralismo sindical de la Carta de Amiensasí como la dependencia de partidos políticos, tanto comunistas (Internacional Sindical Roja) como socialdemócratas (Federación Sindical Internacional)..
En efecto, la guerra de 1914-1918 había firmado la quiebra del internacionalismo socialdemócrata, y revelado las disensiones entre la izquierda gubernamental y la izquierda revolucionaria (el socialdemócrata Noske hizo así matar a la Liga Espartaquista alemana, entre los que estaban Rosa Luxemburgo y Karl Liebknecht). La revolución rusa, que había representado una esperanza para el movimiento anarcosindicalista, decepcionó rápidamente. Pronto los anarcosindicalistas se dieron cuenta que no debían esperar ninguna emancipación por parte de los Bolcheviques.
La principal novedad programática de la AIT con respecto al movimiento sindical revolucionario anterior la primera guerra mundial y a la revolución rusa, era la rotura definitiva con los partidos políticos, que ya no podían ser considerados como elementos que formaban parte del movimiento obrero como daba a entender la Carta de Amiens, sino que debían ser tratados como enemigos de los trabajadores.
Organizaciones poderosas con varias centenas de millares de miembros como la FORA Argentina, la USI en Italia, CGT en Portugal, IWW en Chile o, más conocida, la CNT española eran las principales organizaciones que constituían la AIT a principios del siglo XX.
La AIT también tuvo la particularidad de agrupar además de a organizaciones de masas, a grupos de propaganda anarcosindicalistas. (Como en los años 30, la Federación Anarquista Polaca, miembro de la AIT).
No obstante las secciones fueron laminadas por la represión ejercida por las dictaduras de toda clase (nazismo en Alemania, fascismo en Italia y en Portugal,franquismo en España, comunismo en Bulgaria y en los países del este o en Cuba, dictaduras militares en América latina) perdiendo la pujanza de las primeras décadas del siglo XX. A pesar de ello, la muerte de la AIT, no se produjo. Consiguió sobrevivir durante las décadas terribles de la guerra fría, negándose a tomar partido por uno u otro de los beligerantes. Durante esa época, la AIT se vio muy mermada, con sólo cinco secciones, dos de ellas (CNT y la sección Búlgara) en el exilio.
En el congreso de 1980 se inició una gran mejora, con diez secciones y una reorganización de la CNT, que fue capaz de enviar delegados de España por primera vez desde 1930. También entraron las reforzadas USI y NSF noruega, junto con SF del Reino Unido, la WSA de EE.UU., la FAU alemana y la sección australiana.
Esta renovación se acompaña de una clarificación en cuanto a sus fines perseguidos políticos e ideológicos. Así, en el controvertido congreso de Madrid en 1996, las tendencias sindicalistas "puras" fueron excluidas de la AIT (La tendencia vignoles de la Confederación nacional del trabajo (Francia) así como la tendencia romana del USI), por participación en las instituciones de colaboración de clase que reforzaban el Estado (elecciones sindicales). Ese mismo Congreso fue también el de la apertura al este, apenas algunos años después de la caída del Muro de Berlín, con la acogida de nuevas secciones checas, eslovacas y rusas.
En los años 2000, otras nuevas secciones entraron a formar parte de la AIT, la ASI Serbia y COB brasileña la cual fue la encargada de organizar el XXIV Congreso.4 Este último congreso estuvo marcado por la detención en Belgrado del secretario de la AIT, Ratibor Trivunac, junto con otros activistas de la ASI y anarquistas serbios. Así mismo la ZSP fue admitida como sección de la AIT en Polonia.5
El próximo congreso está previsto celebrarse en el 2013 en España, hasta entonces las funciones de la Secretaría las desempeñará la sección noruega NSF.5
