Le 31 mars 1954, l'URSS a entrepris une tentative résolue d'adhérer à l'Otan. La note officielle demandant d'adhérer à l'Alliance avait été adressée aux gouvernements des États-Unis, du Royaume-Uni et de la France. La requête de l'URSS d'il y a 65 ans de rejoindre l'Otan rappelait que la formation de blocs militaires avait précédé les deux Guerres mondiales, écrit le site d'information Gazeta.ru. Selon Moscou, en approuvant la candidature soviétique les puissances occidentales auraient mis en avant les objectifs pacifiques du projet, et non son orientation nette contre l'URSS - ce dont l'Otan était soupçonnée à raison. "L'Organisation du traité de l'Atlantique nord cesserait d'être un groupe militaire fermé d'États et serait ouverte à l'adhésion d'autres pays européens - ce qui aurait une importance primordiale pour le renforcement de la paix globale tout en créant un système efficace de sécurité collective en Europe", affirmait la note de l'Union soviétique. Les pays occidentaux ont fermement rejeté l'initiative soviétique. Toutefois, il est tout à fait possible également que le Kremlin n'espérait pas sérieusement rejoindre le club de ses opposants idéologiques, avec lesquels la confrontation montait en puissance depuis la fin de la Seconde Guerre mondiale à travers la planète, de l'Allemagne jusqu'à la Corée. La Guerre froide s'aggravait, qui avait commencé après le discours de Fulton prononcé par Winston Churchill en 1946 et après lequel les Américains, les Britanniques et les Français avaient commencé à voir leur récent allié de la coalition antihitlérienne comme un dangereux ennemi. La diplomatie soviétique, sous la direction de Viatcheslav Molotov, a donc joué un coup rusé dont l'issue, quelle qu'elle fût, ne pouvait être que favorable pour l'URSS. En cas de réponse positive, l'Union soviétique se rangeait non seulement du côté de ses récents adversaires, mais recevait également l'opportunité de "percer les véritables intentions de l'Otan de l'intérieur". En cas de refus plus clair de l'Occident d'accepter Moscou dans son équipe, le Kremlin pouvait annoncer un isolement provoqué et avoir un prétexte pour créer sa propre organisation militaire. En déposant sa demande d'adhésion à l'Otan, le nouveau gouvernement soviétique cherchait notamment à atténuer la situation internationale après la mort de Joseph Staline. Ce dernier avait également cherché à se lier d'amitié avec l'Occident, ou du moins à afficher une telle volonté. Début 1949 déjà, le ministre des Affaires étrangères de l'URSS Andreï Vychinski, avec la médiation du parti communiste britannique, avait envoyé à Londres une note proposant d'aborder la participation de Moscou à l'Union de l'Europe occidentale - le prédécesseur idéologique de l'Otan. La réponse négative qui avait été opposée à cette proposition avait permis à Staline de qualifier cette alliance de "minage sous l'Onu". Le thème de l'adhésion soviétique à l'Alliance est revenu à l'ordre du jour en 1952 après la première expansion de l'Otan, qui s'était rapprochée des frontières méridionales de l'URSS avec l'adhésion de la Turquie. Lors de son entretien avec l'ambassadeur français Louis Joxe, en entendant que le président Charles de Gaulle considérait l'Alliance uniquement comme une organisation pacifique, Staline a ironiquement demandé à Andreï Vychinski: "Dans ce cas, ne devrions-nous pas adhérer à l'Otan?" L'URSS cherchait comment obtenir des membres de l'Otan la promesse de ne pas s'ingérer dans les affaires intérieures d'autres pays. L'un des partisans convaincus du dépôt d'une demande d'adhésion à l'Otan en 1954 était l'expert du ministère des Affaires étrangères Andreï Gromyko. Le projet soviétique de traité paneuropéen sur la sécurité collective avait été élaboré avec sa participation active: l'Union soviétique suggérait d'examiner ce document en parallèle avec la question de l'adhésion à l'Otan. Le 19 mars, une note a été envoyée au présidium du Comité central du Parti communiste de l'Union soviétique (PCUS), affirmant: "Le ministère des Affaires étrangères juge utile d'adhérer au traité de l'Atlantique nord. Cette déclaration mettrait dans une situation difficile les organisateurs de l'Alliance de l'Atlantique nord qui soulignent sa prétendue nature défensive et le fait qu'elle ne serait pas dirigée contre l'URSS ou les pays de la démocratie populaire." En même temps que l'Union soviétique, les républiques socialistes soviétiques d'Ukraine et de Biélorussie ont également déposé des demandes d'adhésion à l'Otan. Comme dans le cas de l'adhésion à l'Onu en 1945, quand il fallait accroître son influence, Moscou cherchait à persuader le monde du statut indépendant de ces républiques qui faisaient partie de l'Union de leur plein gré. Les gouvernements des principales puissances occidentales n'ont pas cru Moscou, supposant la nature populiste des propositions soviétiques. Prévalait l'avis selon lequel les véritables intentions de l'Union soviétique étaient, premièrement, de repousser les États-Unis d'Europe et, deuxièmement, de détruire l'Otan de l'intérieur. Rien que pour commencer les discussions sur les deux questions, il a été exigé de l'URSS de quitter l'Allemagne et l'Autriche, de renoncer à ses bases militaires en Extrême-Orient et de signer un accord sur le désarmement. Inutile de dire que l'Occident avait également conscience du caractère irréaliste de telles conditions. Le gouvernement soviétique s'est démonstrativement offusqué du refus de l'Otan. Le communiqué officiel publié à l'époque exprimait le regret par rapport aux positions de Washington, de Londres et de Paris qui, en paroles, déclaraient leur aspiration "à contribuer à la détente dans les relations internationales", mais montraient "autre chose" dans les faits. En 1955, le statut de membre de l'Otan a été accordé à la RFA, ce qui a définitivement dissipé toutes les illusions concernant l'orientation de l'Alliance. La même année a été signé un accord sur la création d'une alliance militaire des pays socialistes d'Europe: elle incluait, hormis l'URSS, l'Albanie, la Bulgarie, la Hongrie, la RDA, la Pologne, la Roumanie et la Tchécoslovaquie. En 1961 est apparue une autre organisation rassemblant près de 120 États refusant de faire partie de l'Otan ou du pacte de Varsovie: le Mouvement des non-alignés, mené par la Yougoslavie socialiste, l'Inde et l'Égypte.
