ב- 21 בינואר 1924 נפטר לנין מהתקף לב.
המועמד הטבעי לרשת תפקידו כמנהיג המפלגה היה טרוצקי. אולם תמיכתם של רבים מחברי הפוליטביורו התחלקה דווקא בין זינובייב, קמנייב וסטלין.
טרוצקי היה כה בטוח במעמדו במפלגה, עד כי לא טרח לקחת חלק במאבק שהתנהל ערב מותו של לנין.
אולם בעוד טרוצקי עסוק בעניינים המדיניים והצבאיים, אסף סביבו סטלין תומכים רבים, ועם מותו של לנין, השתלטו סטלין ותומכיו על הקרמלין.
סטלין טען כי לנין מינה אותו בצוואתו למנהיג המפלגה, אולם סירב לחשוף את הצוואה המדוברת.
טרוצקי נאלץ להסתפק בתפקיד זניח במשרד המלחמה, לאחר שכבודו הפגוע הנחה אותו לסרב להצעתו של סטלין, לפיה יקבל לידיו את תפקיד שר ההגנה וסגן ראש הממשלה.
סטלין, אשר חשש מכוחו הפוליטי והצבאי וסמכותו האידיאולוגית של טרוצקי, ניהל נגדו תעמולה נמרצת, אשר נשאה פרי בינואר 1925, עת סולק טרוצקי ממשרד המלחמה, והוקע על-ידי המפלגה כמנשביק, אשר חתר תחת לנין.
טרוצקי, נאמן לדוקטרינת "טובת המפלגה", נמנע מלהשיב מלחמה נגד סטלין ותומכיו, ולדרוש חשיפת צוואתו של לנין.
באוקטובר 1926 סולק מן הפוליטביורו ושנה לאחר מכן הוצא (עם זינובייב אליו התחבר) משורות המפלגה הקומוניסטית.
בינואר 1928 הוגלה למרכז אסיה ולבסוף, בינואר 1929 נאסרה עליו השהות בברה"מ.