הוא חזר לארץ בשנת 1929 כאשר פרצו מאורעות תרפ"ט, והיה למפקד המגינים על ירושלים. בתקופה זו נתגבשה בו השקפת עולמו ובה הגה את חזון המלכות העיברית.
לאחר עלית הנאצים לשלטון בשנת 1933 החליט לנטוש את לימודיו ולהקדיש את עצמו למאבק על חרות ישראל.
הוא נמנה עם חברי "ההגנה הלאומית" ולאחר הפילוג הראשון בתנועה פרשו חלק מהחברים להצטרפו לתנועת ההגנה, אברהם שטרן החליט להקים את האצ"ל.
יאיר שטרן חיבר את המנון האצ"ל, "חיילים אלמונים" המתאר את אבני הבנין עליהם מושתת הארגון: הגנה וכיבוש, מוות למען העם, הקמת המולדת בדם ואש.
מאורעות תרפ"ט ותרצ"ו היוו נקודת מפנה במאבקו של שטרן שהושפע רבות מתורתו של ז'בוטינסקי ומדעותיו של דוד רזיאל, והוא החליט כי אין טעם עוד בהבלגה והגיע העת למלחמה גלויה.
לאחר עלית הנאצים לשלטון והכרזת מלחמה עליהם ע"י הבריטים והצרפתים, הפסיקה התנועה הרווזיוניסטית ועימה האצ"ל את פעולותיה על מנת לסייע לבריטים במלחמתם בנאצים, מאבק פנימי ממושך בתוך האצ"ל התפרץ, כאשר בראש החולקים כל מדיניות ההבלגה עמד יאיר שטרן. הוא פרש מהאצ"ל והקים יחד עם חבריו הטובים את ארגון לוחמי חירות ישראל, הלח"י.