לקראת בחירות 1996 החליט לוי לפרוש מן הליכוד, עקב חילוקי דיעות ומחלוקות עם ראש התנועה, בנימין נתניהו. הוא הקים יחד עם אחיו מקסים לוי, את תנועת "גשר", שהתמקדה בנושאים חברתיים.
סמוך לבחירות ביקש נתניהו מלוי, לפרוש מן המירוץ ולאחד את רשימתו עם רשימות הליכוד ו"צומת" של רפאל איתן.
בעקבות נצחונו של נתניהו בבחירות מונה לוי בשנת 1996 לשר החוץ וסגן ראש הממשלה.