לפני תקופה קצרה נסעו המלחין יוסי פריד והזמר יידאלע מנדלסון יחד ברכב, ובמהלך הנסיעה השמיע פריד למנדלסון את הלחן שלו למילים "שמחתי באומרים לי בית ה' נלך", מתוך התהילים.
מנדלסון התלהב מהלחן הנפלא, ותוך יממה התייצב באולפן להקליט את השיר שהוא כל כך התחבר אליו, לאחר מכן השניים שלחו את השיר לאהרלה סאמט שהודיע מיד שהוא מצטרף לשירה וכך נוצר לו שיתוף הפעולה המיוחד הזה.
מנדלסון: "בתקופה של מלחמה בין האומות, הדבר היחיד שיש לנו זה את האמונה בה' והליכה בדרכיו. כמאמר הפסוק עליו מולחן השיר: "שמחתי באומרים לי בית ה' נלך".