שהם כעורים בלאום הגרמני האדיר ובמולדתו, וגם חינוכו היה גרמני כללי. אך עוד בנעוריו נמשכה התענינותו אל "להודי המזרח" (מפולין, ליטא וגליציה), שבאו לבקש מיהודי גרמניה הנדיבים והאמידים עזרה לעצמם או למוסדות וגם בסביבה הפוקרת שגורו על אורח-החיים המסורתי (תפילה בטלית ותפילין, זהירות בשמירת שבת וכשרות וכדומה); התענינותו התפתחה לאהדה מוקירה והגבירה בו את הרגשת שייכותו הישראלית על הגרמנית, את הזיקה החיובית למסורת ולתקוות האומה ולשאיפותיה.
אחרי גמרו את בית-הספר התיכון, למד בגימנסיה במגדבורג וסיים בה למודיו. למד באוניברסיטת ברלין, בה הוכתר ב-1892 בתואר דוקטור לפילוסופיה. בשנות לימודיו היה פעיל בחוגי המתלמדים בני דתו והתאמץ לשכנעם בדבר שייכותם ללאום היהודי ולארגנם לפעולות של השתלמות ברעיון זה ובידיעת היהדות בתורת-חייהם וכן לפעולות למען תחיה לאומית בארץ-ישראל, כדוגמת טובי הסטודנטים היהודים ילידי רוסיה, שפנו לתנועות "חיבת ציון" ו"בילו", ויחידי סגולה בין להודי גרמניה נאמני המסורת, שהתמסרו לפעולה מאורגנת למען "ישוב ארץ-ישראל". בשנות 1886/87 כתב בקביעות ב"זלבסט-אמנציפציון" של נתן בירנבוים (ממבשרי התחיה הלאומית בין "יהודי המערב" לפני קום הציונות המדינית), ובשנת 1890 יסד בברלין את אגודת "חובבי שפת עבר", למד בעצמו לדבר עברית וניסה להוציא ספרי עזר ללימוד השפה העברית.
נשא לאשה את חנה (יוחנה) בת הרב ברוך מנ חם אוירבאך מפלך פוזנא, אחותם של ד"ר ישראל אוירבאך, הרופא והעסקן הציוני ד"ר אליהו אוירבאך מחיפה והעסקנית נני מרגוליס. (חנה היתה פעילה בציונות ובמפעלי סעד יהודיים בברלין ובארץ; נפטרה בתל-אביב, י"ג שבט תש"ח - 24.1.48), וביתם בברלין הלה הראשון, ובמשך זמן רב אף היחיד, שהדיבור העברי היה חי בו ואף המשרתת הנוצרית דיברה עברית.
ב-1892 יסד בברלין את האגודה הציונית "ישראל הצעיר", החל לתפוס מקום מרכזי בחוגי הסטודנטים היהודים הלאומיים מרוסיה והשתתף עם ד"ר יוסף לוריא , ד"ר שמריהו לוין וליאון מוצקין ביסוד אגודתם המדעית של הסטודנטים מרוסיה, שתפסה מקום חשוב בתולדות התנועה הציונית. המשיך בתעמולה ציונית בדיבור ובכתב. ערך, והוציא בשנת 1893/4 את העתון "יודישה פולקסצייטונג" ובשנות 1895/6 את הירחון "ציון" בגרמנית עם תוספת זעירה בעברית וכתב ב"יודישה רונדשאו".
כשהכריז הרצל על יסוד הציונות המדינית הצטרף אליו בין הראשונים, הרצה בחוגים שונים בברלין על מחברתו "מדינת היהודים" על פי דפי ההגהה שהשיג לפני צאתה מהדפוס להפצה בקהל.
ב-1895 נסע ארצה. עם וילי באמבוס , מראשוני חובבי ציון בגרמניה, כדי לארגן את תצוגת תוצרת המושבות העבריות בתערוכה העולמית בברלין. היה מורה להתעמלות בבי"הס לבנים ביפו, הוציא בולטין של ידיעות מהארץ בגרמנית וגם שמש כתב לעתונים יהודיים באירופה ובמיוחד בעתון "וולט" לד"ר תיאודור הרצל. נבחר כציר לקונגרס הציוני הראשון מטעם ציוני יפו ואכרי מושבות יהודה (באספת בחירות שנערכה ביקב ראשון לציון), ומאז היה ממקורביו ומעוזריו המסורים של הרצל, אם כי היו ביניהם לפני כן חליפת מכתבים. משבא הרצל עם בני לויתו לבקר בארץ (בראשית תרנ"ט) שקד על סידור איכסונו בירושלים, מקודם במלון קמניץ, ואח"כ, משלא התאים לו שם המקום, בהיות המלון מלא קציני-צבא טורקיים לרגל ביקור הקיסר וילהלם בירושלים והרצל ביקש דירה שקטה, טרח יחד עם זאב (וילהלם) גרוס ומצאו לו דירה בבית ר' יונה מארקס ברחוב ממילא.
ב-1898 חזר לגרמניה ונתמנה אחרי זמן מה לספרן בספריה האוניברסיטאית בברלין, המשיך בפעילות ציונית ותרבותית לאומית, באותו הזמן היה המיסד והעורך של העתון הציוני "יודישה רונדשאו" שהופיע בברלין. היה מיוזמי הרעיון ליסוד הספרית הלאומית בירושלים ומיוצרי תנועת "שומריה", עזר לד"ר חזנוביץ באיסוף ספרים לספריה הלאומית, הוציא חוברת על תולדות הציונות, השתתף בפעולות ארגוניות ותרבותיות של הסטודנטים הציוניים, וב1910 השתתף ביסוד ההסתדרות לשפה ולתרבות עברית בגרמניה.
לרגל ההצעה למנותו למנהל הספריה הלאומית בירושלים, ביקר בארץ ב-1922 ואח"כ יצא לארצות הברית לתעמולה ואיסוף ספרים וכספים לטובת הספריה. ב-1924 הוציא יחד עם עמנואל וליקובסקי את כתבי האוניברסיטה העברית "מתמטיקה ופיסיקה" ו"קדם ויהדות". באותה שנה השתתף ביסוד האגודה "סונצ'ינו" לביבלוגרפיה עברית וישראלית בברלין ונבחר לנשיאה.
ב-1933 עלה ארצה ונתמנה למנהל הספריה העירונית "שער ציון" בת"א והתמסר לפעילות באגודה הדתית-הלאומית של עולי גרמניה "איחוד שיבת ציון",