רעיון הקרן הקיימת לישראל. הקונגרס אישר את הצעתו.
בשנים הראשונות לשבתו בהיידלברג הוא מתחיל את עבודתו הציונית הפובליציסטית והציבורית.
בראשית שנות השמונים יסד בהיידלברג אגודה לאומית בשם "ציון".
לאספת קטוביץ שלח טלגראמה שבה הוא מציע יסוד הקרן הקיימת לישראל.
בכדי למצוא את מחייתו, ביקש גם אמצעים אחרים להרוויח נוסף למשכורתו באוניברסיטה. למד את תורת השענות. בחדר האוכל שלו עמד שעון קיר שכונן אותו בידיו.
בסוף שנת 1897 יסדה קבוצת הסטודנטים אגודה בשם "שפה ברורה" והוא נבחר לנשיא הכבוד.
לקראת הקונגרס הציוני השני בבאזל (1898), עיבד ותיקן את הצעתו בדבר בית הספר הגבוה בא"י (האוניברסיטה העברית) וייסוד הקק"ל.
הוא שהציע לד"ר תיאודור הרצל בפברואר 1898 לכנס את הקונגרס הציוני השני הנ"ל. הרצל ענה לו ביום 18.2.98 ואישר את הצעתו.
הוא ראה כתנאי ראשון לליכוד העם, הפסקת הוויכוחים והחיכוכים הפנימיים. הוא דרש איפא התקרבות הדדית בין חלקים ושכבות של העם וסילוק הניגודים, כדי להגיע לאחדות.
הוא רצה לגשר בין החרדים ובין המשכילים, לאחד את התורה עם החכמה ולהקים מרכז, שיתווה דרך ברורה לנבוכי הזמן. להקמת המרכז הרוחני בא"י לכל העם, לכן הציע לייסד בא"י בית ספר גבוה, שממנו יצאו "תורה, חכמה ומוסר לכל בני ישראל".
עורר את העם לתחיה לאומית. נרתם גם לפעולות אחרות. קרא להתארגן, לייסד אגודות, לאסוף כספים ולשלוח לא"י אנשים שיסללו את הדרך להתיישבות גדולה. דרש להנהיג סדר נכון בעבודה, לקבל את דעת הרוב ואת מרות ההנהגה.
ראה את השיבה של בני ישראל לארץ-ישראל כתהליך איטי וממושך. עם ישראל, הנודד בין עמים אחרים זה מאות בשנים, לא יתעורר מהר, כמו שהתעוררו עמים אחרים, היושבים על אדמתם. לא הצטער על שיהודים רבים הגרו בימי הפרעות לאמריקה ולא עלו לא"י. לדעתו אין בכוחנו ואין גם ברצוננו לקבל את כל היהודים בא"י. עלינו להקים בא"י רק מרכז רוחני וגשמי. העולים לא"י צריכים לעלות מתוך בחירה חופשית, ולא מפני שהם נרדפים. העולים לא"י "שלבם בוער בקרבם מאהבת עמם וארצם", יהיו מוכנים להקריב את כל אשר להם למען ייסוד הבית הנאמן בארץ אבותינו. היה בטוח, שהקורבנות יהיו דרושים רק בזמן הראשון, כי אח"כ תתפתח הארץ על ידי המתיישבים היהודים והתושבים יחיו בה חיי רווחה.
הלכה והתחזקה אמונתו בהשגחה. הוא ראה אצבע אלוהים בעובדה, שעם ישראל נשאר קיים. התקומה הלאומית תתגשם, אבל לא ע"י נסים, "עלו ועבדו את אדמת אבותיכם, אדמת הקודש". הוא דורש איפוא ל קרב את הצעירים האלה ולא לדחותם. כנגד זה הוא דורש מהצעירים לסלוח לזקנים החרדים שלא חשו לעזרתם כמידת יכולתם, אולי מחוסר אמון בצעירים. הזקנים הם ששמרו במשך כל הדורות על התורה ועל ידי זה פעלו למען אחדות העם ולמען התחיה הלאומית המקווה. הוא קורא את הרבנים לתת את ידם לבניין הארץ, אבל הזהירם, שאם לא יתנו את ידם, תיבנה הארץ גם בלעדיהם. קרא לחדול מפילוגים ומהשמצה הדדית, ולזכור את המטרה העיקרית: להרים את כבוד עם ישראל.
בסוף הקיץ של שנת 1883 בא לאודיסה, כדי להשתתף בכינוס של החברה למדעי הטבע ולמתמטיקה, שהיה חבר בה. נפגש עם ידידו מ. ל. ליליינבלום ש היה גם הוא אחד הראשונים לרעיון תחיית עם ישראל בארץ אבותיו. באחד מלילות סוף חודש אלול תרמ"ג (1883) התקיימה ישיבה שבה השתתפו הרב פינסקר, ליליינבלום, פרופ' שפירא והפרופ' מ. מאנ דלשטאם מקיוב, שבא גם הוא לכינוס המדעי באודיסה. בישיבה זו נתקבלה החלטה בדבר הצורך בהקמת ועד מרכזי לאגודות להגירה, כדי לייסד מרכז התיישבות יהודי, אם אפשר בא"י. ההתייעצות החליטה בדבר כינוס קונגרס כעבור שנה לשם בחירת הוועד המרכזי הזה. כן הוחלט בישיבה על הקמת קרן, שתגייס כספים על ידי מם פרוגרסיבי בשיעור 0.001 מהכנסות כל חבר באגודה. בזה הונח היסוד להקמת "מרכז לתנועת חיבת ציון" בכללה ובמיוחד ברוסיה.
אף שהיה טרוד מאוד בעבודתו המדעית, עסק יומם ולילה בחיבור ספר גדול, ובכל זאת לא הניח את ידו מפעולה למען תנועת חיבת ציון. חיבר תקנון האגודה.
בשנת תרמ"ד (1884) ייסד בהיידלברג אגודה בשם "ציון" להפצת ידיעת השפה, הספרות וההיסטוריה שלהיהודים, למען יישוב א"י ובמיוחד למען הגשמת רעיונו בדבר "בית-ספר גבוה בארץ-ישראל (אוניברסיטה).
אחרי ועידת קאטוביץ בא לידי הסכם בין האגודה "ציון" בהיידלברג ובין הלשכה בווארשה של הוועד המרכזי של חובבי-ציון בדבר עזרה בתרגום חוזרי הלשכה מעברית לגרמנית. בגלל מצב בריאותו הרופף מוכרח היה להפסיק את טיפולו בתרגומי החוזרים. חדל להיות פעיל בתנועה. קולו נדם, חדל לפרסם מאמרים בעתונות. גם האגודה "ציון" לא התפתחה. היא חדלה למעשה להתקיים. הוא לא פסק להיות נאמן להשקפותיו על תחיית העם בארץ אבותיו, אבל ראה, שרק מעטים מבינים לרוחו ולכן התרחק מפעולה.
הצטמצם אז בד' אמות של עבודתו המדעית. בשטח זה זכה להישגים גדולים. עוד בשנת 1887 נתמנה לפרופ' שלא מן המניין, באותה שנה התחיל לעבוד עבודת מחקר מקורית בבעיות ה"חזרות" Iterations שבה חידש הרבה והעשיר על-ידי תיאוריות חדשות. את מדע המתמטיקה.
מלבד המתמטיקה, עניינו אותו מדעי החימיה, הפי