באמריקה, הוציא במחנה עתון ציוני ברוסית וחברי האגודה רשמו אותו בספר הזהב של הקהק"ל. הטיף לרעיונו הציוני-הסוציאליסטי: ליסד בארץ נקודותישוב שיתופיות על בסיס של עבודה עצמית והגנה בכוחות עצמיים על ישובי היהודים בארץ, ובחר לו 11 חברים, שאחרי השחרור מהשבי יעלו אתו ארצה להגשמת הרעיון. כתב למ. אוסישקין את הצעתו בדבר הקמת כח הגנה יהודי בארץ, אך אוסישקין דחה את הצעתו בהחלט והשיב לו, כי בארץ לא היתה מעולם הגנה עצמית, איננה כיום וגם לא תהיה בעתיד...
כשהוחזר מהשבי לגדודו בחארבין נתקבל בכבוד גדול על גבורתו ועל פעולתו לטובת השבויים. מפקד הגדוד הציע לגנרל להעלותו לדרגת סגן-קצין ראשי, אך הגנרל לא העיז לתת ליהודי דרגה גבוהה כזו על דעת עצמו, ורק אחרי שהוצג טרומפלדור בפטרבורג בפני בית המלוכה (לפי אחד המקורות מסרה לו המלכה אות הצטיינות ויד מלאכותית), ניתנה לו דרגת סגן לויטננט ואחרי שעמד ב-1907 בבחינת הבגרות נתמנה ללויטננט בחיל המילואים.
אחרי ביקור במשפחתו חזר לפטרבורג להשתלם במדעים לפני עלותו ארצה. התכונן בלימודים ועבר את בחינת הבגרות בהצלחה וגרשם במחלקת המשפטים של האוניברסיטה, בתקופת הכנותיו לבחינה ביקרה אצלו נסיכה רוסית והציעה לו עזרה לקאריירה צבאית גבוהה, בתנאי "פעוט" - שימיר את דתו. הוא הודה לה באדיבות על רצונה הטוב ועל הבטחתה לעזור לו בבל עת שיפנה אליה, אלא שלא פנה עוד אליה לעולם. הוא לא נשא עוד את נפשו לצבאיות. אך היה מוכן להלחם על המולדת היהודית הן כקצין והן כחייל פשוט.
בתקופת לימודיו באוניברסיטה חי עם עוד ששה חברים חיי קומונה בדירה שכורה לכולם בשותפות. השתתף בחיים החברתיים של הסטודנטים היהודים למד עברית ותולדות ישראל והטיף בין הסטורנים ליסוד קומונה חקלאית בארץ-ישראל כדי להקים חברה חדשה על בסיס המוסר והצדק, ללא ניצול הזולת. הסטודנטים לא נמשכו ביותר אחרי הרעיון ה"אכזוטי" של הגשמת סוציאליזם לא-מרכסיסטי ודוקא בפנה נדחה באסיה. את הראשון שהסכים לדעותיו (יהודה קו פילביץ , שהיה אח"כ חברו בעבודת "החלוץ" ומיוצרי "גדוד העבודה" על שמו) מצא לא בין הסטודנטים אלא בכלא לאסירים פוליטיים במבצר פטרופאבלוסק בפטרבורג, שמה הוכנס יוסף לזמן קצר כשנעצר בשל השתתפות בהפנגת סטודנים בלתי-חוקית אחרי מות טולסטוי. ועוד חבר מצא לו באמצעות הדואר זה היה צבי שץ תלמיד ביה"ס הריאלי ברומני שבאוקראינה (אח"כ פועל וסופר בארץ; נהרג יחד עם י. ח. ברנר וחבריו במהומות מאי 1921 ביפו), שהגה והציע רעיונות דומים ושמעו הגיע אל יוסף ומאז ביררו וליבנו ביניהם את הרעיון בחליפת מכתבים, בראשית 1910 עלה שץ לארץ לעבוד ולחקור את התנאים להגשמת הרעיון ואחרי שנה חזר לרוסיה לשם הכנת קבוצה להגשמה. בינתים יצא יוסף בחדשי החופש מלימודים להכשיר את עצמו בחווה לעבודה חקלאית. באוגוסט 1911 נסע לרומני ויחד עם שץ ערכו שם ועידה בת שבעה משתתפים, שם נפגש בראשונה עם שץ ועיבדו את תכנית הפעולה ואת ביסוסה הרעיוני. אח"כ חזר לפטרבורג להשלים את לימודיו. התעודה ממדרגה שלישית שקיבל לא סיפקה אותו, ובינתים אף הוצא לזמן-מה מהאוניברסיטה באשמת התעסקות ב"פוליטיקה". השלים בלימוד פרטי את השיעורים שלא שמע, נבחן בהם בסתיו 1911 ונכשל בחוקי הכנסיה. באביב 1912 נבחן שנית והפעם קיבל תעודת-גמר כחפצו ומעתה היה חפשי להתמסר לרעיון המרכזי של חייו ולעלות להגשימו בארץ-ישראל.
בסתיו 1912 עלה לארץ עם קבוצה בת 5 חברים ו-5 חברות ונכנסו לעבוד בחות מגדל שליד טבריה. נסיונותיהם להקים את הקומונה לא עלו יפה ולאחר זמן עבר יוסף לעבוד בדגניה ובעבודתו ביד אחת הצליח כמו פועל מהטובים והחזקים ביותר, נתחבב על כל הנפגשים אתו והילת הגבורה האופפת אותו ויחסו הענו והלבבי לכל אדם וחזונו על טוהר חברת העתיד היו לנכסים רוחניים יקרים בצבור החלוצים והעובדים.
ב-1913 נסע לוינה, לקונגרס הציוני ה-11., והשתדל - אך לשוא להשיג את הבטחת מנהיגי הציונים, שבתות מגדל תהיה רק עבודה עברית. משם נסע לרוסיה להתראות עם חברי קבוצתו ולרכוש חברים חדשים. שם מצא תמורה גדולה באמו: היא "חזרה בתשובה", הפכה ליהודיה בלב ונפש והשתוקקה לעלות ארצה ולעבוד במשק הבית בקומונה שיקים "אוסיה" שלה. (נפטרה בפיאטיגורסק ב-1920). אחרי זמן קצר חזר לארץ ולעבודתו בדגניה.
משפרצה מלחמת-עולם א' קיבלו כל פועלי הקבוצה את הנתינות הטורקית, לבל יגורשו מן הארץ. אך יוסף לא ראה את עתיד הארץ בנצחון טורקי, וכקצין-מילואים רוסי לא נתנו רגש-הכבוד הצבאי להשילך את מעמדו ככלי-אין-חפץ-בו, וכשהוכרזה פקודת הממשלה לנתיני רוסיה להתאזרח או לצאת, לבש את מדי הקצין הרוסי, התיצב לפני המושל הטורקי בטבריה ונשלח מהארץ בכבוד הניתן לקצינים.
יצא עם היוצאים לאלכסנדריה של מצרים. שם נפגש עם זאב ז'בוטינסקי ויחד זמו ופעלו ליצירת גדוד עברי, שישתתף במלחמה על ארץ-ישראל במסגרת הצבא הבריטי, וכך יוכל הוא לצאת ידי חובתו גם כלפי מולדתו הרוסית, בהלחמו בצבא בעלת בריתה, וגם כלפי מולדתו האמתיתי ארץ-ישראל, בהלחמו למען שחרורה מהשלטון הטורקי המתנגד לרעיון ולמפעל של הציונות. משסירבה המפקדה הבריטת במצרים לקבל לצבא גדוד יהודי של לוחמים בנשק והסכימה רק לגדוד של שרות