חמה העולמית הראשונה פעלו יחד כעסקני הסיוע השומרוני, אשר תעודתו היתה כפולה: מתן עזרה לנמצאים בחבל החזית ביהודה (הקו הדרומי - כפרסבא) ולמגורשי יפו ותל-אביב, אשר זכרון יעקב היתה למקלט לרובם. שניהם היו מאוחדים גם בעמדתם השלילית לפעולות-הסתר של הקבוצה האהרונסונית "נילי". ביום השואה של זכרון יעקב, כאשר הוקפה צבא תורכי וכל בתי המושבה היו טרף לבילוש רצחני, היה לבער כל אוצר המכתבים וכתבי היד שהיו ברשותו, טרם יפלו בידים רעות. בקרב מגורשי יפו-ת"א נמצא גם יוסף חיים ברנר , אשר הכיר כאן לראשונה את משפחת רמז ויהי בה "לבן-בית" ואף לדייר-משנה, בעברה לתל-אביב.
העקירה מזכרון יעקב וההליכה לתל-אביב באה בתוקף דרישת קבוצת החברים מעוררי התנועה לאחדות העבודה - ובראשם ברל כצנלסון למען יתן ידו עמהם מקרוב. כל משפחת העובדים - העירוניים והחקלאיים, הפועלים והמורים, ה"הולכים", אשר התנדבו לצבא ונפגשו בתחומי הצבא פגישת אחים עם חברים מתנועת פועלי-ציון באמריקה, וה"נשארים" - לא מנתה יחד אלא כ-4000 איש והיא הפכה כולה, לעת גמר המלחמה העולמית, למצולה רותחת, מתוך ערגה למפעל ישובי רב ולאיחוד. הוא הטיל את עצמו למצולה זו, במלוא להטו. הוא ערך, בשותפות עם ברל כצנלסון לבוש המדים, את ה"קונטרס", הוא כתב את ההקדמה לחוברת "הצעה לאיחוד פועלי ארץ ישראל", אשר נתחברה על ידי ב. כ. ונחתמה על ידי חברי ועדת האיחוד: י. בן-צבי, ד. בן-גוריון, ש. יבנאלי, י. טבנקין, ברל כצנלסון וד. רמז, הוא סובב בערים ובמושבות לבירורים בענין האיחוד. ולאחר מעמד ועידת פתח-תקוה, כשהאיחוד לא יצא שלם ו"הפועל הצעיר" נשאר עדין במחיצתו, היה הוא מזכיר הסתדרות הפועלים החקלאים של "אחדות העבודה". בחנוכה תרפ"א, בועידת היסוד של ההסתדרות בחיפה, זכה להכריז כיושב ראש: "נוצרה הסתדרות הכללית של העובדים העברים בארץ ישראל".
מטעם ההסתדרות הוטלה עליו המשימה: לאחד את ההתחלות הקבלניות של "אחדות העבודה" ו"הפועל הצעיר" ולעמוד בראש מפעל מאוחד קבלני של פועלי ארץ ישראל, אשר שמו נקרא אז: "המשרד לעבודות צבוריות, בנין וחרושת" - ואשר הכביש את מלאכת הסלילה והבנין והחיצוב והסיתות לפני העליה השלישית. אחר-כך נקרא בשם "סולל בונה". ולמרות הגיעו לשיתוק בשנת 1927, הוקם והופעל שוב על ידי גרעין ממנהליו הראשונים, ובראשם שמואל מרגולין, דויד הכהן והלל דן והועלה משנה לשנה, בכוח תבונה ותנופה, התמדה והעזה, למדרגת גדולמפעלי-סלילה ובניה-וחרושת בישראל ובמזרח התיכון. בועידה השניה של ההסתדרות (שבט תרפ"ג) העלה את ענין שיכון העובדים, ובראשותו הוקם המוסד "שיכון", אשר שינה את פני המציאות, בכוח פעולה שט תית ברכישת חלקות אדמה לשכון פועלי העיר והמושבות, בגיוס כספים לאשראי איפותקאי, בקביעת תכניות לטפוסי-הבתים ובהקמת השכונות ומעונות העובדים המשותפים בפנים הערים והקריות המפוארות על ידן, מעין "קרית חיים", "קרית עבודה" ודומיהן. המוסד ופעולתו נתאזרחו עמוקות. בחיי הארץ המתאכלסת - ובדמות "שיכון" הוקם, עם התחלת קבוץ הגלויות, "עמידר", משותף להנהלת הסוכנות היהודית ולממשלת ישראל.
בשלוש-עשרה שנות פעולתו כמזכיר הכללי של ההסתדרות ביצר את חומותיה, בהתקינו את המס האחיד ובבנותו את קרן חוסר העבודה, על שתי זרועותיה "ביצור" ו"משען, אשר ממנה הסתעפה רשת חדשה של קרנות-גמל הסתדרותיים - נוספות על "קופת החולים": לעזרת חברים לעת זקנה ("דור לדור"), לאלמנות ("מציב") ולהרחבת בסיס הקיום (קרן עבודה עברית). על נדבכים אלה של עזרה הדדית, הוקמו במאמץ רב, אשר נרתמה לו קבוצת חברים ובראשם גולדה מאירסון - בשנות חוסר עבודה חמור - המפדים , א', ב' וג', למופת לכל הישוב.
כשהושבת נמל יפו במאורעות 1936, לקח חלק בראש בגיוס הכוחות להקמת נמל תל-אביב והניע את ההסתדרות לייסוד "נחשון" - החברה הימית של ההסתדרות לספנות ולדיג, ועשה אותה מנוף להקמת חברת "צים", משותפת להנהלת הסוכנות ולהסתדרות, אם הצי הסוחר הישראלי. הוא שקד על גידולם ושגשוגם של המפעלים המשקייםהכלכליים של חברת העובדים, נטל חלק פעיל ביסוד "ניר" ובהרכשת "הסנה" להסתדרות, עקב נאמנה את התפתחות "המשביר", המנצח על הצרכנות השיתופית. וליווה מילדותה את התעבורה השיתופית, אשר הצילה לישוב את הענף הכלכלי החשוב הזה כענף עברי. הוא עורר את ההסתדרות להרחיב את רשת בתי-הספר שלה לחנוך מקצועי ובעידודו הוקם בית-הספר המקצועי בצפת, על שם המנוח "ד"ר אברהם חיים גרין ", בהשתתפות "ההסתדרות", "התאחדות בני הישוב בארץ ישראל" ומר יהושע גרין. כינס והוציא לאור את "חוקות ההסתדרות" והקדים להן הסבר תמציתי ושיתף את עצמו בקביעות בעבודת משפט החברים, כן היתה ידו בייסוד "עם עובד".
בשנות המערכה הסוערות, שנות הלחץ הזדוני מצד השלטון מבחוץ והחרדה הגדולה להתפרדות דרכי המלחמה מבית, נדרש לשאת בעול האחריות הישובית - ועמד ה, כיושב ראש הועד הלאומי, עד להקמת המדינה ומסירת סמכות הועד הלאומי לממשלת ישראל. בשנים אלה (אב תש"ד-שבט תש"ט) היה חבר לצמים את "צום העליה ", במשרדי הועד הלאומי, בפסח תש"ו, למען תת תוקף לתביעתו המאוחדת של הישוב: להעלות מיד ארצה את אסירי העליה הצמודים לאניתם "לה-ספציה", בחופי איטליה,