הרבנים הילדסהיימר וליהמן נתנו לו כספים שיקנה קרקע אף בשבילם כדי לשתף אותם בפועל במצות ישוב ארץ-ישראל, והם הסכימו לתנאי שההכנסה מהמשק או חלק ממנה תוקדש להחזקת בתי לימוד תורה במושבה שישתקע בה על נחלתם.
בתרמ"ג בא שנית ארצה, ואחרי טלטולים מרובים עם סרסורים וספסרים וסיורים במקומות שונים שהציעו לו למכירה (צרעה ואשתאל, ירמות, הר המודעים והכפר אבו גוש) הצטרף בסוף למחושי הישוב בפתח תקוה וקנה 824 דונם מ"נחלת קסאר" (השטח הראשון שנגאל בפ"ת), 125 דונם מ"נחלת טיאן" (השטח השני) וחמשה מגרשי בנין במושב יהודיה, שם השתכנו מחדשי הישוב מאימת הקדחת ששררה על אדמת פתח תקוה, ובעוד הוא עושה הכנות לרישום הקרקע ולהתחלת העבודה הפילתו הקדחת מעל רגליו ולפקודת הרופאים הוכרח לצאת לחו"ל להבריא ולהעלות את משפחתו.
באדר תרמ"ג חזר למשפחתו בליטא ובאב תרמ"ג התפטר ממשרתו כרב באלקסוט. הקהלה שידלה אותו להשאר והבטיחה לו העלאת משכרתו, וגם הוזמן לרבנות בסלובודקה, אך הוא דחה את כל ההצעות, ואחרי מסעי פרידה מקרוביו ומידידיו גדולי הרבנים יצא לדרך עם אשתו וארבעה ילדיו (שתי בנותיו הגדולות נשארו ברוסיה, ואחת מהן, עלקא , עלתה אח"כ ארצה ונישאה לר' בנימין יהלום ), הפליגו בערב סוכות תרמ"ד באניה מנמל אודיסה, ובמשך 48 שעות היו בסכנת טביעה בשל סערה גדולה בים, וביום כ"ו תשרי תרמ"ד הגיעו לחוף יפו.
אחרי שהשאיר את משפחתו שבועות אחדים ביפו הביא אותה לדירה ששכר ביהודיה והיה הולך יום-יום לעבוד בנחלה, כיתר האכרים, מהלך שלש שעות בחולות, ובראותו כי הליכה זו גוזלת מזמן העבודה החליט לבנות את הבית ובניני המשק על אדמת הנחלה עצמה, בפתח תקוה העזובה והשוממה מאימת הקדחת, שהניסה את המתנחלים הראשונים. תושבי יהודיה התנגדו להקמת בית-דירה בשטח המנוגע בקדחת, בחששם שגם אחרים ילכו בדרכי הרב פרומקין ואם יתישבו שם לא יוכל המושב ביהודיה להתפתח. אפילו על השוחט אסרו לגשת אל הבנין החדש לשחוט עוף בשביל הרב פרומקין. בעמל רב הקים את הבנינים, בלי מים ובלי עזרה, ובהיות הסוסים עסוקים בעבודת המשק היה הולך ברגל ליפו להביא את צרכי הבנין והבית. פעמים רבות תקפוהו ערבים מזוינים בדרכו ליהודיה או ליפו והתגונן מפניהם באקדח שבידו. גם הקדחת פקדה לא פעם אותו ואת בני ביתו. ופעם אף הוכה מכות אכזריות כשערבים רבים התנפלו על ביתו הבודד בשממה, בעת שהנשים והילדים התבצרו בפנים והוא היה בחוץ ולא הרשה להם לפתוח לו את השער לבל יתפרצו התוקפים פנימה בעקבותיו.
משהקים את הבית יסד בו תלמוד-תורה וישיבה קטנה ואחדים מהתלמידים אף אכלו על שלחנו ואשתו ובנותיו היו כובסות להם, ואף את לימוד השפה הגר מנית הנהיג בו - דבר שהרגיז עליו את קנאי ירושלים, שראו בכך הפצת "השכלה".
אחרי שעמד בעקשנותו והקים את הבית הראשון על אדמת פתח תקוה, עברו שמה עוד אחדים מהמתישבים ביהודיה, כי לא יכלו לשאת את ההליכה המיגעת והגוזלת זמן רב יום-יום מיהודיה לפתח תקוה וחזרה, ואחרי שבא ר' קלמן זאב ויסוצקי בשליחות חובבי ציון מרוסיה והכריע לטובת הישוב בפתח תקוה, עברו כמעט כל המתישבים מיהודיה ובנו את בתיהם בפתח תקוה, והודות לעקשנותו וסבלו נתבסס הישוב באם המושבות ולא היה עוד בודד ומוחרם, ובשבתות היו באים המתנחלים לשמוע תורה מפיו.
גרות רבות סבל מצד מר לחמן בעל הנחלה. הוא דרש ממנו קימוצים ומוכרח היה לעבוד במקום שלשה פועלים הן בבנין והן במשק, והרב התנסה בעבודת פרך ובכל התלאות העצומות של מתישב בודד בישימון. כדי לשפר את תנובת המשק ולהצליח בנטיעת הפרדס היה הולך להתיעץ עם מומחים והזמין לו ספרי הדרכה לחקלאים בגרמנית ופועלים עברים, שמיעוטם ידעו במקצת את העבודה ואת רובם הוכרח ללמד במו ידיו, ולא פעם הוכרח למשכן את תכשיטי אשתו לתשלום השכר לפועלים ולקנית מספוא לבהמות, משום שלחמן לא שלח בזמן הדרוש את הכספים הנחוצים למשק. שנים אחדות נמשך הסכסוך בין לחמן ובינו, כי הוא הציע ללחמן שימכור מלק מהנחלה לתשלום החובות ולחמן חשב שהוא מבזבז כספים מתוך מעילה או בטלנות ודרש ממנו להתפטר. פעם שלח לחמן את נאמן ביתו ר' יעקב ליזר זזאוואש לבוא ולראות את מצב המשק. זה בא ארצה, חקר ודרש וקבע שהרב פרומקין ניהל את המשק על צד היותר טוב, בהבנה ובמסירות שלמעלה מהרגיל, וכשמסר דו"ח זה ללחמן, הוסיף זה לשלוח כספים. לאחר שנים נתעייף משליחת כספים, ואז שלח שנית את ר' יעקב לייזר ארצה לתבוע את הרב פרומקין לדין-תורה בירושלים, לחייב אותו על אי-הצלחת המשק להכניס רווחים ולנשלו מהנחלה. המשפט נמשך זמן רב והרב פרומקין דרש שהענין ימסר לבוררים מביני-דבר ולא לרבנים שאין להם שום הבנה בלבטי החקלאות החלוצית, שלא יכלה אז להתקיים ולהתפתח בלי תמיכה והשקעות מתמידות. אז הוציאו אויביו (היו לו אויבים מחמת קנאה, בחשבם שהוא מתעשר במשק; בעלי טינות ישנות עליו על שגרם לבנין פתח תקוה ועל-ידי כך לחורבן מושב יהודיה ; וגם קנאים שראו בעין רעה את מגמתו לתת בישיבתו חינוך תורני וחקלאי ביחד) דיבה עליו שהוא משתמט מדין תורה, והגרועים שבאויביו אף הסיתו ערבי אחד, שנעשה בעל-מום לפני כמה שנים בעת עבודתו בחפירת הבאר במשק לחמן, שיעיד לרעתו אצל השלטונות. בהתמוטטות שאירעה בחפירת הבאר נהרגו שני ערבים ואחד נשאר חי אך קטוע רגל. זה העיד אז בחקירה, שהעבודה נעשתה על-ידי קבלן ערבי-נוצרי מיפו ועל אחריותו, וכעת הסיתוהו לחזור בו מעדותו ולמסור לשלטונות שהרב פרומקין עצמו ניהל את העבודה והוא