ב-1888 עבר לקובנה, למד שפות לועזיות ופרסם מאמרים וספורים ב"המליץ", שהיסבו שימת-לב הקוראים למחברם. ב-1890 בא לווילנה ובהיותו מושפע מתורתו של אחד-העם, הצטרף לאגודה החשאית "בני משה'', מיסודו של אחד-העם , שעמה נמנו טובי "חובבי ציון".
נשא לאשה את צפורה בלומגארטן (סופרת ומתרגמת), אחותו של הסופר-המשורר היידי המפורסם, יהואש , מתרגם התנ"ך ליידיש.
ב-1891 הגיע לווארשה ונתמנה מזכיר לשכת "בני משה". לאחר זמן-מה עזב את האגודה ואף יצא במסה ביקורתית (52 עמודים) במאסף "נתיבות'', בשם "אחד-העם ובני משה''.
בשלהי שנות ה-80 ובתחילת שנות ה-90 למאה ה-9, חדרה לתוך הספרות העברית המגמה, המכונה "המהלך החדש'', אשר שאיפתה היתה לכוון את היצירה העברית באפיקים חדשים ולהעלותה לרמה אמנותית של הספרות האירופית המודרנית ולנושאיה האנושיים-הכלליים, תוך שילוב המוטיבים הישראליים, בשפה עברית חיה ומובנת להמוני העם. הוא היה אחד ממבשרי "המהלך החדש'', לוחמיו ותומכיו הנלהבים. לטפוח הספרות היפה, שבה ישתקפו חיי עמנו לא במאמרים מלאים מליצות שדופות ולא בפיליטוגים ספוגים היהודים, אלא כתמונות חיות ובהירות, החל בהוצאת "ספרי אגורה", ספרונים קטנים בני 38-32 עמודים מודפסים באותיות זעירות, ובהם סיפורים ברוח הנטוראליזם מאת סופרי הדור ההוא.
החוברות הראשונות "מרחוב היהודים", שבהן נכללו הסיפורים מפרי-עטו: "לאה מוכרת הדגים", "עניים מאושרים'' "רבי שפרה", עוררו זעמם של בעלי "המהלך הישן", הואיל והמחבר העתיק את הנושא העיקרי של הספרות העברית דאז מביתהמדרש ומהכיסופים לארץ ישראל להווי ברחוב היהודים, על אורותיו וצלליו, לחיי-חולין. בהם השתקף כיעור חיצוני, אך גם יופי פנימי, כדבריו: חיי עמנו המלאים עוני ויגון, צרה ותלאה, טלטול וגדודים, מלחמת הקיום בכל תוקפה ועוזה, ועם זה גם תום וצדקה, חסד ורחמים, אמונה ורגש, שירה והתפעלות.
הוא לא נרתע מפני ההתקפות עליו והשיב עליהן מעל דפי "הצפירה". המשיך בהוצאת "ספרי אגורה" ופירסם חזיונות נביאיים וסיפור היסטורי משובח מתקופת גירוש היהודים מספרד (1492), בשם "לפני ארבע מאות שנה" (בכותרת-משנה "אח ואחות לצרה") בארבע חוברות, הכוללות מאה ועשרים ושנים עמודים. הוא לא הסתפק רק במפעלי "ספרי אגורה", בו התמיד כשלושים שנה, ויסד הוצאת ספרים "אחיאסף", הראשונה הראויה לתפקיד זה (אחד-העם קבע את התכנית להוצאה זו והיה הרוח החיה בה), בהוציאה ספרים חשובים במקצועות שונים בספרות העברית. הוא ניהל את ההוצאה שלש שנים וערך את שלושת "הלוחות" הראשונים שלה (תרנ"ד-תרנ"ו), שבהם פורסמו גם סיפוריו.
חברת "אחיאסף" בהיווצרה, פניה לא היו מיועדות לרווחים מסחריים, אלא שאיפתה היתה ללקט בהוצאותיה את אוצרות היהדות. מכיוון, שספריה לא היו מותאמים להשגותיהם של הקוראים מבין המוני העם, הבקשים ספרות קלה ומובנת להם, עזב את "אתיאסף" ויסד הוצאת-ספרים חדשה "תושיה" (תרנ"ז) על יסודות מסחריים איתנים, שזכויותיה רבות להרחבת יצירתנו העברית, והוציאה כמאתיים ספרים 'ב"ביבליותיקה העברית" שלה וספרים מקוריים ומתורגמים ב"בבליותיקה גדולה''. כן הופיעו בהוצאת "תושיה" ספרי לימוד וחינוך. מאז שנכנס לעולם המסחר של ההוצאה, פנה כמעט עורף לכתיבה ורק מפעם לפעם פירסם מאמרים בעתונים שונים.
ד"ר שמריהו לוין (ראה ערכו בכרך הרביעי, עמוד 1855) מספר בספר זכרונותיו (חלק ג'): בווארשה נצטרפתי אל חבורת הצעירים, שיסדה את בית הוצאת הספרים "אחיאסף". בן-אביגדור ניהל גם את פנקסי החשבונות של בית ההוצאה וכולו עסוק היה בעבודת החברה. לעתים רחוקות ראיתי בימי חיי אדם רב מרץ, רב פעלים כמותו. אדם בעל כוח ריכוז רב במקצועו, ורוחו נישאת היתה מתכנית של שיכלול והרחבה. ברצונו היה להציף את רחוב ישראל בספרים עבריים חדשים. - - - בבחינה זו היה הוא ההיפר הגמור לאחדהעם, שלגבו האיכות העיקר והרי אחד העם היה ראש מיסדיו של "אחיאסף". שאיפת האיכות של אחה"ע הפריעה את יצריו הכמותיים של בןאביגדור ודעתו לא היתה נוחה ביותר מן ההליכה האטית, עקב בצד אגודל, של "אחיאסף". רוצה היה לתפוס מרובה לתוך כליה של הלשון העברית את כל ענפי המדע השונים. - - - לא עברו ימים מרובים ונפרד בן-אביגדור מ"אחיאסף" וייסד את בית-הוצאה לעצמו, את "תושיה", והוא שהעניק לבני ישראל "מרקיע שחקים" ספרותי יפה ונהדר