آغاز جوانى به خوشگذرانى مشغول بوده و سپس به تهذيب نفس پرداخته و كامياب شده است (ابوعلى، تهذيب، 49ـ50).
مسكويه با وزيران و اميران آل بويه در امور ديوانى، از گنجورى كتابخانه ها و گنجورى مالى تا مصاحبت و نديمى و رسالت و داد و ستد در زمينه علوم و ادب، پيوندى استوار داشته و از همين رو، عمده سالهاى عمر خويش را در شهرهاى مختلف از جمله رى، بغداد، شيراز و اصفهان گذرانده است. بى گمان طلب علم نيز در اين جابه جاييها دخيل بوده است.
مسكويه اصلاً از رى بود (نك : خوانسارى، 1/254) و شايد بتوان گفت كه حدود دو دهه نخستين عمر خود را (320ـ340 ق) در رى زيسته است. سپس به بويهيان بغداد پيوست و حدود 12 سال مصاحب و نديم خاص ابومحمد مهلبى، وزير معزالدوله بود (ابوعلى، تجارب، چ قاهره، 2/124؛ ابوسليمان، 346ـ347). آن گاه 7 سال (353ـ360 ق) در خدمت و مصاحبت ابوالفضل ابن عميد، وزير ركن الدوله بويهى زيست و خازن كتابخانه او در رى بود (ابوعلى، همان، 2/276؛ ابوسليمان، 347). از آن پس ظاهرا به خدمت ابوالفتح ابن عميد، وزير ركن الدوله و مؤيد الدوله پيوست و چون ابوالفتح به قتل رسيد، مسكويه از خدمت به صاحب بن عباد، وزير جديد مؤيد الدوله سرباز زد (ثعالبى، تتمة، همانجا). سابقه تيرگى روابط و رقابت ميان مسكويه و صاحب بن عباد را در برخورد غير دوستانه اى كه در مجلس ابن عميد و در حضور مؤيد الدوله ـ كه با صاحب به رى آمده بود ـ گذشته و ابوحيان آن را نقل كرده است، مى توان ديد (مثالب، 306). مسكويه حتى پس از مرگ صاحب بن عباد نيز دل از او پاك نداشت و در شعر خود او را نكوهيده است (ثعالبى، همان، 1/100).
ابوعلى سپس در شيراز به عضدالدوله، سلطان بزرگ آل بويه، پيوست و در زمره نديمان و رسولان او در آمد و خازن كتابخانه و بيت المال وى شد و تا عضدالدوله