Justus van Effen was de zoon van Melchior van Effen, ‘luitenant te paert’, en Maria Bom. In het officiersmilieu waarin hij opgroeide werd hoofdzakelijk Frans gesproken. De familie was rechtzinnig protestant. Standophouden gold er meer dan rijkdom. Van Effen verloor zijn vader al omstreeks 1701, reden waarom hij na de Latijnse school bezocht te hebben een geplande universitaire opleiding moest laten varen. Vanaf toen verdiende hij zijn brood als goeverneur (huisleraar) bij aanzienlijke families in Den Haag, Leiden en Rotterdam. Het was een delicate, eenzaame positie, want zo'n goeverneur vervreemdde min of meer van het burgerlijke milieu waaruit hij voortkwam zonder zich ooit ten volle te (mogen) assimileren met zijn aristocratische werkgevers. Het was ook een nomadenbestaan. Als een pupil rijp was voor de universiteit, vergezelde zijn goeverneur hem ook daarheen om tenslotte, na het laatste examen, weer zijn congé te krijgen. Het pleit voor Van Effen dat zijn oud-leerlingen hem niet vergaten, zodat hij enkele malen in hun gezelschap een buitenlandse reis kon maken. Zo verbleef hij van februari 1715 tot 1716 en van oktober 1727 tot mei 1728 in Engeland, terwijl hij in 1719 Zweden bezocht.
Intussen verkeerde de jonge goeverneur Van Effen in Den Haag sedert 1711 in een kleine vriendenkring, waartoe onder anderen behoorden de erudiete bibliograaf Prosper Marchand (1678-1756), Themiseul de Saint-Hyacinthe (1684-1746), Albert-Henri de Sallengre (1694-1723), zekere Alexandre en de wiskundige Willem-Jacob 's Gravesande (1688-1742). Gezamenlijk vormden zij een veelzijdig geïnteresseerde maar exclusief Franstalige societeit, waaruit het Journal litéraire (La Haye 1713-1722, 1729-1736) voortkwam. Met gedeeltelijk andere Franse réfugié's redigeerde Van Effen van 1718 tot 1720 nog een ander geleerdentijdschrift: L'Europe savante. Maar zijn tot moraliserende bespiegeling geneigde geest vond