Првото издание е на 9-ти ноември 1967-ма, и по формат е како весник. Името е трибјут на блуз песната Ролинг Стоун, бендот Ролинг Стоунс, и песната на Боб Дилан "Like a Rolling Stone." За да го издаде првиот број, сопственикот Џен Венер, од своите родители и сватовите (од идната жена, тогаш девојка) се позајмува 7.500. долари.