Olivier Cohen a exercé dans plusieurs maisons d’édition avant de créer en 1991, avec l’appui du Seuil, les Éditions de L’Olivier qui se sont rapidement imposées dans le paysage éditorial avec un catalogue de littérature française et étrangère de très belle facture dans lequel figurent Agnès Desarthe, Florence Seyvos, Christophe Honoré, Jean-Paul Dubois, Raymond Carver, Richard Ford, Cormac McCarthy, etc.

Les Éditions de l'Olivier est une filiale du groupe La Martinière racheté en 2017 par Média-Participations, l'un des cinq premiers acteurs de l'édition en France ainsi que dans le secteur de la bande dessinée au niveau européen.

Dans La non-histoire des éditions de l’Olivier qui ouvre L'almanach : 20 ans et des poussières publié par les Éditions de L’Olivier à l'occasion de leur 20^e anniversaire, Olivier Cohen raconte : « L’Olivier est né d’un pari, ou plus exactement de plusieurs paris. Le premier, c’est celui que firent les dirigeants du Seuil lorsqu’ils me proposèrent de devenir leur associé, afin de créer ensemble une nouvelle maison d’édition. Le deuxième – le mien – reposait sur une confiance aussi irrationnelle qu’inébranlable dans ma capacité à publier des écrivains dignes de ce nom. Le troisième consistait en une hypothèse selon laquelle la littérature était capable de rassembler un nombre suffisant de lecteurs pour que cette entreprise ne soit pas vaine. La littérature ? Mais laquelle ? demandèrent mes associés, chez qui le doute commençait à s’insinuer. Pour calmer leur inquiétude, je m’efforçai de trouver un nom digne de mon projet. J’en proposai deux.

Horizons et Janus. […] Comme je demeurais réticent à l’idée d’utiliser mon nom, un ami me suggéra de “me faire un prénom”. Pourquoi pas L’Olivier ? De toute façon, il fallait en finir, pour que tout commence. Restait à imaginer un logo, une couverture. » Ce sera le fameux arbre qui occupe en ombre chinoise une grande surface de la couverture.

Olivier Cohen confie également dans cet almanach, avec humour, sa conception du métier d'éditeur. La scène se déroule au cours d'une réunion internationale d’éditeurs indépendants. L'un de ses confrères allemands, Michael Krüger, patron de la maison “Hanser Verlag”, lit un texte qu’il intitule Les Dix Commandements de l’éditeur indépendant. « Ce texte, je l’ai toujours sur moi, plié en quatre dans mon portefeuille. » écrit Olivier Cohen. « À vrai dire, je n’ai plus besoin de le consulter, je le connais par cœur. Quand je doute, je me le remémore, tel qu’il fut prononcé par son auteur, avec son accent germanique toujours teinté d’une légère ironie. » On pourrait résumer ainsi ce texte : tu ne publieras que les livres que tu aimes vraiment, que tu as lu toi-même, qui t’émerveillent, qui te font rire, penser ou rêver. Ne publie jamais plus de livres que tu ne peux en lire, ni aucun livre qui t’ennuie, même si tu penses que tu peux le vendre… et Michael Krüger de citer d'autres commandements de la même veine. Olivier Cohen ajoute un onzième commandement, celui qui « incarne le pouvoir absolu de l’imagination. Je ne vois rien de mieux, pour l’illustrer, que la formule attribuée à un autre éditeur allemand, S. Fischer, et que Christian Bourgois se plaisait à rappeler : “un éditeur publie les livres que les gens n’ont pas envie de lire”. Sinon, à quoi servirait-il ? »