Tidlig på syttitallet arbeidet Mellin-Olsen på en doktoravhandling, men denne ble aldri godkjent. Argumentasjonen var at avhandlingen var for politisk. I 1977 utga Gyldendal avhandlingen i bokform, under tittelen . Her skriver han om to perspektiver på instrumentalisme. Det ene er et etnometodologisk, sosiologiske perspektiv, hvor daglig kunnskap (commonsense kunnskap) står sentralt. Det andre perspektivet er pedagogisk. Det pedagogiske perspektivet kan være en form for metalæring. Dette skal kunne oppløses ved pedagogisk utviklingsarbeid. Instrumentalisme kan også være resultat av dobbelbinding, knyttet til skolen og omgivelsenes kommunikasjon med og rundt eleven. Mellin-Olsen pekte på at skolen levde sitt eget liv, uavhengig av elevenes interesse, forståelse eller omgivelsenes krav. Skolen visste best, og elevene skulle bare lære og utøve. Forståelse av det som skulle læres var mindre viktig. Det skulle kunne læres instrumentelt, i en stimulus-respons (lært) prosess. Dette kunne oppløses ved å relatere faget til undervisningen av dette, og fremheve enheten. Blant Mellin-Olsens viktigste referanser var Bateson, Berger og Luckman, Bruner, Freud, Holt og Piaget. Senere skulle også Vygotsky bli en viktig inspirasjonskilde. I 1981 stiftet han Caspar Forlag sammen med Marit Johnsen Høines, et forlag som skulle fokusere på faglitteratur innen matematisk fagdidaktikk. Sammen stiftet de også tidsskriftet Tangenten, som hadde første årgang i 1989. I tillegg til et omfattende faglig forfatterskap, utga han også tre ungdomsromaner, (1979), (1980) og (1984). Romanene hans foregår blant arbeiderungdom i Bergen, og tar opp klassespørsmål og solidaritet. Romanene er oversatt til svensk og dansk. I tillegg til romanene fikk han også publisert en novelle i novellesamlingen (1981), utgitt av LNU.