Fatti :
A.- Nel corso del mese di dicembre 1995, S._ ha ricevuto dalla Cassa malati Mutual, presso la quale lui ed i membri della sua famiglia erano assicurati obbligatoriamente contro le malattie, il certificato d'assicurazione per l'anno 1996. Avendo costatato che il premio subiva un aumento, con lettera 26 dicembre 1995, pervenuta alla Cassa il 5 gennaio 1996, la moglie dell'interessato, a nome suo e dei famigliari, ha manifestato a quest'ultima amministrazione la volontà di disdire il rapporto assicurativo per la fine del mese di dicembre 1995. Dopo aver risposto, il 15 gennaio 1996, di subordinare l'accettazione della disdetta per il 30 giugno 1996 all'adempimento delle condizioni che la nuova Cassa malati le avesse indirizzato l'attestato di affiliazione alle prestazioni dell'assicurazione obbligatoria delle cure medico-sanitarie e che fossero stati saldati sino a tale data i premi e le partecipazioni, la Cassa ha comunicato agli interessati, in data 14 agosto 1996, che sino a quel momento nessuna delle condizioni indicate nel precedente scritto era realizzata. Il rapporto di affiliazione per l'assicurazione obbligatoria doveva pertanto essere mantenuto.
La Cassa, in seguito al dissenso manifestato dalla Federazione Utenti Casse Malati (UCM) in rappresentanza degli assicurati, ha ribadito la propria posizione con decisione formale 11 settembre 1996, confermata con decisione su opposizione del 18 ottobre 1996.
B.- Tramite l'UCM, S._, sua moglie D._ ed il figlio M._ sono insorti contro il summenzionato provvedimento con ricorso al Tribunale delle assicurazioni del Cantone Ticino. Postularono che la disdetta venisse accettata per la fine di dicembre 1995 per quanto concerneva la moglie e per la fine di gennaio 1996 per quanto riguardava S._ e suo figlio. Affermarono in particolare che a contare dal 1° gennaio 1996, rispettivamente dal 1° febbraio 1996, essi erano affiliati presso la Cassa malati pubblica ÖKK e che i premi e le partecipazioni dovuti alla Cassa malati Mutual erano stati pagati fino al 31 gennaio 1996. Produssero copie di attestazioni della nuova Cassa, recanti la data del 27 marzo 1996 e firmate da Lodovico Gentile, contemporaneamente presidente dell'UCM, secondo le quali i ricorrenti erano assicurati presso la ÖKK con effetto dalle date suindicate. Gli insorgenti asserirono pure che, contrariamente a quanto sostenuto dalla Cassa Mutual nella decisione formale dell'11 settembre 1996, essi non avevano scelto una franchigia opzionale, la quale era quindi stata loro imposta arbitrariamente.
Con giudizio 3 marzo 1998, l'autorità di ricorso cantonale ha respinto il gravame. Osservato come la consegna, alla Cassa malati Mutual, dei certificati attestanti la continuazione dell'assicurazione presso un altro assicuratore fosse avvenuta in data 27 agosto 1996, la precedente istanza ha ritenuto non adempiere comunque tali dichiarazioni i requisiti posti dalla legge. A suo parere, Lodovico
Gentile aveva semplicemente affermato che i ricorrenti erano assicurati presso la Cassa malati ÖKK, senza però precisare quale assicurazione questi avessero stipulato con la nuova Cassa. In particolare non era dato di sapere se si fosse trattato di assicurazione obbligatoria. Non essendo stata informata in modo corretto circa la continuazione dell'affiliazione presso un altro assicuratore, a ragione la Cassa malati Mutual aveva mantenuto il rapporto assicurativo che la legava ai ricorrenti.
C.- Patrocinato dall'UCM, S._ propone al Tribunale federale delle assicurazioni un ricorso di diritto amministrativo avverso la pronunzia cantonale. Ribadisce le conclusioni formulate in sede di prima istanza protestando spese e ripetibili. Riaffermato di aver corrisposto tutti i premi fino al 31 gennaio 1996, contesta il giudizio di prima istanza argomentando che la legge non specifica l'obbligo di comunicare alla cassa precedente quale assicurazione sia stata stipulata presso il nuovo assicuratore.
La Cassa malati Mutual chiede la disattenzione del gravame, mentre l'Ufficio federale delle assicurazioni sociali ha rinunciato a determinarsi.

Diritto :
1.- Oggetto della presente lite è la questione di sapere se, rispettivamente da quando, a causa dell'aumento dei premi avvenuto con effetto dal gennaio 1996, il ricorrente o sua moglie potevano legittimamente dare, per la copertura obbligatoria, la loro disdetta e quella dei famigliari dalla Cassa malati cui erano affiliati. Il tema dev'essere vagliato innanzitutto, ritenute le considerazioni addotte dai giudici di prime cure e le censure ad esse avversate dal ricorrente in questa sede, esaminando i requisiti posti per quanto concerne la dichiarazione del nuovo assicuratore al precedente circa la continuazione del rapporto assicurativo.
2.- Nella contestata pronunzia, i primi giudici hanno correttamente posto in rilievo che alla presente vertenza dev'essere applicato il nuovo diritto (RAMI 1997 no. KV 12 pag. 299 consid. 1b; sentenza inedita 3 luglio 1997 in re
L., K 85/96).
L'<ref-law> dispone che il rapporto d'assicurazione termina solo se il nuovo assicuratore ha comunicato a quello precedente che assicura l'interessato senza interruzione della protezione assicurativa. L'autorità di ricorso di prima istanza ha già rilevato aver il Consiglio federale nel Messaggio del 6 novembre 1991 concernente la revisione dell'assicurazione malattia ritenuto quanto segue:
"...È essenziale che un cambiamento dell'assicuratore non provochi lacune nell'assoggettamento all'obbligo di assicurazione. È il motivo per cui l'art. 7 cpv. 3 (recte: cpv.
5) stipula che un assicurato può lasciare un assicuratore soltanto se a quest'ultimo è stato confermato che sarà ripreso da un altro assicuratore. Fino a quando non ha ricevuto tale conferma, l'assicuratore deve assicurare l'interessato anche oltre il termine ordinario, l'inizio del nuovo impiego o il trasferimento di domicilio. Il secondo assicuratore, se omette di confermare la ripresa dell'assicurato, deve risarcire a quest'ultimo l'eventuale differenza di premio. .." (FF 1992 I pag. 115).
Ora, né la legge sancisce né il succitato messaggio o la dottrina (cfr. Maurer, Das neue Krankenversicherungsrecht, 1996, pag. 38, Eugster in SBVR, cifre marginali 31 segg. ) alludono all'esigenza per il nuovo assicuratore, secondo l'<ref-law>, di precisare quale assicurazione è stata stipulata.
Comunque appare palese, ritenuta la suddetta finalità dell'<ref-law>, ossia quella di ovviare al rischio di una lacuna assicurativa, che dalla comunicazione del nuovo assicuratore debba poter essere dedotto se il susseguente rapporto configuri un'assicurazione obbligatoria, atta cioè a garantire quelle prestazioni minime volute dal legislatore con il nuovo ordinamento legislativo.
Nella fattispecie non può essere dalle dichiarazioni 27 marzo 1996 della ÖKK desunto aver questo assicuratore affiliato gli interessati per un'assicurazione obbligatoria, le comunicazioni fatte dal direttore per il Ticino
Lodovico Gentile, il quale è pure presidente dell'UCM, patrocinatore dei ricorrenti, non contenendo alcuna indicazione al riguardo. Esse attestano solo essere S._ e il figlio così come la moglie "assicurati", risp.
"assicurata nella ... Cassa malati a far data del 1° febbraio 1996". In difetto di un indizio suscettibile di lasciar intendere trattarsi di un rapporto obbligatorio, nel senso delle esplicite richieste della Mutual (come avrebbe per es. potuto essere un richiamo dell'<ref-law>), la
Cassa opponente era legittimata, date le circostanze, a continuare l'assicurazione.
3.- Nella decisione formale dell'11 settembre 1996, la Cassa malati Mutual ha rifiutato la disdetta alla data richiesta argomentando pure che gli interessati erano al beneficio di una franchigia annuale ad opzione. Ai sensi dell'art.
94 cpv. 2 OAMal, il cambiamento dell'assicurato è possibile al più presto un anno dopo l'adesione all'assicurazione con franchigie opzionali, per la fine di un anno civile e con preavviso secondo i termini stabiliti nell'art.
7 cpv. 1 e 2 della legge. Nel gravame in sede di prima istanza, i ricorrenti hanno contestato l'asserto della Cassa, affermando che detta franchigia opzionale era stata loro applicata arbitrariamente. Nel caso in esame questo tema può rimanere indeciso, sia perché la censura non è stata né vagliata in sede di prima istanza né sollevata davanti a questa Corte, sia perché il ricorso deve comunque essere respinto per i motivi già precedentemente esposti (consid. 2).
4.- Per quel che riguarda il motivo contenuto nella decisione della Cassa per il quale la disdetta non avrebbe potuto avere effetto fintantoché non sarebbero stati pagati tutti gli arretrati, il Tribunale federale delle assicurazioni ha avuto modo di dichiarare l'<ref-law> in tal senso contrario a legge (<ref-ruling>). Nemmeno queste argomentazioni, viste le considerazioni di cui al consid.
2, sono di rilievo ai fini del giudizio. Discende da quanto precede che la decisione in lite ed il giudizio cantonale meritano conferma.
5.- a) In quanto non è statuito su un tema relativo all'assegnazione o al rifiuto di prestazioni assicurative, la procedura non è gratuita (art. 134 e contrario, art. 156
OG). Dato l'esito della vertenza, le spese processuali sono da porre a carico dell'insorgente.
b) La Cassa malati Mutual, vincente in causa, ha concluso protestando l'assegnazione di ripetibili. Ai sensi dell'art. 159 cpv. 2 OG, nelle procedure di ricorso nessuna indennità per ripetibili è di regola assegnata agli organi con compiti di diritto pubblico. Ciò vale in particolare per quanto riguarda le casse malati (<ref-ruling> consid.
10). Anche se vincente, la Cassa opponente non ha quindi diritto alle ripetibili.

Per questi motivi, il Tribunale federale delle assicurazioni
pronuncia :
I.Il ricorso di diritto amministrativo è respinto.
II.Le spese di procedura, di un importo totale di fr. 500. -, sono poste a carico di S._ e saranno compensate con le garanzie prestate da quest'ultimo.
III. La presente sentenza sarà intimata alle parti, al Tribunale cantonale delle assicurazioni, Lugano, e all'Ufficio federale delle assicurazioni sociali.