Faits :
A.
B.A._ et A.A._ sont mariés et domiciliés dans le canton du Valais. Depuis 1996, A.A._ était titulaire d'une raison individuelle, "C._", active dans le courtage en assurance. En 2007, il a conclu un accord de licence avec une société allemande ayant pour but la distribution de participations immobilières à l'étranger. La licence était inscrite à l'actif de la raison individuelle. La même année, celle-ci a acquis 512 actions pour un montant de 26'829 francs.
La 27 décembre 2007, A.A._ a fondé la société C._ Sàrl, dont les parts sociales étaient détenues par lui-même, ainsi que par son épouse et ses deux fils. Le but de cette société était les conseils en achat et vente de participations immobilières et d'immobilier en Suisse et à l'étranger. En 2008, les activités de la raison individuelle ont été transférées à la société C._ Sàrl, la licence octroyée par la société allemande ayant en particulier été reprise. Le 14 septembre 2010, les 512 actions ont été vendues pour un montant de 18'469 francs. Le 8 mars 2011, la raison individuelle a été radiée du registre du commerce.
En mars 2013, le Service cantonal des contributions du canton du Valais (ci-après: le Service des contributions) a procédé à une expertise de la société C._ Sàrl pour les années 2008 à 2012 et des époux A._ pour les périodes fiscales 2008 à 2011. L'expert est parvenu à la conclusion que les comptes de la société et des époux pouvaient être repris avec des modifications mineures, afin d'établir les décisions de taxation.
B.
Par décisions du 16 juin 2016, le Service des contributions a taxé les époux A._ pour l'impôt fédéral direct (ci-après: IFD) et les impôts cantonal et communal (ci-après: ICC) des périodes fiscales 2010 et 2011. Il a notamment considéré que les parts sociales de C._ Sàrl détenues par les époux faisaient partie de la raison individuelle et que celles-ci avaient été transférées dans la fortune privée du couple lors de la radiation de la raison individuelle en 2011. L'autorité de taxation a également considéré que la perte liée à la vente des 512 actions ne constituait ni une charge de la raison individuelle, ni une charge de la société. Les époux A._ ont élevé une réclamation à l'encontre de ces prononcés le 6 juillet 2016. Par décision sur réclamation du 27 janvier 2017, le Service des contributions a confirmé ses décisions initiales. B.A._ et A.A._ ont contesté ce prononcé le 24 février 2017 auprès de la Commission cantonale de recours en matière fiscale du canton du Valais (ci-après: la Commission de recours) qui, par décision du 13 septembre 2018, notifiée le 22 mars 2019, a partiellement admis le recours. Cette commission a confirmé la décision sur réclamation en tant qu'elle portait sur le transfert de la fortune commerciale à la fortune privée des parts sociales de la société C._ Sàrl et l'a annulée en tant qu'elle avait trait à la vente des 512 actions, renvoyant la cause au Service des contributions pour qu'il procède à un nouveau calcul des impôts.
C.
Agissant par la voie du recours en matière de droit public, B.A._ et A.A._ demandent au Tribunal fédéral sous suite de frais et dépens, d'annuler la décision de la Commission de recours du 13 septembre 2018 et de renvoyer la cause au Service des contributions ou à l'autorité précédente pour nouvelle décision dans le sens des considérants.
La Commission de recours, le Service des contributions et l'Administration fédérale des contributions concluent tous trois au rejet du recours.

Considérant en droit :
1.
Le recours est dirigé contre une décision rendue en dernière instance cantonale par un tribunal supérieur (art. 86 al. 1 let. d et al. 2 LTF) dans une cause de droit public (art. 82 let. a LTF) ne tombant pas sous le coup de l'une des exceptions prévues à l'art. 83 LTF. Il est donc en principe recevable comme recours en matière de droit public s'agissant des deux catégories d'impôts (cf. art. 146 LIFD [RS 642.11], art. 73 al. 1 de la loi fédérale du 14 décembre 1990 sur l'harmonisation des impôts directs des cantons et des communes [LHID; RS 642.14]; <ref-ruling> consid. 1.3 p. 188 s.). Au surplus, déposé en temps utile (art. 100 al. 1 LTF) et dans les formes prescrites (art. 42 LTF) par les contribuables qui ont la qualité pour recourir (art. 89 al. 1 LTF), le présent recours, dirigés contre une décision qui renvoie la cause à l'autorité de première instance sans marge de manoeuvre et qui doit par conséquent être assimilée à une décision finale (art. 90 LTF, cf. arrêt 2C_474/2019 du 25 septembre 2019 consid. 2.3), est recevable.
2.
Le Tribunal fédéral statue en principe sur la base des faits établis par l'autorité précédente (art. 105 al. 1 LTF), sous réserve des cas prévus à l'art. 105 al. 2 LTF (<ref-ruling> consid. 4.4.3 p. 156). Le recourant ne peut critiquer les constatations de fait ressortant de la décision attaquée que si celles-ci ont été effectuées en violation du droit au sens de l'art. 95 LTF ou de manière manifestement inexacte, c'est-à-dire arbitraire, et si la correction du vice est susceptible d'influer sur le sort de la cause (art. 97 al. 1 LTF; <ref-ruling> consid. 6 p. 358). Conformément à l'art. 106 al. 2 LTF, le recourant doit expliquer de manière circonstanciée en quoi ces conditions seraient réalisées. Le Tribunal fédéral n'entre pas en matière sur des critiques de type appellatoire portant sur l'état de fait ou sur l'appréciation des preuves (<ref-ruling> consid. 6.3 p. 375). Par ailleurs, aucun fait nouveau ni preuve nouvelle ne peut en principe être présenté devant le Tribunal fédéral (art. 99 al. 1 LTF).
En l'occurrence, les recourants expliquent que leur recours se réfère aux faits retenus dans la décision de la Commission de recours, mais, dans la mesure où ces faits leur semblent insuffisants, ils ajoutent que leur mémoire les clarifie ou les complète. Une telle façon de procéder ne respecte cependant pas les conditions posées ci-dessus. Les recourants ne sauraient présenter leurs propres vision et appréciation des faits et les opposer de manière appellatoire à celles de l'autorité précédente. Le Tribunal fédéral appliquera donc le droit sur la seule base des faits figurant dans la décision entreprise.
3.
Le litige concerne exclusivement la question de la qualification commerciale ou privée des parts sociales de la société C._ Sàrl, propriété des recourants, pour la période fiscale 2011, année de la radiation de la raison individuelle. La question de la qualification commerciale ou privée des 512 actions pour la période fiscale 2010, année de leur aliénation, a été définitivement tranchée par l'autorité précédente et ne fait donc pas partie du présent litige (cf. <ref-ruling> consid. 4.4.2 p. 156 et les références).
I. Impôt fédéral direct
4.
4.1. En principe, l'impôt sur le revenu a pour objet tous les revenus du contribuable, qu'ils soient uniques ou périodiques (cf. art. 16 al. 1 LIFD). Sont exonérés d'impôt, selon l'art. 16 al. 3 LIFD, les gains en capital réalisés lors de l'aliénation d'éléments de la fortune privée. L'art. 18 al. 1 LIFD prévoit que tous les revenus provenant de l'exploitation d'une entreprise commerciale, industrielle, artisanale, agricole ou sylvicole, de l'exercice d'une profession libérale ou de toute autre activité lucrative indépendante sont imposables. Font partie des revenus provenant de l'activité lucrative indépendante, selon l'art. 18 al. 2 LIFD, tous les bénéfices en capital provenant de l'aliénation, de la réalisation ou de la réévaluation comptable d'éléments de la fortune commerciale.
Selon la jurisprudence, la distinction entre un gain privé en capital (non imposable sur le revenu) ou un bénéfice commercial en capital provenant de l'exercice d'une activité lucrative indépendante (imposable sur le revenu), dépend des circonstances concrètes du cas (cf. arrêt 2C_786/2012 du 1 er mars 2013 consid. 3.1 et les références). La notion d'activité lucrative indépendante s'interprète toutefois largement, de telle sorte que sont seuls considérés comme des gains privés en capital exonérés d'impôt ceux qui sont obtenus par un particulier de manière fortuite ou dans le cadre de la simple administration de sa fortune privée. En revanche, si l'activité du contribuable excède ce cadre relativement étroit et est orientée dans son ensemble vers l'obtention d'un revenu, l'intéressé est réputé exercer une activité lucrative indépendante dont les bénéfices en capital sont imposables. Une telle qualification peut se justifier, selon les cas, même en l'absence d'une activité reconnaissable pour les tiers et/ou organisée sur le modèle d'une entreprise commerciale, et même si l'activité n'est exercée que de manière accessoire ou temporaire, voire même ponctuelle (cf. arrêts 2C_228/2015 du 7 juin 2016 consid. 6.3; 2C_786/2012 du 1 er mars 2013 consid. 3.1 et les références). Les éléments patrimoniaux utilisés pour l'accomplissement d'une activité lucrative indépendante sont pour leur part considérés comme des actifs commerciaux (cf. <ref-ruling> consid. 6c/bb p. 126 s.).
C'est avant tout en lien avec les transactions effectuées par les particuliers sur des immeubles ou sur des titres que la jurisprudence a été amenée à dégager des critères permettant de tracer la limite entre les gains (privés) en capital et les bénéfices (commerciaux) en capital (cf. arrêt 2C_228/2015 du 7 juin 2016 consid. 6.3 et les références). Elle a notamment considéré que valent comme indices d'une activité lucrative indépendante dépassant la simple administration de la fortune privée les éléments suivants: le caractère systématique et/ou planifié des opérations, la fréquence élevée des transactions, la courte durée de possession des biens avant leur (re) vente, la relation étroite entre l'activité indépendante (accessoire) supposée et la formation et/ou la profession (principale) du contribuable, l'utilisation de connaissances spécialisées, l'engagement de fonds étrangers d'une certaine importance pour financer les opérations, le réinvestissement du bénéfice réalisé ou encore la constitution d'une société de personnes. On peut aussi mentionner l'utilisation effective du bien et le motif de son aliénation. Chacun de ces indices peut conduire, en concours avec les autres voire même - exceptionnellement - isolément s'il revêt une intensité particulière, à la reconnaissance d'une activité lucrative indépendante. En outre, l'absence d'éléments typiques d'une telle activité dans un cas concret peut être relativisée par d'autres circonstances revêtant une intensité particulière. En tout état, les circonstances concrètes du cas sont déterminantes, telles qu'elles se présentent au moment de l'aliénation (cf. arrêts 2C_1007/2016 du 28 mars 2017 consid. 3.4; 2C_228/2015 du 7 juin 2016 consid. 6.3 et les références).
En ce qui concerne les droits de participation, ceux-ci ressortissent à la fortune commerciale lorsqu'il existe un rapport économique étroit entre la participation à la société et les autres affaires menées par le contribuable. Ce rapport doit en particulier être admis si la participation a été acquise dans un but commercial ou si l'acquéreur exerce une influence prépondérante sur la société en cause, qui correspond à ses propres activités commerciales ou les complète judicieusement, lui permettant ainsi d'étendre ses propres activités commerciales (cf. arrêts 2C_786/2012 du 1 er mars 2013 consid. 3.2 et les références). Une étroite relation économique entre l'entreprise du contribuable et la société dont il détient des actions n'est encore pas suffisante pour admettre que celles-ci font partie de sa fortune commerciale. L'élément déterminant est la volonté de l'intéressé de mettre concrètement à profit ses droits de participation pour améliorer le résultat commercial de sa propre entreprise (arrêt 2C_786/2012 du 1 er mars 2013 consid. 3.2 et les références). Le Tribunal fédéral a jugé en particulier que des droits de participation qu'un architecte exerçant une activité accessoire de commerçant d'immeubles détenait dans une société anonyme qui devait réaliser un important projet immobilier appartenait à sa fortune commerciale. L'aliénation de ces participations constituait par conséquent un bénéfice en capital imposable (arrêt 2A.547/2004 du 22 avril 2005).
4.2. En l'occurrence, la Commission de recours a retenu que le recourant était titulaire de la raison individuelle, dont l'activité était essentiellement le courtage en assurance, et qu'il détenait la majorité des parts sociales de la société C._ Sàrl, exerçant de ce fait une influence prépondérante sur l'une comme sur l'autre. Le but de la Sàrl était pour sa part le conseil en achat et vente de participations immobilières et d'immobilier en Suisse et à l'étranger. L'autorité précédente a également constaté que la Sàrl avait été constituée avec un apport de 20'000 fr. en espèce provenant de la raison individuelle et que les participations ont été portées dans les comptes de celle-ci en 2007, avant d'en disparaître par la suite. La raison individuelle et la Sàrl partageaient en outre leurs locaux, leurs infrastructures et leur personnel. Finalement, il ressort également des faits de la décision entreprise que la société allemande avec laquelle la raison individuelle a conclu un contrat de licence en 2007 avait indiqué au recourant qu'elle ne souhaitait plus travailler avec des raisons individuelles. C'est à la suite de cette information qu'a été créée la société C._ Sàrl et que la licence a été transférée à cette société.
4.3. Force est tout d'abord de constater, à l'instar des recourants, que le but social de la Sàrl ne semble pas exactement se recouper avec l'activité de la raison individuelle, la première étant active dans l'immobilier, alors que la seconde l'était dans le courtage en assurance. Toutefois cela n'est pas déterminant, dans la mesure où il a été retenu en fait par l'autorité précédente que les activités de la société et de la raison individuelle se recoupaient et que les activités de la raison individuelle ont été reprises par la Sàrl. De plus, il ressort de l'extrait du registre du commerce de la raison individuelle (art. 105 al. 2 LTF) que celle-ci avait pour but le conseil et la formation en informatique et organisation d'entreprise, ainsi que l'exploitation d'une école privée d'informatique. Or, les recourants constatent que les activités de cette raison individuelle consistaient pour l'essentiel dans le courtage en assurance. Ainsi, même si aucun grief suffisant n'est soulevé à ce propos, cela exclut d'emblée toute constatation arbitraire des faits par la Commission de recours quant aux activités des deux entités. A cela s'ajoute que le recourant, à travers sa raison individuelle, a conclu un contrat de licence avec une entreprise allemande ayant pour but la distribution de participations immobilières à l'étranger. La conclusion de ce contrat démontre donc bien que la raison individuelle, à tout le moins depuis cet accord, s'est dirigée vers le commerce immobilier.
Tel que cela a été retenu par la Commission de recours, la création de la Sàrl en 2007 a été effectuée uniquement pour répondre aux exigences de l'entreprise allemande ayant conclu le contrat de licence avec la raison individuelle. Partant de ce constat et, comme on l'a vu ci-dessus, du fait que les activités des deux entités se recoupaient, on doit retenir que, lorsque la Sàrl a été créée, il existait un rapport économique étroit entre les participations à cette société et les autres affaires menées par le recourant. La Sàrl, sur laquelle le recourant exerce une influence prépondérante, a en effet été créée dans un pur but commercial, puisqu'elle devait servir à poursuivre l'activité immobilière développée par la raison individuelle. Certes, comme les recourants le relèvent, ils ont par la suite mis un terme aux activités commerciales de celle-ci. Cela n'a toutefois pas d'incidence sur ce qui précède car, durant une période de plus de trois ans, les deux entités ont coexisté, partageant par ailleurs locaux, infrastructures et personnel. A cela s'ajoute que les fonds ayant servi à la création de la Sàrl ont été versés par la raison individuelle qui, à tout le moins en 2007, a inscrit les participations détenues dans sa comptabilité. On retrouve donc tous les éléments développés par la jurisprudence pour admettre un rattachement des participations à la fortune commerciale des recourants (cf. consid. 4.1 ci-dessus).
4.4. Les recourants sont encore d'avis qu'à tout le moins les parts sociales détenues par la recourante ne pouvaient pas faire partie de la raison individuelle, celle-ci ayant été uniquement détenue par le recourant.
On mentionnera à ce propos qu'il est sans importance que la recourante n'ait pas exercé la même activité que le recourant, titulaire de la raison individuelle, au sein de celle-ci et qu'elle n'en ait pas été elle-même titulaire. Comme l'a déjà jugé le Tribunal fédéral (arrêt 2C_18/2018 du 18 juin 2018 consid. 3.2), un tel élément n'est pas pertinent, du moment que les revenus des époux qui vivent en ménage commun sont additionnés (art. 9 al. 1 LIFD). Ainsi, même si la recourante détient un certain nombre de parts sociales de la Sàrl, c'est l'unité économique formée par les époux vivant en ménage commun qui est déterminante, notamment afin d'éviter que ceux-ci ne réclament, dans une situation peu claire, une solution qui leur est favorable alors qu'ils ont profité auparavant des avantages fiscaux d'une autre solution. Selon la jurisprudence, il n'est en particulier pas nécessaire que les conjoints forment une société simple. Il faut bien plus prendre en compte la comptabilité commerciale, le mode d'acquisition et le financement (cf. arrêt 2A.252/2000 du 7 novembre 2000 consid. 4a et les références). Or, en l'espèce, la création de la Sàrl a exclusivement été financée par la raison individuelle, qui l'a au demeurant également mentionnée dans sa comptabilité.
4.5. Les recourants font finalement valoir une violation du principe de la bonne foi, en tant que le Service des contributions ne s'est pas tenu à l'avis de son expert, et invoquent une appréciation arbitraire de la part de ce service.
En premier lieu, on fera remarquer aux recourants qu'ils ne sauraient s'en prendre à la décision du Service des contributions, en raison de l'effet dévolutif complet du recours déposé auprès de la Commission de recours (cf. <ref-ruling> consid. 1.2 p. 543). Pour cette raison déjà, leur grief doit être écarté. En outre, le grief d'arbitraire ne saurait de toute façon pas être examiné, celui-ci n'ayant pas de portée propre par rapport à celui de violation de l'art. 18 al. 2 LIFD examiné ci-dessus (cf. arrêt 2C_497/2019 du 12 juillet 2019 consid. 5.3). Quant à la question du rapport de l'expert du Service des contributions, force est de constater que ne pas suivre ce rapport n'est pas constitutif de violation du principe de la bonne foi. En effet, si un renseignement ou une décision erronés de l'administration agissant dans les limites de ses compétences peut obliger celle-ci à consentir à un administré un avantage contraire à la réglementation en vigueur, il faut cependant que certaines conditions soient réunies. Entre autres conditions, il faut que l'administré se soit fondé sur les assurances ou le comportement dont il se prévaut pour prendre des dispositions auxquelles il ne saurait renoncer sans subir de préjudice et que l'intérêt à une correcte application du droit ne se révèle pas prépondérant sur la protection de la confiance (<ref-ruling> consid. 3.6.2 p. 193 et les références; arrêt 2C_174/2019 du 9 juillet 2019 consid. 6.1). Or en l'occurrence, les recourants n'ont pris aucune disposition ensuite du rapport de l'expert rendu en 2013, c'est-à-dire bien après la radiation de la raison individuelle. Ils n'en invoquent d'ailleurs pas. On ne voit par conséquent pas en quoi, rendre une décision allant à l'encontre d'un rapport d'expert serait contraire au principe de la bonne foi. Ce grief doit ainsi être écarté.
II. Impôts cantonal et communal
5.
Dans le cadre du droit fiscal harmonisé qui régit l'imposition directe aux niveaux fédéral, cantonal et communal, la notion d'activité lucrative indépendante correspond aux concepts employés par la LIFD. Les art. 8 al. 2 LHID et 14 al. 2 de la loi fiscale valaisanne du 10 mars 1976 (LF/VS; RSVS 642.1) prévoient ainsi que la fortune commerciale comprend tous les éléments de la fortune qui servent, entièrement ou de manière prépondérante, à l'exercice de l'activité lucrative indépendante; il en va de même pour les participations d'au moins 20% au capital-actions ou au capital social d'une société de capitaux ou d'une société coopérative, dans la mesure où le détenteur les déclare comme fortune commerciale, au moment de leur acquisition (cf. également art. 3 al. 3 LHID et 6 al. 1 LF/VS quant aux revenus des époux). Par conséquent, les considérations développées pour l'impôt fédéral direct s'appliquent également aux impôts cantonal et communal relatifs à la période fiscale sous examen. Il s'ensuit que le recours doit également être rejeté sur ce point pour les mêmes raisons (cf. arrêt 2C_786/2012 du 1 er mars 2013 consid. 4).
6.
Compte tenus des développements qui précèdent, le recours doit être rejeté aussi bien en tant qu'il concerne l'IFD que l'ICC de la période fiscale 2011. Succombant, les recourants doivent supporter les frais judiciaires, solidairement entre eux (art. 66 al. 1 et 5 LTF). Il n'est pas alloué de dépens (art. 68 al. 1 et 3 LTF).

Par ces motifs, le Tribunal fédéral prononce :
1.
Le recours est rejeté en tant qu'il concerne l'impôt fédéral direct de la période fiscale 2011.
2.
Le recours est rejeté en tant qu'il concerne les impôts cantonal et communal de la période fiscale 2011.
3.
Les frais judiciaires, arrêtés à 3'000 fr., sont mis à la charge des recourants, solidairement entre eux.
4.
Le présent arrêt est communiqué aux mandataires des recourants, au Service cantonal des contributions et à la Commission cantonale de recours en matière fiscale du canton du Valais, ainsi qu'à l'Administration fédérale des contributions.
Lausanne, le 25 novembre 2019
Au nom de la IIe Cour de droit public
du Tribunal fédéral suisse
Le Président : Seiler
Le Greffier : Tissot-Daguette