Soekenjins bied dikwels 'n verwronge mengsel van inligting en verkeerde inligting. Crispin la valiente / Moment via Getty Images, CC BY-ND
Soekenjins is een van die belangrikste toegangspoorte tot inligting en mense van die samelewing, maar dit is ook leidrade vir verkeerde inligting. Soortgelyk aan problematiese sosiale media algoritmes, soek enjins om u te bedien waarop u en ander al voorheen geklik het. Omdat mense aangetrokke is tot die sensasionele, kan hierdie dans tussen algoritmes en die menslike natuur die verspreiding van verkeerde inligting bevorder.
Soekenjinmaatskappye, soos die meeste aanlyn-dienste, verdien nie net geld deur advertensies te verkoop nie, maar ook deur gebruikers op te spoor en hul data te verkoop deur real-time bied daarop. Mense word dikwels gelei tot verkeerde inligting deur hul begeerte na opspraakwekkende en vermaaklike nuus, sowel as inligting wat kontroversieel is of hul sienings bevestig. Een studie het bevind dat meer gewilde YouTube-video's oor diabetes is minder geneig om medies geldige inligting te hê as minder gewilde video's oor die onderwerp, byvoorbeeld.
Advertensie-gedrewe soekenjins, soos sosiale media-platforms, is ontwerp om kliek op aanloklike skakels te beloon, want dit help die soekondernemings om hul sakemetodes te verhoog. As 'n navorser wat bestudeer die soek- en aanbevelingstelsels, Ek en my kollegas wys dat hierdie gevaarlike kombinasie van korporatiewe winsmotief en individuele vatbaarheid maak die probleem moeilik om op te los.
Hoe soekresultate verkeerd loop
As u op 'n soekresultaat klik, leer die soekalgoritme dat die skakel waarop u geklik het, relevant is vir u soektog. Dit word genoem relevansie terugvoer. Hierdie terugvoer help die soekenjin om in die toekoms 'n hoër gewig aan die skakel vir daardie navraag te gee. As genoeg mense genoeg keer op die skakel klik en sodoende sterk tersaaklike terugvoering gee, begin die webwerf hoër in die soekresultate vir hierdie en verwante navrae.
Mense is meer geneig om te klik op skakels wat hoër vertoon word op die lys met soekresultate. Dit skep 'n positiewe terugvoerlus - hoe hoër 'n webwerf verskyn, hoe meer klik, en dit laat die webwerf weer hoër beweeg of hoër hou. Optimaliseringstegnieke vir soekenjins gebruik hierdie kennis om die sigbaarheid van webwerwe te verhoog.
Daar is twee aspekte van hierdie verkeerde inligtingprobleem: hoe 'n soekalgoritme geëvalueer word en hoe mense reageer op opskrifte, titels en uittreksels. Soekenjins, soos die meeste aanlyn-dienste, word beoordeel aan die hand van 'n verskeidenheid maatstawwe, waarvan een gebruikersbetrokkenheid is. Dit is in die soekenjinsonderneming se beste belang om u dinge te gee wat u wil lees, kyk of bloot klik. Daarom, as 'n soekenjin of 'n aanbevelingstelsel 'n lys skep met items om aan te bied, bereken dit die waarskynlikheid dat u op die items sal klik.
Tradisioneel was dit bedoel om die inligting na vore te bring wat die meeste relevant sou wees. Die idee van relevansie het egter onduidelik geword omdat mense soek gebruik het om dit te vind vermaaklike soekresultate sowel as werklik relevante inligting.
Stel jou voor dat jy 'n klavierstemmer soek. As iemand vir jou 'n video wys van 'n kat wat klavier speel, sou jy daarop klik? Baie sal dit doen, selfs al het dit niks met klavierstemming te doen nie. Die soekdiens word bekragtig met positiewe relevansie-terugvoering en leer dat dit OK is om 'n kat te wys wat klavier speel wanneer mense na klavierstemmers soek.
In werklikheid is dit selfs beter as om die relevante resultate in baie gevalle aan te toon. Mense hou van snaakse katvideo's, en die soekstelsel kry meer klik en gebruikersbetrokkenheid.
Dit kan onskadelik lyk. So, as mense van tyd tot tyd afgelei word en op resultate klik wat nie relevant is vir die soektog nie? Die probleem is dat mense aangetrokke is tot opwindende beelde en opspraakwekkende opskrifte. Hulle is geneig om op samesweringsteorieë en sensasionele nuus te klik, nie net katte wat klavier speel nie, en doen dit ook meer as om op regte nuus te klik of relevante inligting.
Bekende maar vals spinnekoppe
In 2018 soek 'n nuwe dodelike spinnekop op Google gepik na aanleiding van 'n Facebook-plasing wat beweer dat 'n nuwe dodelike spinnekop verskeie mense in verskeie state doodgemaak het. Ek en my kollegas het die top 100 resultate van Google-soeke na 'nuwe dodelike spinnekop' gedurende die eerste week van hierdie trending-ondersoek ontleed.
Die eerste twee bladsye van die Google-soekresultate vir 'nuwe dodelike spinnekop' in Augustus 2018 (skaduwee) het verband gehou met die oorspronklike vals nuusberig oor die onderwerp, nie ontknoping of andersins feitelike inligting nie. Chirag Shah, CC BY-ND
Dit het hierdie verhaal geblyk was vals, maar mense wat daarna soek, is grotendeels blootgestel aan verkeerde inligting wat verband hou met die oorspronklike vals boodskap. Terwyl mense voortgegaan het om te klik en die verkeerde inligting te deel, het Google die bladsye aan die bokant van die soekresultate aangehou.
Hierdie patroon van opwindende en ongeverifieerde verhale wat opduik, en mense wat daarop klik, gaan voort, met mense wat blykbaar onbewus is van die waarheid of glo dat as 'n betroubare diens soos Google Search hierdie verhale aan hulle wys, die verhale waar moet wees. Meer onlangs het 'n weerlê verslag beweer dat China die koronavirus uit 'n laboratorium laat lek het, het trekkrag gekry op soekenjins weens hierdie bose kringloop.
Bespeur die verkeerde inligting
Om te toets hoe goed mense onderskei tussen akkurate inligting en verkeerde inligting, het ons 'n eenvoudige speletjie ontwerp genaamd 'Google of nie. " Hierdie aanlyn-speletjie toon twee stelle resultate vir dieselfde navraag. Die doel is eenvoudig - kies die stel wat betroubaar, betroubaar of relevant is.
In toetse kan mense ongeveer die helfte van die tyd nie die verskil onderskei tussen Google-soekresultate wat verkeerde inligting bevat en dié met slegs betroubare resultate nie. Chirag Shah, CC BY-ND
Een van hierdie twee stelle het een of twee resultate wat geverifieer word en bestempel word as verkeerde inligting of as 'n debunk-verhaal. Ons het die spel publiek beskikbaar gestel en via verskillende sosiale media kanale geadverteer. Oor die algemeen het ons 2,100 30 antwoorde van meer as XNUMX lande versamel.
Toe ons die resultate ontleed, het ons dit gevind ongeveer die helfte van die tyd wat mense verkeerdelik die stel gekies het met een of twee verkeerde inligting. Ons eksperimente met honderde ander gebruikers oor baie herhalings het soortgelyke bevindings tot gevolg gehad. Met ander woorde, ongeveer die helfte van die tyd wat mense resultate kies wat samesweringsteorieë en vals nuus bevat. Namate meer mense hierdie onakkurate en misleidende resultate kies, leer die soekenjins dat dit is wat mense wil hê.
In die geval van Big Tech-regulering en selfregulering, is dit belangrik dat mense moet verstaan ​​hoe hierdie stelsels werk en hoe dit geld verdien. Andersins hou die markekonomie en die natuurlike neiging van mense om aangetrokke tot opvallende skakels, die bose kringloop aan die gang te hou.