Veebiämblik

Veebiämblik (ingl web spider, web crawler) on automatiseeritud programm, mis otsib kriteeriumite järgi uusi veebidokumente ja lisab nende andmed otsinguandmebaasidesse.Veebiämbliku ülesandeks on analüüsida iga külastatava lehe sisu, koguda mitmesugust teavet, näiteks pealkirjade, piltide, märksõnade ja linkide kohta. Veebiämbliku mõiste tekkis koos veebi (ingl web, täisnimi World Wide Web, WWW) arenguga 1990. aastatel. Esimese veebiämbliku töötas välja Matthew Gray 1993. aastal. Selle nimeks sai World Wide Web Wanderer, veebiämbliku eesmärgiks oli loendada ligipääsetavate lehtede arvu ning mõõta seeläbi veebi suurust. 1994. aastal töötas Brian Pinkerton välja WebCrawleri. WebCrawleri otsingumootor hakkas indekseerima veebisaitide täistekste, mis võimaldas kasutajatel otsida veebilehel ükskõik millist sõna, mis muutis kõigi tulevaste otsingumootorite standardit. Oliver McBryani 1994. aastal välja töötatud World Wide Web Worm (WWWW) oli veel üks esimesi veebiämblikul baseeruvaid otsingumootoreid. Wormi andmebaasis oli 1994. aasta seisuga kogutud üle 300 000 multimeediumivara ja indekseeritud üle 100 000 veebilehe. Veebiämblikud liiguvad veebis hüperlinkide kaudu saadaolevatele veebisaitidele, indekseerivad iga veebisaidi sisu ning avavad kõik leitud URL-id uute veebisaitide analüüsimiseks, kontrollides samal ajal, kas kõik HTML-failid ja lingid on ka asjakohased. Veebiämblike tööpõhimõtte võib üldiselt kokku võtta järgnevalt : Veebiämbliku töö algab ette antud veebiaadressidest. Tehakse HTTP-päringuid, et koguda uusi veebilehti, mis on seotud algsete lehtedega. Seejärel analüüsib ämblik veebilehe HTML-koodi, et koguda asjakohast teavet, näiteks pilte. Kogutud ja külastamata veebilehed lisatakse järjekorda. Järjekorrast valitakse uus veebiaadress ning seejärel korratakse kogu protsessi uuesti, kuni enam järjekorras lehti pole või jõutakse mingi seatud piirini. Kõike seda tehes salvestatakse veebilehtede andmed andmebaasi. Sealjuures peaksid veebiämblikud järgima ka eetikanorme ja veebipõhist protokolli(robots.txt faili), mis annab juhiseid, milliseid veebilehti võib ämblik külastada ja milliseid peaks see ignoreerima. Veebiämblike implementeerimisel on proovitud erinevaid lähenemisviise. Järgnevas loetelus tutvustatakse neid lähemalt. Suunatud veebiämblik (ingl Focused web crawler) on loodud selleks, et koguda omavahel seotud lehti, mis vastavad ühele kindlale teemale. Kuna allalaadimiste hulk on väiksem, siis on see tüüp ökonoomsem riistvara ja võrguressursside suhtes. Seda tüüpi veebiämblik (ingl Incremental crawler) jätkab veeblehtede külastamist ka pärast algset kogumist mingi piiri ulatuses, et järk-järgult uuendada veebilehtede loendit. Uuendamise käigus värskendab veebiämblik olemasolevaid lehti ning asendab vähem olulised lehed olulisematega. Hajus veebiämblik (ingl Distributed crawler) kasutab hajutatud arvutustehnikat, kus mitu ämblikku töötab koos veebi maksimaalse katvuse tagamiseks. Keskne server juhib sõlmede suhtlust ja sünkroonimist. Paralleelse veebiämbliku (ingl Parallel crawler) puhul jagatakse veeb osadeks ning iga paralleelne lõim vastutab ühe osa eest. See suurendab allalaadimiskiirust ja võimaldab efektiivselt hallata suuremahulist veebi. Erinevad lõimed võivad töötada füüsiliselt erinevates kohtades, mistõttu on võrgukoormus väiksem ja üldine jõudlus parem. Veebiämblik kõige tavalisem eesmärk on luua andmebaasi veebilehe kohta indeks, mistõttu on veebiämblikud otsingumootorite töö aluseks. Kuid veebiämblikel on ka palju muid kasutusalasid. Konkurentsianalüüsis saab veebiämblik jälgida konkurentide hinnapoliitikat ja tooteinfot. Ämblikke saab kasutada ka turunduses, kus veebiämblikud aitavad koguda tarbijate eelistuste andmeid, võimaldades sisukamate reklaamistrateegiate loomist. Teadusuuringutes kasutatakse veebiämblikke suuremahuliste andmekogumisprojektide jaoks, hõlbustades näiteks ühiskondlike trendide mõistmist. Kuigi veebis roomamine on legaalne tegevus, tõstatab veebiämblike kasutamine siiski eetilisi küsimusi. Põhjuseks tuuakse, et internetis leiduvate andmete kasutamise õiguslik raamistik on ebaselge ning valdkonnas puuduvad ühtsed eeskirjad. Rõhutatakse, et andmekraapimisel on oluline olla teadlik, kuidas ämblik võib kahju tekitada, ning rakendada meetmeid, et selliseid olukordi vältida. Halvasti programmeeritud veebiämblik võib põhjustada näiteks teenusetõkestusründeid, mille tavapärane eesmärk on teatud veebilehe kättesaadavuse häirimine või peatamine, muutes selle kasutajatele kättesaamatuks. Andmekraapimisega seotud DoS-rünnakud on sageli tahtmatud, kuid kahjude vältimiseks peab ämblik olema implementeeritud korralikult, samuti peaks veebiämblik pidama kinni robots.txt failist, kus on kirjeldatud veebilehe omaniku poolt, kuidas võiks lehel toimida ning vajadusel piirama päringute sagedust. Individuaalse privaatsuse seisukohast tuuakse välja, et veebikraapimine võib ohustada isikute privaatsust, kuna kogutud andmed võivad tuvastada isikuid ka anonüümsete kasutajate puhul. Õiguste rikkumine võib toimuda ka siis, kui kasutatakse tarbijate andmeid ilma nõusolekuta. Organisatsioonide privaatsuse ja ärilise väärtuse seisukohast võib veebikraapimine paljastada ärisaladusi, omandiõigusi ja muid konfidentsiaalseid andmeid, kahjustades organisatsiooni mainet ja tuues kaasa rahalisi kahjusid. Samuti võivad veebikraapimisega seotud tegevused mõjutada andmekvaliteeti ja otsustusprotsesse, põhjustades valeandmete levikut ja tuues sellega kaasa negatiivseid tagajärgi . Applebot on Apple'i veebiämblik. Näiteks Siri ja Spotlight Suggestions kasutavad Applebotti. Bingbot on Microsofti veebiämblik, mida kasutatakse teabe kogumiseks, et luua veebist otsitav register. Bingbot on väidetavalt maailmas 3. kõige aktiivsem ämblik. Baiduspider on Baidu ametlik veebiämblik. Baiduspider on kolme tüüpi roomiku üldnimetus: lauaarvuti-ämblik, mis simuleerib kasutajat töölaual; mobiilseadme-ämblik, mis simuleerib kasutajat mobiilseadmes; ja miniprogrammide ämblik, mis simuleerib kasutajat Baidu mobiilirakenduses. DuckDuckBot on DuckDuckGo veebiämblik. Googlebot on Google'i kahte tüüpi veebiämblike üldnimi: Googlebot Desktop – töölaua-ämblik, mis simuleerib kasutajat töölaual. Googlebot Smartphone – mobiilseadme-ämblik, mis simuleerib kasutajat mobiilseadmes. Diffbot – programmeeritav veebiämblik, mis on saadaval API-na. SortSite – veebilehtede analüüsimiseks mõeldud veebiämblik. Swiftbot – tarkvarateenusena saadaval Swiftype'i veebiämblik. Apache Nutch – muudetav ja skaleeritav veebiämblik Javas, mis põhineb Apache Hadoopil ja on laiendatav vastavalt kasutajaspetsiifilistele ülesannetele. Heritrix – Interneti arhiivimiseks mõeldud ämblik, mis on kirjutatud Javas. HTTrack – veebiämblik, mis võimaldab kasutajatel ülemaailmseid veebisaite Internetist kohalikku arvutisse alla laadida. Scrapy – avatud lähtekoodiga raamistik, mis on kirjutatud Pythonis. Ettevõttesisesed veebiämblikud on olulised oma platvormide veebiotsinguteks ja teenuste toimimiseks. Kommertstarkvara veebiämblikud pakuvad spetsiifilisi analüüsivahendeid ja teenuseid äriliseks otstarbeks. Avatud lähtekoodiga veebiämblikud võimaldavad kohandatud ja skaleeritavaid veebiämblikulahendusi vastavalt vajadustele. "e-Teatmik: IT ja sidetehnika seletav sõnaraamat". web.archive.org. 8. detsember 2012. Originaali arhiivikoopia seisuga 8. detsember 2012. Vaadatud 4. detsembril 2023. "What is a Web Crawler?". Simplilearn.com (Ameerika inglise). 10. detsember 2019. Vaadatud 4. detsembril 2023. Boutros, Eric (8. juuli 2022). "A Brief History of Web Crawlers". Soft Surge (Ameerika inglise). Vaadatud 4. detsembril 2023. "Matthew Gray Develops the World Wide Web Wanderer. Is this the First Web Search Engine? : History of Information". historyofinformation.com. Vaadatud 4. detsembril 2023. "Short History of Early Search Engines – The History of SEO". web.archive.org. 21. jaanuar 2019. Originaali arhiivikoopia seisuga 21. jaanuar 2019. Vaadatud 4. detsembril 2023. "Oliver McBryan Develops a Search Engine Called the "World Wide Web Worm" : History of Information". www.historyofinformation.com. Vaadatud 4. detsembril 2023. "What is a web crawler: how these data spiders optimize the internet". IONOS Digital Guide (Ameerika inglise). 20. oktoober 2020. Vaadatud 4. detsembril 2023. Bhagyashree (9. oktoober 2023). "Unraveling the Mechanics of Web Crawlers". PromptCloud (Ameerika inglise). Vaadatud 4. detsembril 2023. Giles, C.Lee (oktoober 2010). "The Ethicality of Web Crawlers". Vaadatud 4. detsember 2023. Chaitra, P. G.; Deepthi, V.; Vidyashree, K. P.; Rajini, S. (2020). Choudhury, Sushabhan; Mishra, Ranjan; Mishra, Raj Gaurav; Kumar, Adesh (toim-d). "A Study on Different Types of Web Crawlers". Intelligent Communication, Control and Devices. Advances in Intelligent Systems and Computing (inglise). Singapore: Springer: 781–789. DOI:10.1007/978-981-13-8618-3_80. ISBN 978-981-13-8618-3. Cho, Junghoo (detsember 2000). "The Evolution of the Web and Implications for an Incremental Crawler". Vaadatud 4. detsember 2023. Ahmadi-Abkenari, Fatemeh; Selamat, Ali (1. veebruar 2012). "An architecture for a focused trend parallel Web crawler with the application of clickstream analysis". Information Sciences. 184 (1): 266–281. DOI:10.1016/j.ins.2011.08.022. ISSN 0020-0255. "What is a web crawler and how does it work?". en.ryte.com. Vaadatud 4. detsembril 2023. Roesler, Peter (3. veebruar 2022). "How To Use Web Crawlers in Your Digital Marketing CampaignsWeb crawlers are now an imperative part of any site's digital marketing experience and necessary to maintain a competitive edge". Inc. "How Can Web Crawlers Usage Benefit Your Business?" (Ameerika inglise). 12. juuni 2022. Vaadatud 4. detsembril 2023. Nemeslaki, András (21. september 2011). "Web crawler research methodology" (PDF). econstor.eu. Vaadatud 4. detsember 2023. Densmore, James (23. juuli 2019). "Ethics in Web Scraping". Medium (inglise). Vaadatud 4. detsembril 2023. Walby, Kevin; Dick, Kevin; Luscombe, Alex (juuni 2022). "Algorithmic thinking in the public interest: navigating technical, legal, and ethical hurdles to web scraping in the social sciences". Vaadatud 4. detsember 2023. Rudnytskyi, Matthew Beckman, Stéphane Guerrier, Justin Lee, Roberto Molinari, Samuel Orso & Iegor. Chapter 10 Web scraping | An Introduction to Statistical Programming Methods with R. Krotov, Vlad; Johnson, Leigh (1. juuli 2023). "Big web data: Challenges related to data, technology, legality, and ethics". Business Horizons. 66 (4): 481–491. DOI:10.1016/j.bushor.2022.10.001. ISSN 0007-6813. "About Applebot". Apple Support (inglise). 10. juuli 2020. Vaadatud 4. detsembril 2023. "Seo Glossary definition page". ahrefs.com (inglise). Vaadatud 4. detsembril 2023. "What is Baiduspider and How to Manage It". QPSOFTWARE (inglise). Vaadatud 4. detsembril 2023. DuckDuckGo. "Is DuckDuckBot related to DuckDuckGo?". DuckDuckGo Help Pages. Vaadatud 4. detsembril 2023. "What Is Googlebot | Google Search Central | Documentation". Google for Developers (inglise). Vaadatud 4. detsembril 2023. "Diffbot | Knowledge Graph, AI Web Data Extraction and Crawling". Diffbot (inglise). Vaadatud 4. detsembril 2023. "SortSite - web site usability and accessibility testing". www.powermapper.com. Vaadatud 4. detsembril 2023. "About Swiftbot". Swiftype (inglise). Vaadatud 4. detsembril 2023. Committee, Apache Nutch Project Management. "Apache Nutch™". nutch.apache.org (Ameerika inglise). Vaadatud 4. detsembril 2023. "Heritrix - Home Page". crawler.archive.org. Vaadatud 4. detsembril 2023. "HTTrack Website Copier - Free Software Offline Browser (GNU GPL)". www.httrack.com. Vaadatud 4. detsembril 2023. "Scrapy | A Fast and Powerful Scraping and Web Crawling Framework". scrapy.org. Vaadatud 4. detsembril 2023.