大数据

title: 概述.
content: ,技术上可在合理时间内分析处理的资料集大小单位为艾字节(英语:EB)。在许多领域,由于资料集过度庞大,科学家经常在分析处理上遭遇限制和阻碍;这些领域包括气象学、基因组学、神经网络体学、复杂的物理模拟,以及生物和环境研究。这样的限制也对网络搜寻、金融与经济资讯学造成影响。资料集大小增长的部分原因来自于资讯持续从各种来源被广泛收集,这些来源包括搭载传感设备的移动设备、高空传感科技(遥感)、软件记录、相机、麦克风、无线射频辨识(RFID)和无线传感网络。自1980年代起,现代科技可储存资料的容量每40个月即增加一倍;,全世界每天产生2.5艾字节(2.5×10字节)的资料。  巨量资料几乎无法使用大多数的数据库管理系统处理,而必须使用「在数十、数百甚至数千台服务器上同时平行运行的软件」(电脑丛集是其中一种常用方式)。巨量资料的定义取决于持有资料组的机构之能力,以及其平常用来处理分析资料的软件之能力。「对某些组织来说,第一次面对数百GB的资料集可能让他们需要重新思考资料管理的选项。对于其他组织来说,资料集可能需要达到数十或数百TB才会对他们造成困扰。」  随着大数据被越来越多的提及,有些人惊呼大数据时代已经到来了,2012年《纽约时报》的一篇专栏中写到,“大数据”时代已经降临,在商业、经济及其他领域中,决策将日益基于数据和分析而作出,而并非基于经验和直觉。但是并不是所有人都对大数据感兴趣,有些人甚至认为这是商学院或咨询公司用来哗众取宠的时髦术语(buzzword),看起来很新颖,但只是把传统重新包装,之前在学术研究或者政策决策中也有海量数据的支撑,大数据并不是一件新兴事物。  大数据时代的来临带来无数的机遇,但是与此同时个人或机构的隐私权也极有可能受到冲击,大数据包含各种个人信息数据,现有的隐私保护法律或政策无力解决这些新出现的问题。有人提出,大数据时代,个人是否拥有“被遗忘权”,被遗忘权即是否有权利要求数据商不保留自己的某些信息,大数据时代信息为某些互联网巨头所控制,但是数据商收集任何数据未必都获得用户的许可,其对数据的控制权不具有合法性。2014年5月13日欧盟法院就“被遗忘权”(right to be forgotten)一案作出裁定,判决谷歌应根据用户请求删除不完整的、无关紧要的、不相关的数据以保证数据不出现在搜索结果中。这说明在大数据时代,加强对用户个人权利的尊重才是时势所趋的潮流。
title: 定义.
content: 巨量资料由巨型组成,这些数据集大小常超出人类在可接受时间下的、、管理和处理能力。巨量资料的大小经常改变,,单一资料集的大小从数太字节(TB)至数十兆亿字节(PB)不等。  在一份2001年的研究与相关的演讲中,麦塔集团(META Group,现为高德纳)分析员道格·莱尼(英语:Doug Laney)指出数据长的挑战和机遇有三个方向:量(英语:Volume,数据大小)、速(英语:Velocity,资料输入输出的速度)与多变(英语:Variety,多样性),合称「3V」或「3Vs」。高德纳与现在大部分巨量资料产业中的公司,都继续使用3V来描述大数据。高德纳于2012年修改对大数据的定义:「巨量资料是大量、高速、及/或多变的资讯资产,它需要新型的处理方式去促成更强的决策能力、洞察力与最佳化处理。」另外,有机构在3V之外定义第4个V:真实性(英语:Veracity)为第四特点。  巨量资料必须借由计算机对资料进行统计、比对、解析方能得出客观结果。美国在2012年就开始着手大数据,奥巴马更在同年投入2亿美金在大数据的开发中,更强调巨量资料会是之后的未来石油。  资料探勘(data mining)则是在探讨用以解析巨量资料的方法。  大数据需要特殊的技术,以有效地处理大量的容忍经过时间内的数据。适用于特殊大数据的技术,包括大规模并行处理(MPP)数据库、数据挖掘、分布式文件系统、分布式数据库、云计算平台、互联网和可扩展的存储系统。
title: 数据来源类型.
content: 大数据取得之来源影响其应用之效益与品质,依照取得的直接程度一般可分为三种:
title: 应用范例.
content: 巨量资料的应用范例包括大科学、RFID、传感设备网络、天文学、大气学、交通运输、基因组学、生物学、大社会资料分析、因特网文件处理、制作因特网搜索引擎索引、通信记录明细、军事侦查、金融巨量资料,医疗巨量资料,社群网络、通勤时间预测、医疗记录、照片图像和影像封存、大规模的电子商务等。
title: 巨大科学.
content: 大型强子对撞机中有1亿5000万个传感器,每秒传送4000万次的资料。实验中每秒产生将近6亿次的对撞,在过滤去除99.999%的撞击资料后,得到约100次的有用撞击资料。  将撞击结果资料过滤处理后仅记录0.001%的有用资料,全部四个对撞机的资料量复制前每年产生25拍字节(PB),复制后为200拍字节。  如果将所有实验中的资料在不过滤的情况下全部记录,资料量将会变得过度庞大且极难处理。每年资料量在复制前将会达到1.5亿拍字节,等于每天有近500艾字节(EB)的资料量。这个数字代表每天实验将产生相当于500垓(5×10)字节的资料,是全世界所有资料来源总和的200倍。
title: 卫生学.
content: 国际卫生学教授汉斯·罗斯林使用「Trendalyzer」工具软件呈现两百多年以来全球人类的人口统计资料,跟其他数据交叉比对,例如收入、宗教、能源使用量等。
title: 公共部门.
content: 目前,发达国家的政府部门开始推广大数据的应用。2012年奥巴马政府投资近两亿美元开始推行《大数据的研究与发展计划》,本计划涉及美国国防部、美国卫生与公共服务部门等多个联邦部门和机构,意在通过提高从大型复杂的的数据中提取知识的能力,进而加快科学和工程的开发,保障国家安全。
title: 信息审查.
content: 中国政府计划建立全面的个人信用评分体系,其包含不少对个人行为的评定,有关指标会影响到个人贷款、工作、签证等生活活动。高科技公司在被政治介入为其目的服务,个人的大部分行为和社交关系受掌控,几乎无人可免于被纳入个人信用评价体系的监控中。除获取网络数据外,中国政府还希望从科技公司获得分类和分析信息的云端计算能力,透过城市监控摄像机、智能手机、政府数据库等搜集数据,以建造智慧城市和安全城市。人权观察驻香港研究员王松莲指出,整个安全城市构想无非是一个庞大的监视项目。
title: 社会学.
content: 大资料产生的背景离不开Facebook等社交网络的兴起,人们每天通过这种自媒体传播信息或者沟通交流,由此产生的信息被网络记录下来,社会学家可以在这些数据的基础上分析人类的行为模式、交往方式等。美国的涂尔干计划就是依据个人在社交网络上的数据分析其自杀倾向,该计划从美军退役士兵中拣选受试者,透过Facebook的行动app收集资料,并将用户的活动数据传送到一个医疗资料库。收集完成的数据会接受人工智能系统分析,接着利用预测程序来即时监视受测者是否出现一般认为具伤害性的行为。
title: 商业.
content: 运用资料探勘技术,分析网络声量,以了解客户行为、市场需求,做行销策略参考与商业决策支援,或是应用于品牌管理,经营网络口碑、掌握负面事件等。如电信业者透过品牌的网络讨论资料,即时找出负面事件进行处理,减低负面讨论在网络扩散后所可能引发的形象危害。又如具有大量商店交易资料的第三方服务业者(Third-party Service Providers, TSP)可以整合手中交易资料、公开的顾客评论资料(例如:Google Map评论)、法院的店家诉讼资料等,评估与预测店家运营情形,进一步进行商业顾问服务。
title: 市场.
content: 巨量资料的出现提升了对资讯管理专家的需求,Software AG、Oracle、IBM、微软、SAP、易安信、惠普和戴尔已在多间资料管理分析专门公司上花费超过150亿美元。在2010年,资料管理分析产业市值超过1,000亿美元,并以每年将近10%的速度成长,是整个软件产业成长速度的两倍。  经济的开发成长促进了密集资料科技的使用。全世界共有约46亿的移动电话用户,并有10至20亿人连结因特网。自1990年起至2005年间,全世界有超过10亿人进入中产阶级,收入的增加造成了识字率的提升,更进而带动资讯量的成长。全世界透过电信网络交换资讯的容量在1986年为281兆亿字节(PB),1993年为471兆亿字节,2000年时增长为2.2艾字节(EB),在2007年则为65艾字节。根据预测,在2013年因特网每年的资讯流量将会达到667艾字节。
title: 外部链接.

Summary: 大数据(英语:Big data),又称为巨量资料,指的是在传统数据处理应用软件不足以处理的大或复杂的数据集的术语。

Big data: Big data is a field that treats ways to analyze, systematically extract information from, or otherwise deal with data sets that are too large or complex to be dealt with by traditional data-processing application software. Data with many cases (rows) offer greater statistical power, while data with higher complexity (more attributes or columns) may lead to a higher false discovery rate. Big data challenges include capturing data, data storage, data analysis, search, sharing, transfer, visualization, querying, updating, information privacy and data source. Big data was originally associated with three key concepts: "volume", "variety", and "velocity". When we handle big data, we may not sample but simply observe and track what happens. Therefore, big data often includes data with sizes that exceed the capacity of traditional software to process within an acceptable time and "value."