大数据

-{zh-tw:巨量资料;zh-hk:大数据;zh-cn:大数据;}-（big data；亦称作-{zh-tw:大数据;zh-hk:巨量资料;zh-cn:巨量资料;}-），指的是传统数据处理应用软件不足以处理的大或复杂的数据集的形容术语。
大数据也可以定义为来自各种来源的大量非结构化或结构化数据。从学术角度而言，大数据的出现促成广泛主题的新颖研究。这也导致各种大数据统计方法的发展。大数据并没有统计学的抽样方法；它只是观察和追踪发生的事情。因此，大数据通常包含的数据大小超出传统软件在可接受的时间内处理的能力。由于近期的技术进步，发布新数据的便捷性以及全球大多数政府对高透明度的要求，大数据分析在现代研究中越来越突出。 
概述.
，技术上可在合理时间内分析处理的数据集大小单位为艾位元组（EB）。在许多领域，由于数据集过度庞大，科学家经常在分析处理上遭遇限制和阻碍；这些领域包括气象学、基因组学、神经网路体学、复杂的物理模拟，以及生物和环境研究。这样的限制也对网路搜寻、金融与经济资讯学造成影响。数据集大小增长的部分原因来自于资讯持续从各种来源被广泛收集，这些来源包括搭载感测设备的行动装置、高空感测科技（遥感）、软体记录、相机、麦克风、无线射频辨识（RFID）和无线感测网路。自1980年代起，现代科技可储存数据的容量每40个月即增加一倍；，全世界每天产生2.5艾位元组（2.5×1018位元组）的数据。
大数据几乎无法使用大多数的数据库管理系统处理，而必须使用「在数十、数百甚至数千台伺服器上同时平行运行的软体」（电脑丛集是其中一种常用方式）。大数据的定义取决于持有数据组的机构之能力，以及其平常用来处理分析数据的软体之能力。「对某些组织来说，第一次面对数百GB的数据集可能让他们需要重新思考数据管理的选项。对于其他组织来说，数据集可能需要达到数十或数百TB才会对他们造成困扰。」
随着大数据被越来越多的提及，有些人惊呼大数据时代已经到来了，2012年《纽约时报》的一篇专栏中写到，“大数据”时代已经降临，在商业、经济及其他领域中，决策将日益基于数据和分析而作出，而并非基于经验和直觉。但是并不是所有人都对大数据感兴趣，有些人甚至认为这是商学院或咨询公司用来哗众取宠的时髦术语(buzzword)，看起来很新颖，但只是把传统重新包装，之前在学术研究或者政策决策中也有海量数据的支撑，大数据并不是一件新兴事物。
大数据时代的来临带来无数的机遇，但是与此同时个人或机构的隐私权也极有可能受到冲击，大数据包含各种个人-{zh-cn:信息; zh-tw:资讯;}-数据，现有的隐私保护法律或政策无力解决这些新出现的问题。有人提出，大数据时代，个人是否拥有“被遗忘权”，被遗忘权即是否有权利要求数据商不保留自己的某些信息，大数据时代信息为某些互联网巨头所控制，但是数据商收集任何数据未必都获得用户的许可，其对数据的控制权不具有合法性。2014年5月13日欧盟法院就“被遗忘权”（Case of Right to be Forgotten）一案作出裁定，判决Google应根据用户请求删除不完整的、无关紧要的、不相关的数据以保证数据不出现在搜索结果中。这说明在大数据时代，加强对用户个人权利的尊重才是时势所趋的潮流。
定义.
大数据由巨型数据集组成，这些数据集大小常超出人类在可接受时间下的、、管理和处理能力。大数据的大小经常改变，，单一数据集的大小从数太位元组（TB）至数十兆亿位元组（PB）不等。
在一份2001年的研究与相关的演讲中，麦塔集团（META Group，现为高德纳）分析员道格·莱尼（Doug Laney）指出数据长的挑战和机遇有三个方向：量（Volume，数据大小）、速（Velocity，数据输入输出的速度）与多变（Variety，多样性），合称「3V」或「3Vs」。高德纳与现在大部份大数据产业中的公司，都继续使用3V来描述大数据。高德纳于2012年修改对大数据的定义：「大数据是大量、高速、及/或多变的资讯资产，它需要新型的处理方式去促成更强的决策能力、洞察力与最佳化处理。」另外，有机构在3V之外定义第4个V：真实性（Veracity）为第四特点，即数据的真实性存疑或不能全然确定。。
大数据必须借由计算机对数据进行统计、比对、解析方能得出客观结果。美国在2012年就开始著手大数据，欧巴马更在同年投入2亿美金在大数据的开发中，更强调大数据会是之后的未来石油。
资料探勘（data mining）则是在探讨用以解析大数据的方法。
大数据需要特殊的技术，以有效地处理大量的容忍经过时间内的数据。适用于特殊大数据的技术，包括大规模并行处理（MPP）数据库、数据挖掘、分布式文件系统、分布式数据库、云计算平台、互联网和可扩展的存储系统。
数据来源类型.
大数据取得之来源影响其应用之效益与品质，依照取得的直接程度一般可分为三种：
应用范例.
大数据的应用范例包括大科学、RFID、感测设备网路、天文学、大气学、交通运输、基因组学、生物学、大社会数据分析、网际网路文件处理、制作网际网路搜寻引擎索引、通信记录明细、军事侦查、金融大数据，医疗大数据，社群网路、通勤时间预测、医疗记录、照片图像和影像封存、大规模的电子商务等。
巨大科学.
大型强子对撞机中有1亿5000万个感测器，每秒传送4000万次的数据。实验中每秒产生将近6亿次的对撞，在过滤去除99.999%的撞击数据后，得到约100次的有用撞击数据。
将撞击结果数据过滤处理后仅记录0.001%的有用数据，全部四个对撞机的数据量复制前每年产生25拍位元组（PB），复制后为200拍位元组。
如果将所有实验中的数据在不过滤的情况下全部记录，数据量将会变得过度庞大且极难处理。每年数据量在复制前将会达到1.5亿拍位元组，等于每天有近500艾位元组（EB）的数据量。这个数字代表每天实验将产生相当于500垓（5×1020）位元组的数据，是全世界所有数据来源总和的200倍。
卫生学.
国际卫生学教授汉斯·罗斯林使用「Trendalyzer」工具软体呈现两百多年以来全球人类的人口统计数据，跟其他数据交叉比对，例如收入、宗教、能源使用量等。
公共部门.
目前，发达国家的政府部门开始推广大数据的应用。2012年奥巴马政府投资近两亿美元开始推行《大数据的研究与发展计划》，本计划涉及美国国防部、美国卫生与公共服务部门等多个联邦部门和机构，意在通过提高从大型复杂的的数据中提取知识的能力，进而加快科学和工程的开发，保障国家安全。
信息审查.
中华人民共和国政府计划建立全面的个人信用评分体系，其包含不少对个人行为的评定，有关指标会影响到个人贷款、工作、签证等生活活动。高科技公司在被政治介入为其目的服务，个人的大部分行为和社交关系受掌控，几乎无人可免于被纳入个人信用评价体系的监控中。除获取网络数据外，中华人民共和国政府还希望从科技公司获得分类和分析信息的云端运算能力，透过城市监控摄像机、智慧型手机、政府数据库等搜集数据，以建造智慧城市和安全城市。人权观察驻香港研究员王松莲指出，整个安全城市构想无非是一个庞大的监视项目。
而美国的大规模监控最早则可追溯到1919年的黑箱计划，自2001年911恐怖袭击后监控被升级。2013年爱德华·斯诺登向《卫报》曝光了美国四项大规模监控计划之一的棱镜计划，“他们（国家安全局）能够利用监控系统让时间倒流、明察秋毫，他们可以查出每一个你曾做过的决定，每一个和你说过话的朋友，在此基础之上制造出对你的怀疑，从而攻击你，将你描绘成一个罪犯，无论你的人生多么清白。”
社会学.
大数据产生的背景离不开Facebook等社交网络的兴起，人们每天通过这种公民媒体传播信息或者沟通交流，由此产生的信息被网络记录下来，社会学家可以在这些数据的基础上分析人类的行为模式、交往方式等。美国的涂尔干计划就是依据个人在社交网络上的数据分析其自杀倾向，该计划从美军退役士兵中拣选受试者，透过Facebook的行动app收集资料，并将用户的活动数据传送到一个医疗资料库。收集完成的数据会接受人工智能系统分析，接著利用预测程式来即时监视受测者是否出现一般认为具伤害性的行为。
商业.
运用资料探勘技术，分析网路声量，以了解客户行为、市场需求，做行销策略参考与商业决策支援，或是应用于品牌管理，经营网路口碑、掌握负面事件等。如电信业者透过品牌的网路讨论数据，即时找出负面事件进行处理，减低负面讨论在网路扩散后所可能引发的形象危害。
市场.
大数据的出现提升了对资讯管理专家的需求，Software AG、Oracle、IBM、微软、SAP、易安信、惠普和戴尔已在多间数据管理分析专门公司上花费超过150亿美元。在2010年，数据管理分析产业市值超过1,000亿美元，并以每年将近10%的速度成长，是整个软体产业成长速度的两倍，这个成长速度亦在膨涨中。
经济的开发成长促进了密集数据科技的使用,也促成发展了相对于资讯经济的数据经济。全世界共有约46亿的行动电话用户，并有10至20亿人连结网际网路。自1990年起至2005年间，全世界有超过10亿人进入中产阶级，收入的增加造成了识字率的提升，更进而带动资讯量的成长。全世界透过电信网路交换资讯的容量在1986年为281兆亿位元组（PB），1993年为471兆亿位元组，2000年时增长为2.2艾位元组（EB），在2007年则为65艾位元组。根据预测，在2013年网际网路每年的资讯流量将会达到667艾位元组。