Dataset Viewer
Auto-converted to Parquet
Id
int64
1
278
Title
stringlengths
7
81
Content
stringlengths
560
16.9k
View
int64
342
28.8k
PublishTime
int64
1,605B
1,695B
Site
stringclasses
1 value
1
亚马逊云科技推出基于生成式AI的临床文档工具HealthScribe预览版
最近,亚马逊云科技新推出了一项符合HIPAA标准的服务,名为AWS HealthScribe。该服务尚处于预览状态,它可以利用语音识别和生成式人工智能(基于Amazon Bedrock)来生成临床文档。 按照该公司的说法,AWS HealthScribe是会话式和生成式人工智能(AI)的结合体,可以减轻编写临床文档的负担并改善咨询体验。借助这项服务,用户可以利用一整套的人工智能功能来加快临床应用中临床文档的编制。 AWS HealthScribe为医疗卫生软件提供商提供了一个API,可以自动生成完整的记录及提取关键的详细信息(如医疗术语和药物),并根据医患之间的讨论创建可输入电子健康记录(EHR)系统的摘要。 例如,在HealthScribe中创建的笔记可以通过人工智能进行补充,包括诸如就诊原因、当前病史、评估和随访等细节。示例:医疗卫生软件开发人员可以使用AWS HealthScribe为用户提供的应用程序体验(图片来源:AWS for Industries博文) AWS for Industries博文的作者是这样描述AWS HealthScribe的好处的:通过功能整合,AWS HealthScribe减少了训练、优化、集成单个的人工智能服务和构建自定义模型的需求,加快了实施速度。客户可以专注于为最终用户提供价值,而不必费力优化单个的AI组件。 另一方面,虽然该服务符合HIPAA,但公司必须签署一份称为商业伙伴附录的合同。对此,AWS的文档做了详细说明,只有这样才能完全符合HIPAA。 除了AWS,微软和谷歌也有像AWS HealthScribe这样的医疗卫生服务。例如,云服务Microsoft Healthcare Bot就使得医疗卫生组织能够构建和部署可用于各种目的的会话代理,例如分诊和症状检查。还有Google Cloud Healthcare API,该服务提供了一套基于Google Cloud Platform构建的专门用于医疗卫生领域的产品和服务。 Bertalan Meskó是医学未来学家协会(Medical Futurist Institute)的主任、哲学和医学博士,他在LinkedIn的一篇帖子中评论道:看到科技巨头进军医疗卫生领域非常令人兴奋,我们都应该为此感到高兴,因为他们比医疗卫生/制药公司更擅长创造人们想要的技术。 此外,Batch首席执行官Simon Dawlat在推特上写到:随着亚马逊加入微软/谷歌的竞争行列推出HealthScribe,基于人工智能的临床文档API淘金热正如火如荼地进行着——然而,与那些高度专注的公司(如@NablaTech)所提供的产品相比,所有FAANG的产品都显得有些尴尬。 比赛开始了! Nuance和Cerner Corporation(Oracle)等公司也提供了其他一些类似的解决方案,前者为医疗卫生和客户互动提供了对话式人工智能,后者则是医疗卫生信息技术解决方案、服务、设备和硬件供应商。 最后,AWS HealthScribe目前仅在美国东部(弗吉尼亚州北部)地区可用,客户可以填写表单完成注册后访问该服务。了解定价细节可以查看定价页面,了解其他细节可以查阅文档。  原文链接:https://www.infoq.com/news/2023/08/aws-healthscribe-ai-preview/相关阅读:亚马逊云科技re:Inforce 2023中国站:企业如何提高数据、模型和应用安全?降本增效:Grab如何在亚马逊云科技上将Kafka消费者流量成本降到零
1,518
1,695,081,600,680
InfoQ
2
网安市场营收全球第一,这家老牌防火墙公司在AIGC时代换了新“打法”
Palo Alto Networks(派拓网络),于2005年成立,总部在硅谷圣克拉拉(Santa Clara, CA),目前服务超过150多个国家和地区,在创立之时便推出以下一代防火墙为著称的产品线。目前在全球网安市场营收排名第一,市值如果单从网络安全赛道来讲应该也是名列前茅。Palo Alto Networks服务95%的全球财富百强,72%全球2000强客户,营收连续三年来从43亿美元、55亿美元到今年7月底刚刚结束23财年的69亿美元,复合增长率达到了26%。派拓网络大中华区技术总监董春涛介绍,公司早期是基于下一代防火墙(NGFW)开展业务,在近几年派拓网络已经不再是一个传统意义上的防火墙公司。公司已经涉及多个网络安全赛道,同时也是可拓展威胁检测与响应(XDR)以及零信任(Zero Trust)概念的提出者。一直以来,Palo Alto Networks(派拓网络)都非常重视国内市场,且已经在大连设立了售后技术支持中心,并且积极把包括Prisma Cloud、Prisma SASE在内的各种各样的云上安全服务陆续落地中国,服务中国客户和在华的跨国公司。董春涛坦言,这些努力对背后离不开派拓网络与亚马逊云科技的紧密合作。在此次亚马逊云科技re:Inforce 2023中国站会后,董春涛就AI时代的网络安全这一主题回答了包括InfoQ在内多家媒体的提问。嘉宾介绍|派拓网络大中华区技术总监董春涛问:您认为AI时代的网络安全面临哪些新的挑战?Palo Alto Networks(派拓网络)是如何理解和应对这些挑战的?董春涛:Palo Alto Networks(派拓网络)在2016年就引入机器学习,或者是深度学习,或者是加强型学习促进我们防护安全攻击的能力。所以7年间我们从最早的安全沙箱引入机器学习能力以后,第一时间提出的就是防御未知威胁攻击的方式,我们不断地把这种能力渗透到各个产品,包括URL过滤,在线的防火墙机器学习能力,Prisma SASE里面也都融汇了人工智能的技术。去年年底我们推的AIOps也是利用了这样的技术,我们在之前有一个广泛的上升。但是现在来讲,生成式AI推动的安全技术使我们产生了一个新的对于安全领域的思考,肯定它是有一个非常大的变化。我们首先看到我们积累的数据价值,因为数据才是AI最核心的因素。我们在过去做安全做了十多年,沉淀了大量的高质量数据,我们认为这些高质量数据会帮助我们更好地利用新的AI技术。同时我们也看到在2018年以后坚定采用云战略也是正确的。因为没有云就没有数据的聚集,也没有算力去做这件事情,很多技术都不是突然之间发生的,一定是很多技术底层积累下来的。所以我们也看到我们在跟亚马逊云科技合作过程当中,包括我们与亚马逊云科技最新的创新服务Amazon Security Lake安全数据湖来互相交换数据,这些数据未来对AI产生极大的价值,这是一方面。第二方面是SASE,我们看到SASE方案完全构建在整个云平台上面,我们知道有一些友商做的是私有部署,或者是在IDC自建,但是我们坚定不移放在公有云上开展这个服务。在这个过程中也是把我们的集成性能力和数据整合能力都体现在这里面,使我们对AI能力的赋予就产生非常便利的条件。最后,我们说安全平台化,原来的安全行业是非常碎片化的,其实这也是因为安全领域是攻防博弈的过程,有很多创新公司有自己的新型能力去做。但是我们看到随着AI的发展,更多的平台化公司会出现,为什么要这样做?就是因为我们要有3C的数据,3C是什么呢?就是完整的(Complete)、一致的(Consistent)、正确的(Correct)数据,我们通过这样平台化的解决方案才能收集到3C的数据,有这样3C的数据我们才能有更好的AI能力和防御手段。问:Palo Alto Networks(派拓网络)是一家独立的安全公司,除了和亚马逊云科技合作之外,和别的云厂商合作情况是怎么样的?另外对于客户来说,其实很多时候面临的是多云环境,在这种情况下怎么更好地合作落地安全?董春涛:第一,我们在主流公有云上面都做了部署和尝试,更多地是以客户的需求为导向。第二,通过很多统计,我们看到用户都是多云需求的,这个趋势也是不可阻挡的。我们自己的代码是要上云的,上云过程中我们是要看成本和市场规划,然后有序地在各个云上推出和部署我们的服务。我们作为一个软件安全公司来讲本身也是认可多云战略的,并且在整个过程中看到这也是一个比较成功的方式。我们在满足客户需求的时候,有时候是客户驱动我们要用哪个,我们也在不停根据客户的需求与后台一起讨论市场的预期,然后做相应的发布。问:您提到生成式AI带来的契机把安全从IT端推向业务端,您能不能解释一下为什么这么讲?是因为生成式AI离客户的业务更近吗?您认为这会带来什么影响?会使得未来客户在安全方面的预算支出在IT当中占比明显提升吗?董春涛:我们看到安全在IT中是一部分,是一个小众的组成部分,其实常年以来它是附着在IT上的,大部分的组织结构是CEO、CIO、CISO这样一个结构。现在我们看到在整个IT发展过程当中,生成式AI的出现根本改变了IT这个领域的范畴。企业数字化本来就是在衍变,但是生成式AI起到了催化剂的作用,它的能力使每一个行业,不管是To C还是To B,都会有一个整体的发展,这个时候大家在回顾看到用生成式AI来做这种创新业务的时候,会发现安全是一个绝对不能避开的话题,是更重要的话题。我们相信安全在生成式AI主导的业务促进过程当中会是一个伴生关系,所以就突破了原来传统的IT领域。Palo Alto Networks(派拓网络)从下一代防火墙变成云安全公司之后,我们能看到自己的发展趋势,尤其是这两年大家看到很多经济在下滑的时候,所有的安全公司都在往上走,这是一个趋势。第二个趋势我们看生成式AI会把业务带到数字化转型当中,推动企业转型。这个时候也对我们整个的安全从业和服务人员来讲是一个促进,我们可能更多地会与业务负责人谈论安全的复杂性。问:刚才也提到了派拓网络有和亚马逊云科技定制的云原生保护平台,其实在国外还有一些比较流行的安全方面的产品,比如云网络安全代理、云安全态势管理、SaaS安全态势管理,还有SaaS管理平台这些新兴的工具,想问下派拓网络有没有计划把这些在国外比较流行的安全产品和工具带到国内,如果没有带到国内的话,为什么没有引入国内?是国内用户不太关注这些,还是它对中国的用户不是主流?也想请您预测一下哪些方案将成为云安全市场的主流产品,依据是什么?董春涛:在Palo Alto Networks(派拓网络)刚刚引入到中国区域的时候,做得更多的是CSPM,就是整个云使用的安全态势管理,但是正如您刚才提到几个另外的模块,这些模块其实都是在云安全里面的,就是我们在Prisma Cloud里面的安全模块。我们看到容器安全在中国有相当长一段时间是比较靠前的,尤其是金融行业先推出的。我们在早期也参与了很多类似这样的项目,我们看到容器安全,它另外一个词就是主机安全(CWP,Cloud Workload Protection)这样的概念,虽然它有时是私有化。但是它的技术和使用场景都类似的。另外几个尤其是偏SaaS应用的防护确实是国外发展得快,这也确实跟应用场景有关。国内SaaS应用场景现在慢慢多起来了,但是还是国外发展更快、更成熟,所以我们这部分确实在国外用得更多一些。但是刚才我们谈到引入云原生应用(Cloud Native Application),或者叫CNAPP也好,或者是云安全(Cloud Security)的时候,我觉得生成式AI确实能促进,在开发新型应用的时候,很多大语言模型都是开源的,所以如果企业考虑用开源模型做创新业务和生成式AI衍生业务的时候,我们就有机会把我们整个云安全(Cloud Security)的系列服务介绍进来。另外,我们看到原来每一个模块都有自己的市场,从我们自己的观察来看,整个打穿从代码(code)到构建(build),到部署(deploy)到运行(run)的防护是一体的,只有平台化之后才能看到它的关系,才能溯源到哪个最初的地方有问题,这也是我们新的Prisma Cloud UI它在整条线上溯源,如果每一个模块都是割裂的,在不同模块去做的话,很难做到这样全景化的安全防护。大家知道安全的集成是非常难的,不像传统IT集成相对容易,都是标准。安全集成数据交互非常难,所以不同厂家的集成也是很难的。我们构建在亚马逊云科技上的Prisma Cloud也会利用亚马逊云科技的安全能力,我们也希望随着亚马逊云科技在云中安全的创新,我们也实现更多的集成性的工作,通过相对完善的集成,我们在推出全套的Prisma Cloud云服务的时候,整体上也会有一套更加完善的方案。问:今年是AI全面爆发之年,想问一下,您作为一个管理者的角色,尤其是Palo Alto Networks(派拓网络)也是全球顶尖网络安全公司代表,从今年以来咱们大中华区,或者说您负责的技术相关部门有没有一些调整和变化?比如说产品或者是业务重点研发方向,人才的匹配度等方面。董春涛:关于产品结构,我们完全摆脱了原来单一硬件产品的方式进入到整个平台化,即网络安全平台,云安全平台和现代化运营安全平台,这三大平台中。所以对我们的技术人员要求是由单一的、传统的网络安全,向包括云安全、运营安全、终端安全等一体化的方向做演变。我们现在希望每一位安全从业技术人员都是全栈的,我们说云计算有全栈,那么安全现在也有全栈。问:从技术端的感知来看,国内的客户他们对于安全的需求呈现出一些什么样的特点?在国内,我们看到最早的安全在相当长一段时间是合规导向的。不能说是为了合规而做合规,更多是有一个合规框架做相应的导向,及相应产品的开发。其实Palo Alto Networks(派拓网络)一直不是这么做的,我们是基于防护的,真的防住这些攻击,所以我们觉得在国内看到很多客户已经从合规导向向真正的安全防护导向演变了。其实这也是一种被动过程,因为国内很多安全项目都是事件驱动的,就是被攻了才去买东西,这是我们在相当长时间看到项目的情况。但是我觉得现在来看,尤其是我们说到安全与业务的结合越来越紧密了,所以各个企业现在开始主动构建更高阶的安全团队,请了更资深的CISO评估更合理的,真正起到效果的安全方案,这个也是我看到的一个发展趋势。问:当初派拓网络为什么会选择与亚马逊云科技进行合作?董春涛:亚马逊云科技是全球云计算的头部企业,Palo Alto Networks是全球安全解决方案的先行者,随着数字化转型的加速,更多用户将业务迁移上云,安全是最需要首先考虑的问题。双方通过协作发挥各自优势,为用户带来更佳的安全体验。安全能力需要平台的整合,数据的整合,和AI能力的演进,需要专业安全厂商的数据,以及云厂商的计算和分析能力并需要云原生化,才能适应下一代安全的架构。此外,亚马逊云科技完善的生态使Palo Alto Networks能够更有效触达客户,让更多中国客户可以受益于Palo Alto Networks的技术,并实现贯穿于应用开发整个生命周期的安全,为开发、安全及合规团队打造方便易用的安全方案。亚马逊云科技Marketplace为Palo Alto Networks提供了有效的业务拓展渠道,帮助其触达全球用户。同时,显著降低销售成本,并缩短销售周期。
3,509
1,694,600,008,974
InfoQ
3
从Kinesis到Timestream:探讨基于AWS的无服务器分析架构
在基于事件驱动架构构建SaaS应用程序时,分析能力已经成为核心功能,因为它可以更容易地监控使用模式并以可视化的方式呈现数据。因此,这一功能很快成为SaaS平台用户的需求也就不足为奇了。 这让我们灵光乍现,我们意识到,在为客户构建这个新功能的同时,我们也可以通过内部分析仪表盘更好地了解客户如何使用我们的系统。 Jit是一家安全创业公司,旨在帮助开发团队快速识别并轻松解决应用程序中的安全问题。我们的产品已经达到了一定的成熟度,在这个阶段,让用户能够直观地了解他们在他们的安全旅途中所处的位置是至关重要的。同时,我们也希望了解哪些产品功能对我们的客户和用户最有价值。 我们开始思考如何最有效地构建一个分析解决方案,它从同一个源获取数据,并将数据呈现到几个不同的目标。 第一个目标是客户指标湖,其本质上是一个随时间变化、租户分离的解决方案。其他目标则是第三方可视化和研究工具,利用相同的数据摄取架构进行更好的产品分析。 在撰写本文时,我们的产品团队有在使用这类工具,如Mixpanel和HubSpot。团队使用这些工具收集关于单个租户使用情况和产品总体使用趋势的宝贵数据。 如果你曾遇到过类似的工程挑战,那么阅读本文就对了,我们很乐意深入探讨如何使用无服务器架构从头开始构建这样一个系统。 作为一个基于无服务器的应用程序,我们的主要数据存储是DynamoDB。然而,我们很快就明白,它并没有我们聚合和呈现分析数据所需的时间序列能力。使用我们现有的工具来实现这些将需要更长的时间,并且对于我们希望监控、度量并呈现给客户的每一个新指标,都需要大量的投入。因此,我们决定使用AWS构建块从头开始快速构建一个能够为我们提供我们需要的双重功能的东西。 我们意识到,为了能够为每个客户创建个性化的图表,我们必须以时间序列的方式处理数据。此外,我们还要保持强大的租户隔离,确保每个客户只能访问他们独有的数据,从而防止任何潜在的数据泄露,这是这个架构的一个关键设计原则。这让我们开始寻找最经济、管理成本最低的工具。在本文中,我们将介绍我们为内部和外部用户构建新的分析仪表盘所需的技术考量和实现。 分析功能架构设计 架构设计从数据来源开始——即Jit的微服务写入的事件。这些事件代表了整个系统中发生的所有小事件,例如新发现的安全问题、已修复的安全问题,等等。我们的目标是监听所有这些事件,最终能够以时间序列的方式查询它们,并基于它们向用户呈现图表。AWS EventBridge 然后这些事件被喂给AWS EventBridge,它会根据预定义的标准处理和转换事件将它们转换为由数据、元数据和指标名称组成的统一格式。这可以通过使用EventBridge Rule来实现。由于我们的架构已经是事件驱动的,而且所有这些事件已经被写入到不同的事件桥中,所以我们只需要在希望将“KPI相关”数据喂给分析源的地方通过编程的方式添加EventBridge Rule即可,这很容易做到。 一旦数据和相关事件被转换成EventBridge Rule的一部分,它们就会被发送到Amazon Kinesis Firehose。这可以通过EventBridge Rule的Target功能来实现,它可以将转换后的事件发送给各种目标。 被转换为统一Schema的事件必须包含以下参数才不会被过滤掉: metric_name字段,它映射到被度量的指标。元数据字典——包含有关事件的所有元数据,每个表(租户隔离)最终都是根据tenant_id参数创建的。数据字典——必须包含event_time,它告诉我们事件到达的实际时间(因为分析和指标总是需要在一段时间内进行度量和可视化的)。 Schema结构:{ "metric_name": "relevant_metric_name", "metadata": { "tenant_id": "relevant_tenant_id", "other_metadata_fields": "metadata_fields", ... }, "data": { "event_time": <time_of_event_in_UTC>, "other_data_fields": <other_data_fields>, ... } } AWS Kinesis Firehose AWS Kinesis Data Firehose(简称Firehose)是为分析引擎聚合多个事件并将其发送到目标S3存储桶的服务。  一旦事件数超过阈值(可以是大小或时间段),它们就以批次的形式发送给S3存储桶,等待被写入时间序列数据库和其他事件订阅者,例如需要获取所有租户事件的系统。 Firehose在架构中发挥着重要作用。因为它会等待数据达到阈值,然后按照批次发送事件,所以当我们的代码启动并开始处理事件时,我们将从处理大小可预测的小批次事件开始,避免发生内存错误和其他意外问题。 一旦达到其中一个阈值,Kinesis对要发送的数据执行最后的验证,验证数据严格是否符合所需的Schema格式,并丢弃任何不符合的数据。 我们可以调用Firehose中的lambda来丢弃不符合要求的事件,并进行额外的转换和填充,如添加租户名称。这涉及到查询外部系统并使用环境运行信息来填充数据。这些属性对于下一阶段在时间序列数据库中为每一个租户创建表来说至关重要。 在下面的代码部分中,我们可以看到: 定义了批次窗口,在例子中是60秒或5MB(只要满足其中一个即可);验证和转换所有到达事件的数据转换lambda,确保事件可靠、统一且有效。 处理数据转换的lambda叫作enrich-lambda。请注意,Serverless Framework会将其名称转换为叫作EnrichDashdataLambdaFunction的lambda资源,所以如果你也在使用Serverless Framework,请注意这个问题。 MetricsDLQ: Type: AWS::SQS::Queue Properties: QueueName: MetricsDLQ KinesisFirehouseDeliveryStream: Type: AWS::KinesisFirehose::DeliveryStream Properties: DeliveryStreamName: metrics-firehose DeliveryStreamType: DirectPut ExtendedS3DestinationConfiguration: Prefix: "Data/" # This prefix is the actual one that later lambdas listen upon new file events ErrorOutputPrefix: "Error/" BucketARN: !GetAtt MetricsBucket.Arn # Bucket to save the data BufferingHints: IntervalInSeconds: 60 SizeInMBs: 5 CompressionFormat: ZIP RoleARN: !GetAtt FirehoseRole.Arn ProcessingConfiguration: Enabled: true Processors: - Parameters: - ParameterName: LambdaArn ParameterValue: !GetAtt EnrichDashdataLambdaFunction.Arn Type: Lambda # Enrichment lambda EventBusRoleForFirehosePut: Type: AWS::IAM::Role Properties: AssumeRolePolicyDocument: Version: '2012-10-17' Statement: - Effect: Allow Principal: Service: - events.amazonaws.com Action: - sts:AssumeRole Policies: - PolicyName: FirehosePut PolicyDocument: Statement: - Effect: Allow Action: - firehose:PutRecord - firehose:PutRecordBatch Resource: - !GetAtt KinesisFirehouseDeliveryStream.Arn - PolicyName: DLQSendMessage PolicyDocument: Statement: - Effect: Allow Action: - sqs:SendMessage Resource: - !GetAtt MetricsDLQ.Arn 下面是将Jit系统中的事件映射到统一结构的代码。这个EventBridge将数据发送到Firehose(以下是serverless.yaml的代码片段)。 我们事件映射的代码示例。 FindingsUploadedRule: Type: AWS::Events::Rule Properties: Description: "When we finished uploading findings we send this notification." State: "ENABLED" EventBusName: findings-service-bus EventPattern: source: - "findings" detail-type: - "findings-uploaded" Targets: - Arn: !GetAtt KinesisFirehouseDeliveryStream.Arn Id: findings-complete-id RoleArn: !GetAtt EventBusRoleForFirehosePut.Arn DeadLetterConfig: Arn: !GetAtt MetricsDLQ.Arn InputTransformer: InputPathsMap: tenant_id: "$.detail.tenant_id" event_id: "$.detail.event_id" new_findings_count: "$.detail.new_findings_count" existing_findings_count: "$.detail.existing_findings_count" time: "$.detail.created_at" InputTemplate: > { "metric_name": "findings_upload_completed", "metadata": { "tenant_id": <tenant_id>, "event_id": <event_id>, }, "data": { "new_findings_count": <new_findings_count>, "existing_findings_count": <existing_findings_count>, "event_time": <time>, } } 我们将在系统中已经存在的一个叫作“findings-uploaded”的事件(被其他服务监听)转换为即将被指标服务摄取的事件。 Timestream——时间序列数据库 作为一种实践,如果可能的话,你应该先使用你已经在使用的内部技术,然后在必要的情况下采用其他技术(以减少复杂性)。但对于Jit来说,DynamoDB已经不适用了。  为了在AWS上处理时间序列数据(并执行各种查询)的同时保持服务合理的总拥有成本(TCO),我们需要探索新的选项。这些数据将在每个客户的自定义仪表盘(需要时间序列功能中呈现,并严格遵循上述的格式。在比较了可能的解决方案后,我们决定将Timestream作为架构的核心,它是一种全托管、低成本的数据库,具有SQL风格的查询功能。 这是在实际当中查询这个数据库的示例代码片段。 SELECT * FROM "Metrics"."b271c41c-0e62-48d2-940e-d8c80b1fe242" WHERE time BETWEEN ago(1d) and now() 虽然我们还调研了其他技术,比如Elasticsearch,但我们意识到,将其作为时间序列数据库要么难以管理和实现(例如,索引和执行租户隔离会更困难),要么成本会更高。而使用Timestream,每个租户一个表,这很简单,而且它更加经济,因为仅按使用收费,包括写入、查询和存储。乍一看收费的地方似乎很多,但我们的比较显示,根据我们可预测的使用情况和使用它提供的“心智上的轻松”(鉴于它是一个几乎零管理开销的无服务器亚马逊服务),它是更具经济可行性的解决方案。 Timestream中的数据有三个核心属性可用于优化(你可以在文档中了解更多相关信息)。 维度(Dimensions);度量(Measures);时间(Time)。 维度本质上是描述数据的字段,在我们的例子中就是每个客户的唯一标识符(取自用户元数据)和环境。我们利用这些数据从事件中提取出tenant_id,并将其作为Timestream的表名,从而实现了租户隔离。剩余的数据可根据这些字段进行分区,这使以后查询数据变得非常方便。我们使用的维度越多,查询时需要扫描的数据就越少。这是因为数据是根据这些维度进行分区的,从而有效地创建了索引。这反过来提高了查询性能并为我们带来了更大的规模经济效益。 度量本质上是你要递增或枚举的值(如温度或重量)。在我们的例子中,这些是我们在不同事件中测量的值,非常适合聚合数据。 时间很简单直观,它是事件的时间戳(写入数据库时),这在分析中也是一个关键功能,因为大多数查询和测量都基于特定的时间段或窗口来评估成功或改进。 使用Mixpanel和Segment可视化数据 在有了摄取、转换、批量写入和查询技术之后,构建仪表盘就很容易了。我们研究了使用Grafana和Kibana等流行的开源工具,它们与Timestream集成得很完美,但我们想在客户的UI中为客户提供最大化的定制能力,所以我们决定使用内部开发的可嵌入式图表。 在Firehose按照预期格式将数据写入S3后,有一个专门的Lambda可以读取数据,然后将其转换为Timestream记录并写入(如上所述,每个租户一个表,在元数据字段中包含tenant_id)。然后另一个lambda将这些预格式化的数据发送到Segment和Mixpanel,为内部摄取和外部用户使用提供整个租户数据的俯瞰视图。 我们利用Mixpanel和Segment的数据和公开查询Timestream的API(通过IAM权限实现租户隔离)为客户构建UI,让每个客户只能可视化他们自己的数据。 这使得我们能够利用Mixpanel和Segment作为分析的支撑,为客户提供像乐高积木那样的图表构建块。 通过利用Mixpanel和Segment等工具,我们可以对图表进行跨租户和跨客户洞察,并以此来优化我们为用户提供的功能和产品。 重要的注意事项 当说到Timestream和决定完全无服务器化,确实需要考虑成本和规模限制问题。我们上面讨论了Timestream的属性,每一个属性都有一个不能超过的阈值,知晓这一点很重要。例如,每个表的维度限制为128,度量的最大值为1024,因此你必须确保系统架构不超过这些阈值。 在内存方面,主要有两种配置:内存和磁性存储(即长期存储。注意,这里的“磁性”是指AWS Timestream的长期经济型高效存储,而不是磁带)。相比之下,内存存储价格更高,但查询速度更快,时间窗口有限(在我们的例子中是2周)。理论上,你可以在磁性存储上存储多达200年的数据,但这一切都有成本问题(我们选择了一年,因为我们觉得这已经足够了,并且可以根据需要动态升级)。 AWS服务的好处在于大量繁重的工作是自动完成的,例如数据分层会自动从磁性存储迁移到磁盘。 其他限制包括每个账户的表数量(阈值为50K),查询也需要至少10MB数据量(查询时间为1秒——可能不如其他引擎快,但成本优势足以让我们在查询速度上做出妥协)。因此,你应该了解总拥有成本,并优化查询,让它们始终高于10MB的限制,在可能的情况下甚至更高,同时还要减少客户端的延迟。解决这些问题的一个好办法是缓存数据,不要进行实时的完整查询,你可以通过联合查询将多个查询合并为单个查询。 无服务器乐高积木,永远的王 通过利用现有的AWS服务,我们能够快速提升分析能力,管理和维护开销很小,采用低成本的按用计费模式让我们获得了成本效益。这个可伸缩、灵活的系统的最大好处在于,随着客户需求的增加,它也可以轻松地添加新的指标。 由于所有事件已经存在于系统中,并通过事件桥进行了解析,要找到新的相关指标并加入到现有框架中就变得很容易。你可以创建相关的转换,然后立即在系统中拥有一个可以查询的新指标。 通过这个框架,我们可以在未来很容易地基于相同的聚合数据添加“消费者”。通过利用类似乐高的无服务器构建块,我们能够开发出一个可扩展的解决方案,不仅支持大量指标的并行增长,而且可以让架构适应业务和技术的不断演化。 原文链接:https://www.infoq.com/articles/jit-analytics-architecture/相关阅读:什么是无服务器架构技术引领下一代云计算技术的变革:无服务器架构基于无服务器的架构落地与实践论无服务器架构的特征
4,806
1,693,526,400,942
InfoQ
4
最长 30 分钟,拥抱生成式 AI,两堂热门课程免费学!
活动推荐: #生成式 AI 先锋开发者集结令 #免费体验编程神器,丰厚大奖等你来拿!👉🏻👉🏻https://jinshuju.net/f/rVuKYa有人说,生成式 AI 将带来充满创造性的新世界;有人说,生成式 AI 热潮正在掀起一场新的科技革命;有人认为生成式 AI 将淘汰一部分旧工作;也有人认为生成式 AI 能将诞生一系列新的工作。无论如何,毋庸置疑的是生成式 AI 的出现,带来了人工智能技术发展的新转折点,将改变企业的运营方式。据麦肯锡:《2023 生成式人工智能经济潜力研究报告》中提到:“生成式人工智能对生产力的影响可为全球经济增加数万亿美元的价值。我们的最新研究估计,在我们分析的 63 个使用案例中,生成式人工智能每年可增加相当于 2.6 万亿美元到 4.4 万亿美元的价值。”亚马逊云科技推出七项生成式 AI 新功能关注云计算以及人工智能领域的朋友们相信对这条资讯并不陌生:亚马逊云科技推出七项生成式 AI 新功能,进一步降低了生成式 AI 的使用门槛,让无论是业务用户还是开发者都能从中受益。借助这些新功能,来自千行百业的企业都能更专注于核心业务,提高生产效率,充分释放数据价值和生成式 AI 的潜力。Amazon BedrockAmazon Bedrock 全面扩展,新增全新基础模型、基础模型供应商以及 Agents 功能。Amazon Elastic Compute CloudAmazon EC2 P5 实例正式可用,加速生成式 AI 和高性能计算应用。Amazon OpenSearch Serverless适用于 Amazon OpenSearch Serverless 的向量引擎助力客户轻松构建现代生成式 AI 应用。Amazon CodeWhispererAmazon CodeWhisperer 与 Amazon Glue 实现集成,进一步提升开发效率。Amazon CodeWhisperer 是一款 AI 编程助手,能够使用底层基础模型帮助开发人员提高工作效率。它可以根据开发人员使用自然语言留下的注释和 IDE(集成开发环境)中的历史代码实时生成代码建议。Amazon QuickSightAmazon QuickSight 新增生成式 BI 功能,升级自然语言人机交互。Amazon Entity ResolutionAmazon Entity Resolution 正式可用,赋能企业提升数据质量、获取客户洞察。Amazon HealthScribeAmazon HealthScribe 利用生成式 AI 助力构建医疗应用程序。不仅如此,为了帮助云从业者在生成式 AI 热潮中乘风破浪,把握机遇,亚马逊云科技培训与认证还开设了多门以生成式 AI 为主题的课程,课程针对不领域、不同技术程度、不同岗位的人群,针对性的讲解生成式 AI 的原理以及应用案例,今天云师兄就向大家推荐两大热门课程,大家对号入座哦~高效制胜,提升云职场专业技能据麦肯锡《2023 生成式人工智能经济潜力研究报告》显示:生成式 AI 有可能改变工作结构,通过自动化人工的部分来增强他们的能力。目前的生成式 AI 和其他技术有可能将目前占用员工 60% 至 70% 时间的工作活动自动化。另外,报告认为将生成式人工智能与所有其他技术相结合,工作自动化可使生产率增长每年增加 0.2 到 3.3 个百分点。由此可见,“高效”是生成式 AI 的关键点。工作效率的提升助推器 Amazon CodeWhisperer在亚马逊云科技推出七项生成式 AI 新功能中,Amazon CodeWhisperer 作为一款可帮助开发者更快地完成更多工作的人工智能编程伴侣,就能很好的做到这一点。亚马逊云科技曾举办了一场生产力挑战赛,使用 Amazon CodeWhisperer 的参与者成功完成任务的可能性要比未使用 Amazon  CodeWhisperer 的参与者高 27%,平均完成任务的速度快 57%,实现了开发人员工作效率的巨大飞跃。30 分钟上手云技能《Amazon CodeWhisperer 入门》如果您想要快速上手 Amazon CodeWhisperer,云师兄强推:《Amazon CodeWhisperer 入门(英文)》课程值得一学。《Amazon CodeWhisperer 入门》是一门免费的自主进度数字课程。课程面向开发人员和专业技术人员,在 30 分钟的课程中, 不但向大家介绍了 CodeWhisperer 的功能、如何进行设置,并开始用选定的编程语言使用 CodeWhisperer 。从理论到实践,助您快速解锁 Amazon CodeWhisperer 的使用指南,从此登上业务提升快车道。亚马逊云科技官方学习中心 学习通道管理创新,提升企业竞争力据麦肯锡(QuantumBlack)发表的《2023 年的人工智能发展状况:生成式人工智能的爆发之年》调查报告中显示:有近 1/4 的受访首席高管表示,他们个人正在使用生成式 AI 工具开展工作,超过 1/4 的使用人工智能公司的受访者表示,生成式 AI 已列入其董事会的议程。在这一数据中不难发现,很多企业高管已经开始拥抱生成式 AI 了。当然也有很多企业高管仍在洞察这一态势的走向:生成式 AI 能否颠覆行业格局的机遇?生成式 AI 能给自身业务带来什么价值?13 分钟读懂生成式 AI《Generative AI for Executives》如果您想把握生成式 AI 风向标,如果您想了解生成式 AI 能为你带来什么,如果您想快速拉近与生成式 AI 的距离,如果您想通过深入浅出的方式掌握生成式 AI 云技能,如果您想通过生成式 AI 推动业务增长,如果您想通过生成式 AI 提升竞争力,云师兄五星推荐《Generative AI for Executives 》,步入生成式 AI 快车道,13 分钟足矣!《Generative AI for Executives (英文) 》课程,面向企业管理者、业务人员以及非技术人员,通过一系列免费、简短且易于理解的视频课,可帮助高管了解生成式 AI 如何助力他们应对业务挑战并推动业务增长。亚马逊云科技官方学习中心 学习通道
4,572
1,693,382,740,844
InfoQ
5
Amazon CodeWhisperer 初体验,享受AI带来的效率提升
活动推荐: #生成式 AI 先锋开发者集结令 #免费体验编程神器,丰厚大奖等你来拿!👉🏻👉🏻https://jinshuju.net/f/rVuKYa随着Github Copilot在程序员中流行,越来越多的开源项目和大型公司也在代码生成这一领域发力。最近亚马逊就宣布了自家基于亚马逊云科技的代码生成项目CodeWhisperer开放测试,由于还在测试阶段,大家可以在各种IDE上免费体验,享受AI带来的效率提升。安装安装CodeWhisperer非常简单,只需要在插件市场搜索AWS Tookit即可。以VS Code为例:安装完成之后侧边栏就会出现一个AWS的图标,点击最下面的DEVELOPER TOOLS登陆,登陆完成之后点击CodeWhisperer,选择开始就可以体验了。代码补全体验获取当前时间首先我们尝试一个非常简单的例子,用Python获取当前时间:# get current time import time def get_current_time():     return time.strftime("%Y-%m-%d %H:%M:%S", time.localtime()) 实际上我们输入第一行的注释,代码助手就会提示我们输入import time,然后我们可以输入函数的定义def,剩下的都可以自动补充完整:网页代码修改首先我们搭了一个简单的网页,网页上面有两个正方形,分别是橘色和红色的,里面还有一些文字,像是Test和Hello World:<html>     <head>         <title>Test</title>         <style>             .test {                 width: 100px;                 height: 100px;                 background-color: orange;             }             .hello {                 width: 50px;                 height: 50px;                 margin: 10px;                 background-color: red;             }         </style>     </head>     <body>         <div class="test">Test</div>         <div class="hello">Hello World!</div>     </body> </html> 现在,我们需要给Test这个正方形加上阴影,将*Hello World!*这个较长的字符串省略并在后面加上省略号。尝试给出注释:这次它生成代码的时间比较长,不过还好最后还是顺利的生成了我们想要的格式:算法应用首先我们尝试一下经典的快速排序算法,它很顺利的生成出来了:基本上是满足了快速排序算法的要求。接着我们挑战一个难一点的,在字符串中找到最长的回文子串。这个问题可以用中心扩展法在O(n ^ 2)的时间复杂度完成,最优的算法是使用马拉车算法(Manacher's Algorithm),其时间复杂度仅为O(n):它也很快得到了,不过实践是检验真理的唯一标准,我们来看看它能不能通过LeetCode:一次通过!代码补全还是很强大的,我自己写的时候在循环的部分很容易就写错了。单元测试在日常工作时,我们需要编写单元测试可以在一定程度上保证我们对代码的修改的把握。我们可以对上面的马拉车算法进行单元测试的编写:在Python中我们一般用断言可以完成一些简单的单元测试,这里它给出了一些测试用例。不过我觉得还不够完善,因为s有可能为空或者None,它并没有测试到这些用例。安全扫描安全扫描(Security Scan) 是Amazon CodeWhisperer推出的一项崭新的功能。在测试阶段,我们每个月可以使用50次扫描。首先我们可以尝试一下官网的例子:直接报错了。从提示来看,应该是因为在一个大的文件夹进行了安全扫描。所以新建一个文件夹再尝试:这次顺利地得到了结果。不过其实这里面应该有两个安全问题,它只能检测到第一个。这是删除之后的扫描结果这时它才能检测到下一个安全问题:这个功能确实能够检测出一定的安全问题,尝试使用Copilot Chat,它只能傻乎乎的回复一些车轱辘话:结语总的来说,CodeWhisperer 还是有不少亮点。在代码生成方面几乎不逊色于Copilot,生成的速度可能稍微慢点,质量还是比较优秀。安全检查是这次最与众不同的地方,需要注意的是扫描的文件长度应该有限制,但是官网中没有提到,稍显不足,但是整个功能还是非常有自己的特色的。除了这些,CodeWhisperer比起Copilot还有一个不足是,没有一个理解代码,解释代码的工具。期待后续的功能更新和迭代。版权声明: 本文源自微信公众号【air的代码小屋】未经授权禁止转载,文章转载请联系作者。
4,121
1,692,946,441,119
InfoQ
6
挑战三大任务,Amazon CodeWhisperer 生成代码的能力到底如何?
活动推荐: #生成式 AI 先锋开发者集结令 #免费体验编程神器,丰厚大奖等你来拿!👉🏻👉🏻https://jinshuju.net/f/rVuKYaChatGPT 火出圈之后,AI 大模型编程越来越多,虽然 AI 编码暂时无法完全替代程序员,但是时代变化、潮流趋势所向,大家没有必要过多焦虑,而是应该拥抱变化,拥抱趋势,尝试用 AI 辅助自己的编码,看是否可以得到帮助,本文试用了 Amazon 的 CodeWhisperer AI 编程工具,在这里做一个小小的总结。CodeWhisperer 通过 AI 技术,可以自动分析代码库中的模式和常见用法,从而生成符合标准的代码片段,其旨在帮助开发人员节省时间和精力,提高开发者的工作效率。当前 CodeWhisperer 支持集成到几种开发环境中,VS、Jetbrains、JupyterLab,Lamda 等,由于平时用 C++/Python/Go 比较多,因此本文使用 JetBrains 的 Clion 来测试 CodeWhisperer 生成 C++的能力,首先安装好 Clion(具体步骤网上找或者亚马逊官网指导书),进行 Clion 后,首先通过 tools 搜索安装 aws toolkit,安装好后启动就可以使用 CodeWhisperer 了,第一次启动时会生成一个验证码,链接到你的亚马逊账号进行授权,此处不细讲,按照提示操作即可下面进入正题:使用 CodeWhisperer 生成代码,需要添加注释,其会根据注释一行一行完成代码编写,并且会帮助你完成要编写代码的注释任务一:测试生成全部代码能力,主题完成一个 TCP Server 收发数据,下面图里是一步步的结果最终完成的代码如下生成过程并非像 ChatGPT 一样,一股脑的代码全部生成扔给你,需要开发同学一行一行的插入确认,这种情况也有好处,在于可以在开发过程中自己一行一行的确认正确性及问题,避免一大堆复杂代码重新费神的确认逻辑。任务二: 推荐相应功能的开源库以及使用已集成的开源包进行代码生成测试,主题完成一个 SIP 消息处理函数,下面图片展示其完成过程和结果(1)使用 osip2 解析 sip 消息,下面是生成的代码,基本符合预期 (2) 期望重新推荐一个 sip 消息解析库,不知道是我已经集成了解析库还是还是什么其他原因,没有成功可见 CodeWhisperer 对于 Github、Gitee 以及互联网上标准开源库是进行过训练的,可以读懂 oSip2 是一个很有名的 sip 协议栈,因此可直接使用其 API 根据注释生成可用代码任务三:基于已完成部分代码,根据注释生成补全代码,CodeWhisperer 也可以根据上下文和注释补齐代码的相应功能,建立一个资源分配函数(带一定的业务功能),完成一半的部分(>4),让 CodeWhisperer 完成剩下的部分(<4),下面展示结果最终的结果至此任务三测试完成,生成了基本可用的代码。最后总结,CodeWhisperer 对于能够更快地编写代码还是有一定的帮助。首先,在集成开源或者第三方不熟悉的代码库时,它可以为我节省大量的时间去学习和查阅 API 接口文档,让我能够专注于改进和测试。其次,可以帮助我节省繁琐的重复性工作,如上面的 TCP Socket 处理。当然,也期望可以后续可以生成整体代码段的方式,对于非复杂逻辑代码的场景其效率是更高的。版权声明: 本文为 InfoQ 作者【Hanson】的原创文章。原文链接:【https://xie.infoq.cn/article/386428468269729e334f2c134】。本文遵守【CC BY-NC】协议,转载请保留原文出处及本版权声明。
3,913
1,692,859,120,199
InfoQ
7
如何使用 Amazon CodeWhisperer 免费进行代码安全检查
活动推荐: #生成式AI先锋开发者集结令#免费体验编程神器,丰厚大奖等你来拿!👉🏻👉🏻https://jinshuju.net/f/rVuKYaCodeWhisperer 是Amazon发布的一款免费的AI 编程辅助小工具,在辅助程序员编程的同时,还具备代码安全审计的功能。可以快速扫描 Java、JavaScript 和 Python 项目中难以发现的漏洞,并获取代码建议以立即修复这些漏洞。遵循跟踪安全漏洞的最佳实践,例如开放全球应用程序安全项目 (OWASP) 概述的漏洞,或者不符合加密库最佳实践及其他类似安全最佳实践的漏洞。今天小试牛刀,试验一下CodeWhisperer的代码安全检查能力,成功识别出Python代码中可能存在的系统命令注入漏洞、SQL注入漏洞、MD5碰撞漏洞以及反序列化漏洞,666 ~系统命令注入漏洞以下是一段有安全漏洞的 Python 代码:import os filename = input("请输入文件名:") os.system("rm " + filename)这段代码的作用是删除用户输入的文件名对应的文件,但存在安全漏洞。其中的漏洞是,用户可以通过输入特殊字符来执行任意系统命令,而不仅仅是删除文件。例如,如果用户输入的是 ;ls,则会先删除指定文件,然后执行 ls 命令。这可能导致系统被攻击者接管或者数据被窃取,因此这段代码需要进行安全性改进。Amazon CodeWhisperer 成功检测出:系统命令注入漏洞。SQL注入漏洞以下是一个有安全漏洞的 Python 代码:import sqlite3 conn = sqlite3.connect('example.db') c = conn.cursor() c.execute('''CREATE TABLE stocks (date text, trans text, symbol text, qty real, price real)''') date = input("请输入日期:") trans = input("请输入交易类型:") symbol = input("请输入股票代码:") qty = input("请输入数量:") price = input("请输入价格:") c.execute(f"INSERT INTO stocks VALUES ('{date}', '{trans}', '{symbol}', {qty}, {price})") conn.commit() conn.close()这段代码的作用是向 SQLite 数据库中插入一条记录,但存在安全漏洞。其中的漏洞是,用户输入的数据没有进行任何过滤或转义,从而可能导致 SQL 注入攻击。例如,如果用户输入的 symbol 参数是 ABC'); DROP TABLE stocks; --,则会删除 stocks 表。这可能导致数据丢失或系统崩溃,因此这段代码需要进行安全性改进。Amazon CodeWhisperer 成功检测出:SQL注入漏洞。MD5碰撞漏洞以下是一个有安全漏洞的 Python 代码:import hashlib password = input("请输入密码:") hash = hashlib.md5(password.encode('utf-8')).hexdigest() print(f"您的密码的 MD5 值为:{hash}")这段代码的作用是计算用户输入的密码的 MD5 值,并输出结果。但存在安全漏洞。其中的漏洞是,MD5 算法已经被证明不再安全,可以被暴力破解或碰撞攻击。因此,如果攻击者获得了用户的 MD5 值,就可以使用彩虹表等方法轻松地破解密码。这可能导致用户账户被攻击者接管或者数据被窃取,因此这段代码需要进行安全性改进。Amazon CodeWhisperer 成功检测出:MD5碰撞漏洞反序列化漏洞以下是一个有安全漏洞的 Python 代码:import pickle serialized_data = input("请输入序列化数据:") data = pickle.loads(serialized_data) # 使用反序列化后的数据...这段代码的作用是对输入序列化数据,进行反序列化。但存在安全漏洞,其中的漏洞是没有对输入进行验证和过滤,直接进行反序列化操作可能导致恶意对象的执行,从而导致远程代码执行或数据泄露。Amazon CodeWhisperer 成功检测出:反序列化漏洞。
3,765
1,692,844,765,178
InfoQ
8
谁说 AI 编程工具缺乏记忆和联想能力,简单琐碎的需求完全可以交给它
活动推荐: #生成式 AI 先锋开发者集结令 #免费体验编程神器,丰厚大奖等你来拿!👉🏻👉🏻https://jinshuju.net/f/rVuKYa今年算是 AI 正式破圈的一年,无数的工具,产品横空出世。无论在面向企业的大语言模型,还是帮助个人的 AI 工具,数不胜数。其中关于 AI 编程助手领域,近年来也涌现了很多不错的产品,例如 Copilot, Cursor, 还是我们今天要体验的 CodeWhisperer。已经在潜移默化中改变了程序员们的生产和解决问题的方式,传统解决问题往往依靠的是谷歌等搜索引擎,找到对应的官网和知名的论坛查找问题。而如今,我们仅仅依靠 AI 编程助手就能解决很多问题。回到 CodeWhisperer 上来,它的出生还是带着许多光环的。首先来自著名的大厂 Amazon, 他们在 AI 领域有足够多的积累,在面向开发者方面有足够多的经验和产品用户体验来反馈用户感受,不断迭代相关产品,而且还有一个相当强大的优势,借助亚马逊云的力量,能够将 AI 和云打通,这在当前云原生时代是必不可少的能力。目标及前期准备先给大家讲讲今天我们希望实现的目标,基于 Spring Boot 框架,简单实现用户登陆,。我们使用的是 IntelliJ 开发工具,选用 Maven 进行管理依赖管理,用到的依赖如下。WebJPAH2我们首先尝试安装 CodeWhisperer 插件,在 Plugins 中搜索 AWS Toolkit 下载即可。下载完成后绑定自己的亚马逊账号即可开始使用,默认开启自动建议。项目结构如图所示pom.xml 文件如下<?xml version="1.0" encoding="UTF-8"?> <project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema-instance" xsi:schemaLocation="http://maven.apache.org/POM/4.0.0 https://maven.apache.org/xsd/maven-4.0.0.xsd"> <modelVersion>4.0.0</modelVersion> <parent> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-parent</artifactId> <version>3.1.0</version> <relativePath/> <!-- lookup parent from repository --> </parent> <groupId>com.example</groupId> <artifactId>demo</artifactId> <version>0.0.1-SNAPSHOT</version> <name>demo</name> <description>demo</description> <properties> <java.version>17</java.version> </properties> <dependencies> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-data-jpa</artifactId> </dependency> <dependency> <groupId>org.projectlombok</groupId> <artifactId>lombok</artifactId> <optional>true</optional> </dependency> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-web</artifactId> </dependency> <dependency> <groupId>com.h2database</groupId> <artifactId>h2</artifactId> <scope>runtime</scope> </dependency> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-test</artifactId> <scope>test</scope> </dependency> </dependencies> <build> <plugins> <plugin> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-maven-plugin</artifactId> </plugin> </plugins> </build> </project> 开始健康检查我们先实现一个最简单的 Controller,请求 /ping 返回 pong 即可。package com.example.demo.controller; import org.springframework.stereotype.Controller; import org.springframework.web.bind.annotation.RequestMapping; import org.springframework.web.bind.annotation.ResponseBody; @Controller public class PingController { @RequestMapping("/ping") public @ResponseBody String greeting() { return "pong"; } }测试用例是检验代码正确性必不可少的一环,我们来写个简单的测试用例。这时 CodeWhisperer 已经开始展示它的实力了,只是写了一行 @Test 注解,它将我们想要做的测试代码完整提示出来。下面是完整的测试代码。package com.example.demo; import com.example.demo.controller.PingController; import org.junit.jupiter.api.Test; import org.springframework.beans.factory.annotation.Autowired; import org.springframework.boot.test.autoconfigure.web.servlet.AutoConfigureMockMvc; import org.springframework.boot.test.autoconfigure.web.servlet.WebMvcTest; import org.springframework.test.web.servlet.MockMvc; import static org.springframework.test.web.servlet.result.MockMvcResultHandlers.print; import static org.springframework.test.web.servlet.result.MockMvcResultMatchers.content; import static org.springframework.test.web.servlet.result.MockMvcResultMatchers.status; import static org.springframework.test.web.servlet.request.MockMvcRequestBuilders.get; @AutoConfigureMockMvc @WebMvcTest(PingController.class) public class TestWebApplication { @Autowired private MockMvc mockMvc; @Test public void shouldReturnDefaultMessage() throws Exception { this.mockMvc.perform(get("/ping")).andDo(print()).andExpect(status().isOk()) .andExpect(content().string("pong")); } } 运行一下测试用例,很顺利的通过🎉。用户类设计我们来定一个 User 模型,发现它在 Table To Class 的实现中具备一定的表设计能力,以及字段关联联想,约束设计能力。能推测我想要的表字段,索引约束建议。这对于新手来说是莫大的帮助,想象有一位功力深厚的同伴在旁指点你设计表结构,那么表结构的设计就能相对合理一些。package com.example.demo.model; import jakarta.persistence.*; import lombok.AllArgsConstructor; import lombok.Getter; import lombok.NoArgsConstructor; import lombok.Setter; import org.springframework.stereotype.Indexed; @Entity @Getter @Setter @AllArgsConstructor @NoArgsConstructor @Table(name = "game_users") public class User { @Id private Long id; @Column(unique = true, nullable = false) private String username; @Column(nullable = false, length = 64) private String password; @Column(unique = true, nullable = false) private String email; } DAO 层实现这时我灵光一现,根据官网的 GIF 图展示,可以通过注释进行代码推断,那好,DAO 层的实现就交给它啦。哎哟,不错哦,根据我上面想要根据邮箱查询用户的注视,它已经给出了相应的提示,让我们再考考它,注释中进行多个方法的描述。挺聪明呀,也很顺利的实现了。package com.example.demo.dao; import com.example.demo.model.User; import org.springframework.data.jpa.repository.JpaRepository; import org.springframework.stereotype.Repository; import java.util.Optional; @Repository public interface UserDao extends JpaRepository<User, Long> { // function to implement find user by email Optional<User> findByEmail(String email); Optional<User> findByUsername(String username); // two function to implement find user by id or email Optional<User> findById(Long id); Optional<User> findByEmailIgnoreCase(String email); // function to implement check user is existed Boolean existsByEmail(String email); } 看来以后 CRUD 的 DAO 层实现可以交给它来完成啦。我们希望能够预先插入一些数据便于测试,琐碎的日志测试对它来说轻轻松松。package com.example.demo; import com.example.demo.dao.UserDao; import com.example.demo.model.User; import org.slf4j.Logger; import org.springframework.boot.CommandLineRunner; import org.springframework.context.annotation.Bean; import org.springframework.context.annotation.Configuration; @Configuration class LoadDatabase { public static final Logger log = org.slf4j.LoggerFactory.getLogger(LoadDatabase.class); // this is Bean is loaded once in the application context // it is used to load the data into the database @Bean public CommandLineRunner initDatabase(UserDao dao) { return args -> { log.info("Preloading " + dao.save(new User(1L, "test1", "111111", "abc@gmail.com"))); log.info("Preloading " + dao.save(new User(2L, "test2", "222222", "123@gmail.com"))); }; } } Service 层实现轮到 Service 层了,让我们看看它的表现,在这里我们简单的根据用户名查询用户,返回对应的数据即可。当我方法签名写一半时,它给我的建议让我停下继续敲击的手指,因为基本符合我的预期,而且具备一定的记忆联想能力,在 DAO 层定义的 Optional<User>,这里也能找到对应的方法进行处理。package com.example.demo.service; import com.example.demo.dao.UserDao; import com.example.demo.model.User; import org.springframework.beans.factory.annotation.Autowired; import org.springframework.stereotype.Service; import java.util.Optional; @Service public class UserDetailServiceImpl { private final UserDao userdao; @Autowired public UserDetailServiceImpl(UserDao userdao) { this.userdao = userdao; } public User getUserByUsername(String username) throws Exception { Optional<User> user = userdao.findByUsername(username); if (user.isPresent()) { return user.get(); } else { throw new Exception("User not found"); } } } Controller 层实现最后我们来实现最外层入口,简单的进行相关业务校验,用户名是否为空,密码是否正确,在这里用于演示。用户不存在相关处理,密码正确性验证,基本符合我们的要求。package com.example.demo.controller; import com.example.demo.model.User; import com.example.demo.service.UserDetailServiceImpl; import org.apache.coyote.Response; import org.springframework.beans.factory.annotation.Autowired; import org.springframework.http.HttpStatus; import org.springframework.http.ResponseEntity; import org.springframework.web.bind.annotation.*; @RestController @RequestMapping("/api/auth") public class UserController { private final UserDetailServiceImpl userDetailService; @Autowired public UserController(UserDetailServiceImpl userDetailService) { this.userDetailService = userDetailService; } @PostMapping("/login") public ResponseEntity<?> login(@RequestBody User user) { try { if (user.getUsername().isEmpty()) { return ResponseEntity.badRequest().body("user name is empty"); } User res; res = userDetailService.getUserByUsername(user.getUsername()); if (res == null) { return ResponseEntity.badRequest().body("user not found"); } if (res.getPassword().equals(user.getPassword())) { return ResponseEntity.ok(res); } return new ResponseEntity<>("user password invalid", HttpStatus.BAD_REQUEST); } catch (Exception e) { return ResponseEntity.notFound().build(); } } } 最后我们来测试一下,格式错误和用户密码错误的情况。与预期一致,撒花。总结CodeWhisperer 就我今天的使用而言,还是有些出乎我的意料,之前的一些 AI 编程工具并不具备记忆和联想能力,今天 CodeWhisperer 展示的记忆联想效果不错,并且具备一定的表结构设计能力,一些简单的测试用例完成度也不错,我想未来一些简单琐碎的需求,测试用例也可以交给它了。但是今天在体验的过程中还是发现了一些不足,插件 UI 会出现挡住建议的情况,这样我需要再次触发建议才行,目前阶段可以使用它来投入生产,在一些复杂的场景还是需要谨慎,会出现胡言乱语的情况,跟上下文关联性不强的建议。当然,这些问题相信随着模型的数据量级和质量不断优化能够慢慢解决🎉。版权声明: 本文为 InfoQ 作者【天黑黑】的原创文章。原文链接:【https://xie.infoq.cn/article/179127e04fff483aac667444d】。文章转载请联系作者。
2,736
1,692,759,388,379
InfoQ
9
全网最全!实测亚马逊 AI 编程助手 Amazon CodeWhisperer
活动推荐: #生成式 AI 先锋开发者集结令 #免费体验编程神器,丰厚大奖等你来拿!👉🏻👉🏻https://jinshuju.net/f/rVuKYa今天小王学长带大家实际测试一下亚马逊最近出的 AI 编程助手 Amazon CodeWhisperer,从不同角度和不同功能来看看这款编程助手是否可以帮助我更好的进行开发任务。文章目录:(大家先预览下)一、CodeWhisperer简介 1.1 CodeWhisperer 是一个重要的生产力助推器 1.2 CodeWhisperer 的实际应用 二、CodeWhisperer安装教程 2.1 IntelliJ IDEA安装CodeWhisperer插件 2.2 VSCode安装CodeWhisperer插件 2.3 PyCharm安装CodeWhisperer 2.4 快捷键使用方法 三、简单自动编码演示 3.1 单行代码自动补全 3.2 CodeWhisperer生成完整代码 3.3 其根据签名自动生成代码 四、AI编程代码实测及项目体验 4.1 简单函数代码测试 4.2 代码安全扫描实测 4.3 代码引用跟踪功能实测 4.4 计算机视觉工程项目实测 五、Amazon CodeWhisperer实测体验总结 5.1 CodeWhisperer 可以帮助我成为一个更好的开发者吗?一、CodeWhisperer 简介CodeWhisperer 是亚⻢逊出品的一款基于机器学习的通用代码生成器,可实时提供代码建议。在编写代码时,它会自动根据我们现有的代码和注释生成建议。从单行代码建议到完整的函数,它可为我们提供各种大小和范围的个性化建议。CodeWhisperer 还可以扫描我们的代码以突出显示和定义安全问题。codewhispereropen in new window:亚马逊官方出品目前仅以插件的形式在VS Codeopen in new window、Jetbrainsopen in new window等 IDE 里面使用,如果想试一试可以用 VS Code,目前无限制免费使用免费,并且对环境要求不高,还轻量~亚马逊在 2022 年 6 月发布了 CodeWhisperer 预览版,现在它支持 Python、Java 和 JavaScript。CodeWhisperer 经过数十亿行代码的训练,由机器学习提供支持,旨在实现相同的目标。无论我们是学生、新开发人员,还是经验丰富的专业人士,CodeWhisperer 都有助于我们提高工作效率。其支持多种 IDE 和语言。要开始使用,我们只需安装合适的 AWS IDE Toolkit,启用 CodeWhisperer 功能,输入我们的预览访问代码,然后开始键入:CodeWhisperer 可以持续检查我们的代码和注释,并为我们提供语法正确的推荐。这些推荐根据您的编码风格和变量名称合成,而不仅仅是代码段。​ CodeWhisperer 使用多个上下文线索来提供推荐,包括源代码中的光标位置、光标前面的代码、注释以及同一项目中其他文件中的代码。您可以按原样使用推荐,也可以根据需要对其进行改善和自定义。正如我之前所提到的,我们使用从开源存储库、内部 Amazon 存储库、API 文档和论坛中提取的数十亿行代码训练(并将继续训练)CodeWhisperer。​在 AWS 博客的一篇文章中,Mark Richman 解释说,CodeWhisperer 的模型是在“包括 Amazon 开源代码在内的各种数据源”上训练的。有了这个语料库(显然确实存在)完善 CodeWhisperer 的模型,编写从 S3 读取文件的代码应该是一个很好的测试用例。​在使用 CodeWhisperer(CW)时,我们需要写一个注释,描述我们希望函数去做什么。注释的描述性和准确性越高,系统就越能更好地推断出我们想要的逻辑。Function to open an S3 file比如注释以 Function 开头,让 CW 知道你想要创建一个函数。也就是说,你需要添加一个注释,作为给 CW 的提示。CW 分析注释并生成一个函数的定义。此时,你可以在生成函数体之前修改函数定义。CW 还可能提供多种函数定义供你选择。IntelliJ 集成 CodeWhisperer 的截图:点击“插入代码”,你的函数就在注释的下方创建好了。注意 CodeWhisperer 不仅插入了代码,还创建了一个文档字符串。# Function to open an S3 file def open_s3_file(filename): """ :param filename: :return: """ s3 = boto3.resource('s3') return s3.Object(bucket, filename).get()['Body'].read()看起来不错!这段代码实现了你的注释所期望的功能,并且是在几秒钟内就生成了。节省了查找 boto3 API 的时间,你只需要检查代码,确保语义正确。接着看看提出更多要求时,会发生什么。这有一个很有用的例子:写一个函数从 S3 的文件中返回前“n”行。# Function to get first n lines from a file in S3 def get_first_n_lines_from_s3(filename, n): """ Get the first n lines of a file in S3 :param filename: :param n: :return: """ lines = [] for line in open_s3_file(filename): lines.append(line) if len(lines) >= n: break return lines真厉害!CodeWhisperer 使用了之前创建的辅助方法 open_s3_file,并生成了正确的函数。在 CW 生成函数体之前,你可以修改参数名,提高代码的可读性。例如,如果我们输入:# Function to find common elements in listsCW 会提示:def find_common_elements(list1, list2)在生成函数体之前,我们可以修改函数定义,使其更具描述性:def find_common_elements(first, second)如果我们接受它的函数定义,CodeWhisperer 将使用函数签名和注释来构建函数体。得到的函数将使用改进后的参数名。# Function to find common elements in lists def find_common_elements(first, second): return list(set(first) & set(second))CodeWhisperer 不仅仅可以创建整个函数;它还可以在函数中插入代码片段,并在过程中推断相关变量。# reverse the list order lines.reverse()1.1 CodeWhisperer 是一个重要的生产力助推器使用 CodeWhisperer,我能够更快地编写代码。到目前为止,最大的价值是 S3 示例所演示的功能。如果我自己写代码,大部分时间将会用来查找 boto API 文档,以确保写出正确的调用。使用 CodeWhisperer,则只需三秒钟。这让我想到了一段曾花了很多时间的烦人代码:给 CloudWatch 发送数据。让我们看看 CodeWhisperer 能否有所帮助,试试提供注释:“Function to emit a CloudWatch metric”。# Function to emit a cloudwatch metric def put_metric_data(metric_name, metric_data): """ Put a metric data into cloudwatch :param metric_name: :param metric_data: :return: """ cloudwatch = boto3.client('cloudwatch') cloudwatch.put_metric_data( Namespace='my_namespace', MetricData=[ { 'MetricName': metric_name, 'Dimensions': [ { 'Name': 'string', 'Value': 'string' }, ], 'Unit': 'Seconds', 'Value': metric_data }, ] )非常有用!CW 为我节省了许多打字和查阅 API 文档的时间。我有可能需要重构这段代码,但即使我从零开始编写它,第一步也要写出类似这样的原始逻辑。如今只花三秒钟,我节省了编写大量样板代码的时间,有了一个很好的自定义或重构的起点。1.2 CodeWhisperer 的实际应用我在 PyCharm 中安装了 CodeWhisperer ,并对其进行了测试。以下是一些示例,向您展示了它可以执行的操作。我想构建一个质数列表。我键入 # See if a number is pr。CodeWhisperer 完成此操作,然后我按下 TAB(实际键特定于每个 IDE)接受推荐:在下一行,我按下 Alt+C(同样是 IDE 特定),然后我可以在一对函数定义之间进行选择。我接受第一个函数,CodeWhisperer 推荐函数体,以下是我所拥有的:我编写 for 语句,CodeWhisperer 推荐循环的主体:CodeWhisperer 还可以帮助我编写用于访问各种 AWS 服务的代码。我从 # create S3 bucket 开始,然后按 TAB 键完成剩余部分:看到这里,大家是不是觉得还不错,接下来教大家如何安装,很简单的~二、CodeWhisperer 安装教程2.1 IntelliJ IDEA 安装 CodeWhisperer 插件在 IDEA 中打开配置窗⼝,选择 Plugins,搜索"AWS Toolkit",点击 Install,点击 OK 按钮,如下图:安装完之后重启 IDEA,如下图:打开 AWS Toolkit 视图(菜单 View/Tool Windows/AWS Toolkit),点击"Developer Tools"tab⻚⾯,选择“CodeWhisperer/Start",如下图:弹出的窗⼝中选择“Use a personal email to sign up and sign in with AWS Builder ID",点击“Connect”按钮,如下图:在弹出的窗⼝中,选择“Open and Copy Code”,如下图:此时会在浏览器中打开⼀个⻚⾯,按 ctrl-v 粘贴 code 值,点击“Next“,如下图:输⼊邮箱地址,点击"Next",如下图:输⼊名字,点击“Next”,CodeWhisperer 会向邮箱中发送⼀个验证码,如下图:打开邮箱,可以看到验证码,如下图:复制验证码,粘贴到输入框,点击“Verify”按钮,如下图:设置密码,点击“Create AWS Builder ID“,如下图:在最后⼀个⻚⾯中点击“Allow”按钮,如下图:出现如下提示后,即表示注册 AWS builder ID 成功,如下图:返回 IDEA,在 AWS Toolkit 视图中的 Developer Tools 中可以打开或关闭代码⽣成功能,如下图:此时,就可以愉快的使用 AI 编程了。2.2 VSCode 安装 CodeWhisperer 插件安装 AWS Toolkit 插件,具体到 VS Code 侧边栏搜索并安装侧边栏点击 aws,>> DEVELIOPER TOOL >> CodeWhisper >> Start在下拉菜单中点击 Use a personal email to sign up and sign in with AWS Builder ID点击 Copy Code and Proceed,这将自动复制代码一般会提示外部网站打开提醒,选择打开打开网站后,输入点击 Copy Code and Proceed 时得到的代码,点击 Next输入自己的邮箱地址(同时登录你的邮箱等待验证码),点击 Next重复之前步骤,但是由于已经在浏览器上登录成功了,所以步骤非常简单 粘贴代码后将会提示以下内容,点击 Allow 即可等左下角的 AWS 扩展颜色正常,对勾状态,说明连接成功此时,就可以愉快的使用 AI 编程了。2.3 PyCharm 安装 CodeWhisperer1.打开 Pycharm 插件管理在 JetBrains IDE 中,导航到设置菜单(在 macOS 上为⌘ + ,在 Windows 上为文件→设置),然后单击左侧菜单上的“插件”。在菜单顶部,单击 Marketplace 并在搜索栏中键入 “AWS Tookit”。然后点击安装。2.安装完成后重启 IDE3.将 Pycharm 连接到 AWS(AWS Build ID 创建),重复之前步骤IDE 重新启动后,您将看到一个新的 AWS Toolkit 工具窗口。还可以通过 View -> Tool Windows -> AWS Toolkit(视图 -< 工具窗口 -< AWS Explorer)访问此窗口。然后点击"Developer Tools"标签,选择“CodeWhisperer/Start"此时,就可以愉快的在 PyCharm 里使用 AI 编程了。2.4 快捷键使用方法全程需要按快捷键调用 Codewhisperer,主要的几个用法如下:三、简单自动编码演示回到 IDEA,看到如下界面,即表示注册并启动成功:下面我们新建任意 Java 文件,看看他如何能够帮助我们自动生成代码。3.1 单行代码自动补全输入字符串 public。根据输入,CodeWhisperer 生成了建议列表3.2 CodeWhisperer 生成完整代码CodeWhisperer 可以根据编写的注释生成完整的函数。类似于 if/for/while 等代码块的生成。大家如果看到这有疑问,可以接着看第四部分,有详细的测试说明。3.3 其根据签名自动生成代码看到这里,大家应该有个简单的了解了,咱们接着往下看~四、AI 编程代码实测及项目体验4.1 简单函数代码测试首先,我先用中文注释了“写一个读取 csv 文件的函数” 回车后可以看到 CodeWhisperer 自动显示出来按快捷键 Tab 确认键入后,接着回车后 CodeWhisperer 又自动生成了以下代码:感觉这个 CodeWhisperer 自动生成的代码还不错,我选择了 Insert Code 键入使用。紧接着用中文又注释了“创建一个简单的爬虫简单函数”在这选择了第三个自动代码,同样 Tab 键入。接下来是注释“冒泡排序”后回车注释“选择排序”后回车中文注释实测完后又对英文注释进行了测试,如下图所示:乘胜追击,又对创建和上传文件代码进行自动生成测试,同样得到了预期的效果。对于简单的函数实测让我感觉这个工具还挺不错的,因为可以根据自己想要的注释自动生成多个代码建议,这样不仅节省了大量的编码时间,而且多种代码建议可供选择,一定程度上提升了自己编写代码的质量。4.2 代码安全扫描实测接下来用 CodeWhisperer 去扫描我们代码中的安全漏洞,以下是运行按钮的位置打开我想扫描的文件,然后运行安全扫描结果发现 CodeWhisperer 探测到该文件中有两个安全问题。 通过查看问题栏,点击事件定位到代码中,我们将鼠标移入到突出显示的代码,查看建议的措施,如下所示,问题指出在该例子中未加密的 AWS 凭证被记录下来,是一个安全漏洞,它建议我们重写代码并且修复该漏洞。同样查看第二个问题,CodeWhisperer 告诉我们讲应该把标识设置为 True。根据 CodeWhisperer 的建议,我进行了对应修改,两处安全问题修改如下:修改后重新扫描了文件,扫描完成,显示没找到问题。对于安全扫描这项功能,我还是挺惊艳的,没想到能实测找出问题并给出对应的解决问题,因为这一点我对 CodeWhisperer 的好感又增加了。4.3 代码引用跟踪功能实测在这里想实现一个函数来创建一个 dynamo DB 表。 如下图所示进行了实际测试 “implement a function to create a dynamoDB table”以下是 CodeWhisperer Reference Log 给出的建议:根据代码建议标注被文件跟踪器标记为 MIT 许可证,其引用了 Apache-2.0 许可证下的代码。我选择接受了这些标记代码,然后发现 CodeWhisperer 自动记录了引用我需要的许可证信息,这样我就可以在我的代码上添加适当的许可证和归属信息。 这个功能实测完感觉也挺有用的,对代码涉及到的许可证和归属信息问题进行了有效解决。4.4 计算机视觉工程项目实测在对官网显示的几项功能测试完后,又在平时用到的实际项目上进行了测试,我选取了常用的一些 CV 检测模型,以下是 ShuffleNet 的实际测试效果。首先,我在实例化训练数据集上,对缺失的代码段进行测试,看 CodeWhisperer 是否能联系上下文进行代码补全。进行回车操作后,CodeWhisperer 显现出来了所给的建议。目前看所给的建议正确,接着我又对冻结权重部分进行了测试,这回我又利用了 CodeWhisperer 的快捷键 ALT+C 进行了测试,结果显示自动生成了 False 选项,测试到这里真的让我觉得这个工具是真的好,可以帮助我解决代码中遇到的很多问题。 在训练代码中测试完,我又接着对检测模型代码进行了测试,如下图所示在 transform 指向中为我建议了 img。最后,我对检测模型代码进行了运行测试,正确的检测出图片为蒲公英 dandelion。总的来说,CodeWhisperer 辅助我完成了 CV 模型的代码编写和模型检测,达到了官网所展示的预期。接下来,我要让 CodeWhisperer 帮助我完成更复杂的任务了,哈哈五、Amazon CodeWhisperer 实测体验总结5.1 CodeWhisperer 可以帮助我成为一个更好的开发者吗?通过以上的测试,我觉得它可以帮助我成为一个更好的开发者。首先,它可以为我节省大量的时间和精力,让我能够专注于改进、重构和测试。其次,它通过承担一些同质化的繁重工作,让我有机会成为一个更好的程序开发人员。比如上面的测试的例子是 Amazon 工具(经过 Amazon 开源代码训练)能够表现出色的例子。当然,在大多数开发人员需要花费很多时间的地方,比如编写领域相关的逻辑时,我又多测试了一下,让我们看看 CodeWhisperer 会不会也有帮助。比如从 Python 文档中的数据类示例开始。@dataclass class InventoryItem: """Class for keeping track of an item in inventory.""" name: str unit_price: float quantity_on_hand: int = 0 def total_cost(self) -> float: return self.unit_price * self.quantity_on_hand其实我想知道 CodeWhisperer 是否可以向这个类添加一个方法。让我们看看如果添加注释:" Function that return this item costs more than $10",会发生什么?@dataclass class InventoryItem: """Class for keeping track of an item in inventory.""" name: str unit_price: float quantity_on_hand: int = 0 def total_cost(self) -> float: return self.unit_price * self.quantity_on_hand # Function that returns whether this item costs more than $10 def expensive(self) -> bool: return self.unit_price > 10结果是非常酷的。值得注意的是,CodeWhisperer 给函数起了一个直观的名字,并包含了对 self 的引用。接着,让我们尝试用 CodeWhisperer 来做测试,看是否会触及它的极限。# Function to test InventoryItem class def test_inventory_item(): """ Test InventoryItem class :return: """ item = InventoryItem("Widget", 10, 5) assert item.name == "Widget" assert item.unit_price == 10 assert item.quantity_on_hand == 5 assert item.total_cost() == 50 assert not item.expensive() 在上面的代码中,我输入了注释,CW 自动完成了剩下的工作。 测试似乎是一个极好的证明 CW 可以节省时间的例子。我不需要浪费时间去想测试的值,也不用输入所有的成员变量和方法。总的来说,可以帮助我成为一个更好的开发者,但是任何辅助工具都有利有弊,CodeWhisperer 也是才发布不久,通过测试我也想邀请大家去进行实际测试,可以对使用 CodeWhisperer 遇到的问题大家一起相互讨论,一起促进这个编程助手迭代和完善~版权声明: 本文为 InfoQ 作者【攻城先森】的原创文章。原文链接:【https://xie.infoq.cn/article/909704e9a44302aa28b2a44e9】。未经作者许可,禁止转载。
3,649
1,692,696,130,121
InfoQ
10
9 种方法使用 Amazon CodeWhisperer 快速构建应用
活动推荐: #生成式 AI 先锋开发者集结令 #免费体验编程神器,丰厚大奖等你来拿!👉🏻👉🏻https://jinshuju.net/f/rVuKYaAmazon CodeWhisperer 是一款很赞的生成式人工智能编程工具。自从在工作中使用了 CodeWhisperer,我发现不仅代码编译的效率有所提高,应用开发的工作也变得快乐起来。然而,任何生成式 AI 工具的有效学习都需要初学者要有接受新工作方式的心态和意愿。Amazon CodeWhispererhttps://aws.amazon.com/codewhisperer/作为一名早期的“探索者”,我发现了几个对我很有用的功能和可以提高生产效率的小技巧,将在这篇文章中和大家分享:减少输入函数生成类的生成算法的实现单元测试的编写创建示例数据简化正则表达式更快地学习第三方代码库代码的文档化CodeWhisperer 的安装部署使用 CodeWhisperer,需要在你的集成式开发环境(IDE)中安装最新的 Amazon Toolkit。支持的 IDE 包括 Visual Studio(VS)Code 和 JetBrains IDE(IntelliJ、PyCharm、CLion、GoLand、WebStorm、Rider、PhpStorm、RubyMine 和 DataGrip)。另外,CodeWhisperer 被内置了 Amazon Cloud9 和 Amazon Lambda 控制台, 也可以在 JupyterLab、Amazon SageMaker Studio、以及 Amazon Glue Studio Code 中通过加入 CodeWhisperer extension 进行使用。有关设置说明,请参阅:CodeWhisperer “入门” 资源。CodeWhisperer “入门” 资源https://aws.amazon.com/codewhisperer/resources/CodeWhisperer 为输入需求自动提供建议。如果没有收到建议,可以随时使用 Option + C (Mac) 或 Alt + C (Windows) 快捷方式手动触发。CodeWhisperer 有时还会向你提供多种建议以供选择。你可以按 → 和 ← 键循环浏览所有可用的建议。CodeWhisperer 提供的建议是非确定性的,这意味着开发者收到的建议可能与本文中显示的建议略有不同。如果收到的建议不符合需求,可以尝试使用箭头键循环浏览所有可用的建议,或者尝试稍微改写任何代码注释提示。即使是标点符号的变化也可能产生新的建议。本文中的示例是用 JavaScript 和 TypeScript 编写的。当然,演示操作同样适用于 CodeWhisperer 支持的其他编程语言。减少输入对于常见的代码功能实现,CodeWhisperer 的作用在于功能完成自动化,这大大减少了编写单行代码或代码块时的键入次数。CodeWhisperer 在键入时自动提供建议。当建议有用时接受这些建议,当建议没有帮助时则忽略这些建议。根据我的经验,仅以这种方式使用 CodeWhisperer 可以使我的文字输入减少 50% 或更多。函数生成根据函数名自动生成函数资深的程序员为其函数和参数提供清晰准确的描述性名称。如果你在自己的编程中遵循这种做法,CodeWhisperer 将拥有为你实现许多功能所需的所有上下文。在输入下面的函数名后,CodeWhisperer 生成的函数体。用户输入 (JavaScript)JavaScriptfunction standardDeviation(numbers)结果:JavaScriptfunction standardDeviation(numbers) { const avg = average(numbers); const variance = numbers.map((x) => Math.pow(x - avg, 2)).reduce((a, b) => a + b, 0) / numbers.length; return Math.sqrt(variance); }根据描述生成函数有时,仅凭一个好的函数签名不足以传达函数的预期行为。在这些情况下,可以使用详细的代码注释作为提示发给 CodeWhisperer。建议在选择这种方式时使用相应语言的文档注释分隔符。用户输入 (JavaScript)JavaScript/** * Given a list that contains some numbers and strings, format them into a string * in which the numbers are prepended with "#" and the strings are wrapped in * double quotes. */结果:JavaScript/** * Given a list that contains some numbers and strings, format them into a string * in which the numbers are prepended with "#" and the strings are wrapped in * double quotes. */ function formatList(list) { return list .map((item) => { if (typeof item === "number") { return `#${item}`; } else { return `"${item}"`; } }) .join(", "); }类的生成可以通过单个代码注释生成完整或部分的类实现。注释应描述该类的关键属性和行为。用户输入(TypeScript):TypeScript/** * A folder has a name, children, and an optional parent. A child can't be added * twice. */结果:在完成上面的函数块注释之后,CodeWhisperer 提供了多种建议,并附有每种方法的文档注释!TypeScript/** * A folder has a name, children, and an optional parent. A child can't be added * twice. */ class Folder { constructor(name, parent) { this.name = name; this.children = []; this.parent = parent; } /** * Add a child to the folder. * @param child The child to add. * @returns True if the child was added, false if it was already present. */ addChild(child) { if (this.children.includes(child)) { return false; } this.children.push(child); return true; } /** * Remove a child from the folder. * @param child The child to remove. * @returns True if the child was removed, false if it wasn't present. */ removeChild(child) { if (!this.children.includes(child)) { return false; } this.children.splice(this.children.indexOf(child), 1); return true; } }算法的实现CodeWhisperer 能够轻松实现通用的算法。只需告诉 CodeWhisperer 你想将哪种算法应用于特定的编码问题,它就会执行。用户输入 (JavaScript)JavaScriptconst actors = [ ... ]; // Sort the actors by age using the merge sort algorithm.结果:JavaScriptconst actors = [ {name: 'Tom Cruise', age: 56}, {name: 'Meryl Streep', age: 49}, {name: 'Jack Nicholson', age: 39}, {name: 'Christopher Walken', age: 53} ]; // Sort the actors by age using the merge sort algorithm. function mergeSort(arr) { if (arr.length <= 1) { return arr; } const middle = Math.floor(arr.length / 2); const left = arr.slice(0, middle); const right = arr.slice(middle); return merge(mergeSort(left), mergeSort(right)); } function merge(left, right) { const result = []; while (left.length && right.length) { if (left[0].age < right[0].age) { result.push(left.shift()); } else { result.push(right.shift()); } } while (left.length) { result.push(left.shift()); } while (right.length) { result.push(right.shift()); } return result; }单元测试的编写CodeWhisperer 加速了单元测试的实现。不仅能够实现我请求的大多数明确的单元测试的逻辑,而且经常为我甚至没有想到的边缘情况来建议单元测试。当我想让 CodeWhisperer 实现一个单元测试时,我会像下面的例子一样,首先声明我正在测试的条件和预期的结果。用户输入 (JavaScript)JavaScriptdescribe("Folder.addChild()", () => { it("when adding an existing folder should not add duplicate"结果:JavaScriptdescribe("Folder.addChild()", () => { it("when adding an existing folder should not add duplicate", () => { const folder = new Folder("root"); const child = new Folder("child"); expect(folder.addChild(child)).toBe(true); expect(folder.addChild(child)).toBe(false); }); it("when adding a new folder should add it", () => { const folder = new Folder("root"); const child = new Folder("child"); expect(folder.addChild(child)).toBe(true); }); it("when adding a new folder should add it to parent", () => { const folder = new Folder("root"); const child = new Folder("child"); folder.addChild(child); expect(child.parent).toBe(folder); }); }在完成一两个测试之后,即使没有明确的提示,CodeWhisperer 也会建议更多的测试。在后续的文章和视频里,我们将展示 CodeWhisperer 更多的测试建议。提示:你会注意到我的测试描述包括:我正在测试的函数;我正在测试的条件;我期望的结果。 遵循这个由三部分组成的模式是确保 CodeWhisperer 拥有实现高质量测试逻辑所需的上下文的好方法。创建示例数据我发现,CodeWhisperer 可以生成虚拟数据,或者实际的、具有可重复模式的代码。举例来说,在下面的列表中,我只输入了第一个 “用户” 对象作为示例,CodeWhisperer 就很好的延续了这个模式。用户输入 (JavaScript)JavaScriptconst fakeUsers = [ { name: "User 1", id: "user1" },结果:JavaScript const fakeUsers = [ { name: "User 1", id: "user1" }, { name: "User 2", id: "user2" }, { name: "User 3", id: "user3" }, { name: "User 4", id: "user4" }, { name: "User 5", id: "user5" }, { name: "User 6", id: "user6" } ]它甚至可以生成随机但看似合理的值,如下所示:用户输入 (JavaScript)JavaScriptconst fakeUsers = [ { name: "Sally", id: "user1" },结果:JavaScriptconst fakeUsers = [ { name: "Sally", id: "user1" }, { name: "Bob", id: "user2" }, { name: "Joe", id: "user3" }, { name: "Jane", id: "user4" }, { name: "Jill", id: "user5" }, { name: "Jack", id: "user6" } ]Regular Expression 简化正则表达式虽然 CodeWhisperer 还不能将自然语言自动转换为自定义 Regular Expression,但它确实知道很多常用的 Regular Expression,帮助开发者节省时间。每当你需要正则表达式时,它们随手可得。让我们来看一个相对复杂但常见的 Regular Expression。用户输入 (JavaScript)JavaScript /** * Function that validates whether a string is a valid email address. */结果:JavaScript /** * Function that validates whether a string is a valid email address. */ export function isValidEmail(email) { return /^[^\s@]+@[^\s@]+\.[^\s@]+$/.test(email); }快速学习第三方代码库当使用不熟悉的库、模块或框架时,CodeWhisperer 有助于加快自学习速度。 在下面的示例中,我需要编写一个实用函数,该函数将获取来自 API 的 gzip 压缩值并将其转换成其余代码可以理解的值。我知道 “pako” 库会帮助到我,但我不知道如何使用。于是我给 CodeWhisperer 提示:一条导入声明和一条描述我目的的描述。JavaScriptimport pako from "pako"; /** * Accepts a base64-encoded, gzip-compressed JSON string and returns * a parsed JSON object. */结果:JavaScriptimport pako from "pako"; /** * Accepts a base64-encoded, gzip-compressed JSON string and returns * a parsed JSON object. */ export default function decompress(str) { const buffer = pako.inflate(atob(str)); const json = buffer.toString(); return JSON.parse(json); }代码的文档化CodeWhisperer 能为生成的代码和现有的代码生成文档和注释。例如,假设我想要 CodeWhisperer 帮我为 FavoritesFilter TypeScript 类的 matches() 方法生成文档注释。TypeScriptclass FavoritesFilter implements IAssetFilter { ... matches(asset: Asset): boolean { ... } }我们只需要在方法名称的正上方键入文档注释分隔符(/** */),CodeWhisperer 就会为我们生成文档注释的正文。注意:当 CodeWhisperer 用于这个场景时,我们需要使用 Option + C (Mac) 或 Alt + C (Windows)手动触发建议。结论希望上面的分享能激发你开始尝试使用 CodeWhisperer 这样智能的代码工具的想法。立即安装 CodeWhisperer,并开始在自己的项目中使用这些节省时间的方法和技巧。当然,这些建议和技巧只是 CodeWhisperer 的部分功能。随着更多开发者开始将 CodeWhisperer 应用到他们的日常工作流程中,我相信更多的技巧、经验和最佳实践还将持续出现。如果你也有心得体验,请发表评论让我们知道。你的分享会对更多的人有所帮助。安装 CodeWhispererhttps://aws.amazon.com/codewhisperer/resources/参考资料10 ways to build applications faster with Amazon CodeWhisperer:https://aws.amazon.com/cn/blogs/devops/10-ways-to-build-applications-faster-with-amazon-codewhisperer/Amazon CodeWhisperer Startup:https://aws.amazon.com/cn/codewhisperer/resources/Amazon CodeWhisperer User Guide:https://docs.aws.amazon.com/codewhisperer/latest/userguide/sagemaker-setup.html文章作者:Kris Schultz3D Specialist Solutions Architect, Amazon Web Services 文章译者:郑予彬亚马逊云科技资深开发者布道师代码校验:阙铭飞亚马逊云科技大中华区解决方案研发中心 解决方案架构师 
4,666
1,692,694,372,245
InfoQ
11
Amazon SQS支持从死信队列重新生成消息
亚马逊云科技最近宣布在SQS中支持使用AWS SDK或命令行接口进行死信队列的重驱动。新功能允许开发人员将未消费的消息从死信队列中移出并转移回其源队列。当出现错误时,SQS会将未消费的消息转移至死信队列(dead-letter queue,DLQ),从而能够让开发人员探查未成功消费的消息并调试应用程序的故障。亚马逊云科技的开发人员倡导者Sébastien Stormacq解释到:每当消费者应用捡取一个要处理的消息时,消息的接收计数就会加1。当ReceiveCount > maxReceiveCount时,Amazon SQS会将消息移动到指定的DLQ中,供人工分析和调试。我们通常会将警报与DLQ关联起来,以便于在这种情况发生时发送通知。在失败的消息调试完成或消费者应用能够消费它时,新的重驱动功能就会将消息移回源队列,从而能够在分布式系统中以编程的方式管理大规模未消费消息的生命周期。过去,这只能通过在控制台手动处理才能实现。Ampt公司的CEO兼创始人Jeremy Daly当时这样写到:这不是一个特性,这不是一个API,而是一种只能在AWS Console中才能获取的“体验”。我想要它吗?想要!但是,我想登录AWS Console来使用它吗?绝对不想要!要重新处理DLQ消息,开发人员可以使用如下的任务:StartMessageMoveTask用于从死信队列启动新的消息移动任务;CancelMessageMoveTask用于取消消息移动任务;ListMessageMoveTasks用于获取特定源队列最近的消息移动任务(最多10个)。社区对这项特性给出了积极的反馈,MUSIC Tribe的云计算和平台主管Tiago Barbosa评论说:这是一个很好的改进。我一直不喜欢使用DLQ,其中一个原因就是需要建立一种机制来重新处理最终出现在DLQ中的条目。Curantis Solutions的CTO Benjamen Pyle撰写了一篇文章,介绍了如何使用Golang和Step Functions来重新驱动消息。在DLQ的配置中,可以使用自定义目的地选项的ARN来指定将消息发送回源队列还是其他队列。PostNL首席工程师、AWS Serverless Hero Luc van Donkersgoed在推特上写到:如果能重新驱动到原始队列就好了。这一点非常棒,因为它允许我们指定任意的目标队列。这使得以前完成此项任务的Lambda Functions瞬间化为乌有。文档强调了一些限制:SQS仅支持标准队列的死信队列的重新驱动,不支持在重新生成它们时过滤和修改消息。除此之外,一个DLQ重新驱动任务最多可运行36小时,每个账户最多可以有100个活跃的重新驱动任务。有些开发人员质疑其缺少对Step Functions的支持。SQS不会自动创建DLQ,队列必须在接收到未消费的消息之前进行创建和配置。原文链接:Amazon SQS Supports Reprocessing Messages from Dead-Letter Queue相关阅读:大模型竞争突然升级!亚马逊CEO亲自监督、组建新的核心技术团队,集中优势资源打造“最具野心”的大语言模型亚马逊云科技开源PBAC领域特定语言Cedar
3,370
1,691,719,610,095
InfoQ
12
对话无服务器专家 Luca Mezzalira:你真的为Serverless X AI 做好准备了吗?
无服务器架构是当下云计算领域最热门的趋势之一。据统计,只有 35% 的技术人员还没有使用无服务器平台,越来越多的企业出于降低成本、简化运维、加快产品上市速度等原因选择转向无服务器架构。那么,开发人员该如何转变自己的开发方式以适应和充分利用无服务器架构?在业务快速变化的情况下如何采用无服务器架构加速应用开发进程?Serverless 架构如何与 AI 等应用场景进行高质量的结合?亚马逊云科技 TechTalk 特别版直播活动荣幸的邀请到了亚马逊云科技首席无服务器专家 Luca Mezzalira,他结合亲身经验为开发者提供了无服务器架构下应用开发的实用建议。无服务器架构的核心价值和挑战InfoQ:无服务器架构的核心价值是什么?亚马逊云科技的无服务器架构有哪些优势?Luca Mezzalira:“无服务器”这一概念经过多年演变,如今我们称其是一种策略。用户采取无服务器策略时可以将同质化的繁重工作交给亚马逊云科技,自己专注编写开发新功能,满足你的客户需求。无服务器架构有几个优势:首先是业务敏捷性。无服务器架构的优势在于模块化,我们能够在基础设施层面来将这一概念付诸实践。基于无服务器架构,客户可以享受到亚马逊云科技内置的各种通用模式。无服务器的另一大优势就是我们拥有丰富的基础设施管理经验,客户可以直接享用我们多年来学到的所有最佳实践,而开发人员或整个企业就可以专注于自己的差异化竞争优势——也就是他们的软件或他们正在开发的项目。InfoQ:您提到了无服务器架构的这么多优势,但任何事物都有两面性。那么在您看来,无服务器架构现在面临着哪些挑战?我们又该如何应对这些挑战呢?Luca Mezzarila:事物确实都有两面性,特别是对于那些第一次接触无服务器服务的人来说,想要上手确实得花点功夫。大家要在多个维度上转变自己的思维,抛弃过去自己熟悉的传统开发方式,转而在代码层面开始习惯模块化表达,同时试着将更多权力下放给基础设施。确实我们为了上手要花点时间,但这并不是多难的事情。InfoQ:在无服务器架构中,冷启动延迟非常重要,也是一个常见的问题。Amazon Lambda SnapStart 可以将冷启动时间降低 90%,这绝对是了不起的成就。你能分享一下这背后的故事吗?Luca Mezzarila:Amazon Lambda SnapStart 特别关注 Java 的应用场景,因为世界上有很多组织都高度依赖于 Java。将来的 Amazon Lambda SnapStart 也可能适用于其他环境,因为 Amazon Lambda 支持多种由亚马逊云科技托管的运行时。很多开发者都很担心冷启动问题。但根据我个人在行业内工作了 20 年的经验,其实并不是所有 API 都必须拥有超低的启动延迟。大家一直在努力让自己的软件达到最好的效果。但我们还是应该先弄清楚瓶颈究竟在哪里。我们每年推出的版本中总有一些功能会帮助大家改善自己的工作体验,而且开发者和公司完全不用改变自己的工作习惯。他们一早醒来,会突然发现软件的延迟有所降低。这是种非常奇妙的体验。无服务器架构下应用开发的实用建议InfoQ:在开发无服务器应用时,有哪些好的实践和策略可以提供更好的性能?Luca Mezzarila:有几个手段是我们可以重点关注的。我们可以从模式出发,以不同的视角看待问题。比如,当我们的解决方案其中有一部分是同步,而另一部分是异步时,同步的部分需要根据传入的请求来扩展,方案的其余部分可以保持较低的扩展度,从而降低维护难度。传统单体架构中,你往往需要优化峰值流量、预先配置基础设施等,但无服务器架构下这些资源都是开箱即用且可以按需扩展的。我还特别推荐大家认真观察并思考自己在做的工作,想想有什么可以优化的地方。比如说有一些 SLA 或功能可以和产品团队讨论,只要一些简单的调整就可以更加充分地利用它们,让开发者的工作更轻松,同时给用户带来显著影响。无服务器技术的高性能和稳定性往往是由细节决定的。现在你不用再操心在哪里使用 circuit breaker,在哪里存储内存信息,而是直接借用成熟方案,而且不用自己去维护它们,这样你就可以专注于那些真正重要的任务。InfoQ:您说易于使用和易于维护是非常重要的,那么您能和我们分享一下如何将应用程序划分为小型、独立的功能模块,并利用无服务器架构构建和部署这些模块吗?Luca Mezzarila:当我们谈到分布式系统时,主要的挑战在于建模部分。有些公司先是针对细碎的服务做出一些非常小的模块,然后再尝试耦合;还有些公司则是先构建一些小体量或模块式的单体架构,然后当他们对新技术有更深刻的理解时再进一步拆分它。我认为第二种模式效果最好,尤其是当你不太确定你是否想采用微服务时。有一些实践可以帮助你理解如何拆分应用。首先我推荐大家了解一些领域驱动设计的知识。研究这种技术的社区提供了很多极具启发性的方案和一些能够帮助你拆分应用的工具。例如事件风暴就是一个很好的起点。首先,业务部门和技术部门通过事件风暴会议携手合作,并且只关注用户的整个使用流程。大家在白板上罗列出用户为了完成某一项或多项任务所必须经历的所有事件,这样就可以直观展示使用应用或特定功能的整个流程,看到促成流程推进的关键事件。它们代表着不同任务之间的边界,接下来我们就可以顺利地将各部分工作分配给各个团队。这时团队已经可以从业务的角度出发,对自己想要表达的内容有了比较清晰的认知,并且可以将其付诸代码。然后团队就可以轻松地把一个个环节映射到无服务器服务上。而如果没有事件风暴这一环节,直接不管不顾开始写代码的话,你很可能会在代码的构建、重构和删除上浪费大量时间。第二点,我们不应该过早开始预先设计,你不需要在开始写代码前几个月就开始构思准备。你应该采用一个非常精简的方法,在有限的时间内收集尽可能多的信息,然后根据掌握的信息做出决定。有时你很有可能要改变原本的设计方向,而无服务器是在基础设施级别实现模块化的,所以我们就可以直接删除或丢弃一些代码,然后沿着更适合我们软件的新方向前进。此外,事件风暴的另一大亮点是你可以看到各个团队在与哪些人交流,以及服务中的各个部分在与哪些服务沟通。这样架构师就可以轻松调整架构,改善团队沟通机制,对整个系统的认识也会更加清晰。无服务器 VS 微服务:无服务器架构是微服务的一种表现形式InfoQ:我们谈了这么多关于无服务架构的内容,但我们知道在这个领域另一项非常重要的技术叫做微服务。那么您对这两种架构之间的关系有何看法?您认为一项技术会取代另一项吗?Luca Mezzarila:微服务只是一个术语,表示一个特定的实体或工作单元,而且它是完全独立的,可以由单一团队管理。微服务要有一个强大的封装。而这个强大的封装可以是由各种方式设计的,可能是代码,可能是某种基础设施。我认为无服务器应该算是微服务的一种表现形式。现实应用中并不存在它们之间的硬性分割,大家完全可以用容器、虚拟机或者无服务技术等各种方式来实现微服务。真正重要的是我们到底想用模块化微服务表达什么。很多 API 其实根本没有那么高的要求,也许我们只想用它获取数据和查询数据库,这时候无服务器也是个好选择。但无服务器可能并不适合每一个负载,所以大家不必盯着一套方案到处使用,这反而会限制你做架构优化的能力。在设计系统时,我们需要考虑太多因素,包括成本、性能、可扩展性和可靠性等等。真正有意义的是先想清楚要不要用微服务,再思考要用哪种方法来实现,而无服务器只是实现方法之一。InfoQ:哪些企业适合使用无服务架构,哪些又适合微服务架构?Luca Mezzarila:首先,利用无服务器构建解决方案能帮初创企业快速部署生产环境。而大企业显然面临着更大的挑战,因为他们有大量的旧代码和旧逻辑需要处理,而当初编写这些代码、设计这些逻辑的人可能已经离职。因此他们需要先审视整个业务体系,然后思考该如何拆分这些代码和逻辑,从而让它们更容易被新人理解,下一步才是思考具体该使用哪种服务。所以有时候,采用混合架构也不错,毕竟系统中的某些部分可能跟容器匹配得更好,而某些部分更适合无服务器架构。一切工作的本质都在于整合,而无服务器架构恰好是实现整合的出色方案。无服务器架构能用队列轻松消化掉流量,也可以用事件或使用 Amazon Lambda 函数来与其他系统同步。所以每当大家谈到边缘架构时,我想到的首选都肯定是无服务器架构。另外我还发现,其实 API 并没有大家想象中那么脆弱。我们完全可以用 CDN 将流量转出源站,无服务器在这方面也有巨大优势,因为大家只需按实际用量付费。所以如果绝大多数流量都流经 CDN,那我们根本不用为所在区域的源站支付多少成本。总之,想清楚自己的软件要表达什么是很重要的,这会为日后省下很多不必要的麻烦。InfoQ:如果没有无服务器架构,编程工作会变得更复杂吗?Luca Mezzarila:通常情况下,对于公司所掌握的每项服务、每段代码,我们天然希望它能对应一套连贯且统一的代码库。所以团队就得一同定义设计路径、确定所要使用的工具等等。但遗憾的是,这样的一致性总会随着时间的推移发生变化。对于开发人员来说,这就像是在戴着镣铐跳舞。所以,我认为基础设施的模块化表达可以在这里派上用场,我们只需根据业务稍做调整,而不必每次都重新做一遍配置。另外,从应用程序的整体性出发,我们会看到相似的情况总比特殊情况要多,而无服务器架构可以将这些相似的工作集成在架构中,减轻开发者的负担。亚马逊云科技 Serverless 化全面改造的最新进展InfoQ:亚马逊云科技在推动向无服务器的全面转型方面做了哪些努力?Luca Mezzarila:我们在亚马逊云科技建立了多个项目。我们面向的不只是开发者群体,同时也尝试改变企业高管层的思维方式,让他们了解包括无服务器在内,整个现代开发思维所带来的好处。除此之外,我们也有面向架构师和开发人员的项目,与他们一起走向现代化,也帮助他们了解如何构建事件驱动架构和微服务架构。我们也会与拥有无服务器经验的合作伙伴通力合作,甚至可以为客户推荐能帮其达成目标的合作伙伴。我们为客户准备了很多充满潜力的选项。客户只需说明自己想达成怎样的目标,亚马逊云科技就能够提供相应的协助方案,而且大部分服务都是免费的。只要我们能在建模阶段把工作做到位,并在网站上发布丰富的说明文档、博文素材、应用实例,开发人员就能切实掌握值得借鉴的最佳实践。并且我们的努力涵盖各个领域,能帮助任何企业在云端取得成功。InfoQ:亚马逊云科技自己的无服务器实践目前走到哪一步了?Luca Mezzarila:无服务器技术在亚马逊云科技的内、外部工具中正在迅速普及。Amazon Lambda 函数的调用总量已达到 1 万亿。通过无服务器技术,我们部署了大量开箱即用的最佳实践,就连可用性保障都已经在函数部署过程中被默认内置,客户用不着为这些麻烦事分心。我们也在亚马逊云科技内部使用它支持客户、支撑自己的服务。当 Severless 遇上生成式 AIInfoQ:无服务架构在机器学习领域的前景如何?Luca Mezzarila:现在已经出现了不少使用无服务器架构的示例,特别是在粘合各种系统的场景下。在我看来,最重要的就是用无服务器架构充当粘合剂,实现这些信息的跨系统传输,让开发者可以专注于真正重要的事情。关于生成式 AI,我们在亚马逊云科技中已经成功落地。在开发层面,我们推出了 Amazon CodeWhisperer 插件,可以根据提示生成代码编写建议。另一项生成式 AI 服务是 Amazon Bedrock。它允许用户选择自己想要使用的大语言模型。我们还开发了自己的大语言模型,也就是 Amazon Titan。随着这些服务的推出,我坚信这种帮助客户灵活选择、定制大语言模型的方案一定能够大放异彩。InfoQ:您对 AI 和无服务器之间的关系有何看法?二者有什么联系吗?Luca Mezzarila:就目前来讲,我觉得只能算是有松散的联系。我们还需要进一步探索,毕竟大语言模型对内存容量有着极高的要求。尽管无服务器技术拥有自己的优势,但正如我之前提到的,它最大的优势应该是把不同的系统粘合起来,确保技术人员能专注于真正重要的工作。比如在 AI 语境下,你就可以专注于思考如何训练你的模型等等。同时,我很确定会有一些通过无服务器技术实现的有趣应用。社区那边就发布过不少方法,以新颖的生成式 AI 方法尝试简化开发者的工作体验。我有种感觉,其实很多工作正在幕后悄悄推进,只是我们还没看到。面向未来,无服务器架构将为开发者带来怎样的机遇?InfoQ:您如何看待无服务器架构的未来发展趋势?Luca Mezzarila:我觉得最重要的还是研究客户用例。过去几年间出现了大量关于无服务器的需求。亚马逊云科技推出的绝大多数功能都是应客户的要求而生。未来几年的重点应该是为无服务器重新找准定位,因为现在我们将其视作一种策略,而不只是简单的 Lambda 函数。我们有些客户一直立足前沿,正在做一些我们从未预料的疯狂尝试。但同时也有很多客户要么对服务不完全信任,要么持明确的怀疑态度,还有一些客户并不太了解这项技术。所以我一直在努力为大家答疑解惑。我们建立了一套心智模型来帮助客户方的开发人员、架构师和平台团队把自己的软件以科学的方式映射到无服务器架构。这样,无服务器的负载就能快速增长,因为我们以往的观察已经证明无服务器架构具有诸多优势,令许多客户从中受益。InfoQ:对于开发者来说,无服务器架构未来有哪些潜在的机会?Luca Mezzarila:开发人员面前的机会有很多。他们可以编写出免维护的代码、建立更快的反馈循环,并开始研究如何帮助业务和产品所有者一同重塑业务。还有一个挑战是思维方式的转变。企业中仍然流行一种非常集中制的思维模式,单纯由组织顶层人员、或者说技术领导层来决定一切,而开发人员只是螺丝钉。他们没有机会与产品团队沟通,共同塑造成功的软件。产品和技术团队永远在彼此指责和争吵,我觉得必须要避免这种争执,让双方更好地合作,这才能给软件带来益处,进而惠及整个组织。InfoQ:时代车轮滚滚向前,过去开发者可能更关注学习哪种语言、哪种新技术,但现在,特别是在疫情过去之后,企业开始更多关注利润。他们苦苦挣扎,要在糟糕的经济环境下生存下去。在这样的背景下,开发人员应该掌握哪些软技能呢?如何面对这样的大环境变化?Luca Mezzarila:在组织中,“软技能”已经成为了核心技能。如果我们没有能力开展有效沟通、做出权衡,并代表企业的利益发言,即使你可以成为世界上最了不起的开发者,你也没法把握成功的脉搏。因为当今的现实是,我们写的每一行代码都不是为了娱乐自己而写,而是为我们的客户创造价值。另外,开发人员现在需要身兼数职,他们工作中的开发占比越来越低,而需要对事物的发展变化具备更敏锐的感知。我建议大家不要局限于特定的框架或语言,而是着眼于更广泛的问题,包括架构、安全性、平台、基础设施等。这些会让我们成为更全面的开发者、更优秀的人才。还有一点要着重强调,当你以开发者身份做出一个超出自己能力的决定时,必须意识到这不只是一项技术决策,它也一定会在架构和组织层面产生相应的影响。我发现很多开发者对分布式系统特别兴奋,或者每一种新语言都想去试试。但每一个框架都有自己的哲学、思维方式和合作生态。我觉得我们永远都要保持开放思维。你掌握了一种编程语言或框架,这当然是好事。但与此同时你需要看看你的周围,通过团队内不同成员的协同,我们才能构建真正有效的功能单元,在特定场景下大放光彩。我们要做 T 型人才,涉猎广泛的领域,并在特定的领域精通钻研下去,同时也有具备相应的软技能,从而在职业生涯中不断成长前进。
3,215
1,691,057,664,847
InfoQ
13
大家究竟需要怎样的“生成式 AI”?目前已达到 “临界点”?
生成式 AI (Generative AI)已经成为全球范围内的一个重要趋势,得到越来越多企业和研究机构的关注和应用,生成式 AI 的全球市场正在迅速扩大,据 IDC、摩根大通等多家研究机构数据预测,预计到 2025 年,全球生成式 AI 市场的规模将达到 110 亿美元,年复合增长率超过 50%。各大科技公司纷纷投入巨资开展生成式 AI 技术的研发和应用,纽约时间 7 月 26 日,亚马逊云科技数据库、数据分析和机器学习全球副总裁 Swami Sivasubramanian 在亚马逊云科技举办的纽约峰会(下文称“峰会”)上更是表示,“生成式 AI 技术已经达到临界点。”目前我们观察到,随着机器学习、深度学习等技术的不断迭代,生成式 AI 的应用趋势正朝着端到端的方向发展。端到端的生成式 AI 应用可以直接从原始数据中生成新的数据,而不需要进行显式的特征提取或手动设计生成模型,这大大提高了生成效率和生成质量。同时,端到端的生成式 AI 应用还可以更好地理解和控制生成过程和结果,从而提高其可解释性和可靠性。而本次峰会上亚马逊云科技宣布的“生成式 AI 创新"也是将“端到端”显示的淋漓尽致,进一步降低了生成式 AI 的使用门槛,无论是业务用户还是开发者都可以从中受益,来自千行百业的企业都能更专注于核心业务,提高生产效率,充分释放数据价值和生成式 AI 的潜力。一、生成式 AI 的第一要务是“帮用户解决生产问题”随着人工智能技术的快速发展,生成式 AI 已经得到了越来越多的生产者和企业的关注和应用,进入高速发展期。生成式 AI 技术可以通过学习大量的数据和知识,然后生成新的数据和内容,例如图像、文本、声音等;其可以应用于许多领域,例如自然语言处理、图像处理、语音识别等。在生产环境中,生成式 AI 技术可以用来自动化许多繁琐的工作,例如编写代码、设计产品、翻译文本等。帮助企业提高生产效率、降低生产成本、提高产品质量,为企业的创新和发展提供强有力的支持。说到底,生成式 AI 之所以可以被企业关注,其核心原因还是自于生产者的需求驱动,生产者需要提高生产效率和降低生产成本,而生成式 AI 技术可以帮助他们实现这个目标。例如,在一个工厂中,使用生成式 AI 技术可以自动生成最佳的制造流程,从而提高生产效率并降低成本等。正如 Swami 在纽约峰会上所说的,生成式 AI 的核心价值就是“通过生成式 Al 消除繁重的工作并提高生产力”。在生成式 AI 技术的发展中,推动技术研发厂商不断前进的动力就是用户“既要又要还要”的业务需求和技术需求。在满足用户需求方面,亚马逊云科技是业内做的相当不错的厂商,前段时间推出的 Amazon Bedrock 便是一大利器,通过 Amazon Bedrock,文本生成、聊天机器人、搜索、文本摘要、图像生成、个性化情景式产品推荐等功能实例可以完美集成于应用中。然而,只说功能多样性,不拆解技术的硬核,这对于生成式 AI 研发厂商是不公平的。评价一个模型的好坏,我们要从多个维度去看。从训练和部署、架构扩展层面,一个好的模型需要易于训练和部署、提高效率,并能够随着业务需求变化进行扩展和升级。Amazon Bedrock 提供可扩展的 API 和无服务器体验,客户可以使用自有数据基于基础模型进行定制,并使用熟悉的工具和能力进行集成和部署,无需管理基础设施,降低成本。用户还可以使用SageMaker、Experiments 和 Pipelines 等功能实现模型的集成和自动化管理、部署。在数据安全层面,好的模型需要具备安全的数据存储能力,能够保护用户的数据不被泄露和滥用。而 Bedrock 非常注重数据的安全性和隐私保护,对所有数据都进行了加密,并且不会离开客户的虚拟私有网络(VPC)。此外,Amazon Bedrock 还提供了可配置的数据共享选项,客户可以控制数据共享和使用,确保数据的完整性和机密性。在模型选择层面,一个好的模型需要具备丰富的模型选择,能够满足不同领域和场景的需求。用户需要能够选择适合自己业务的模型,并能够灵活地组合和集成多个模型,以实现更好的业务效果。Bedrock 提供了丰富的的基础模型选择,满足不同领域和场景的需求,使得用户可以更加灵活地选择和组合模型,满足自身的业务需求:AI21 Labs 开发的的多语种大语言模型系列 Jurassic-2,可根据自然语言指令生成文本内容;Anthropic 开发的大语言模型 Claude,能够执行多种对话和文本处理任务;Stability AI 开发的文生图基础模型 Stable Diffusion,能够生成独特、写实、高清的图像、艺术作品、商标和其它设计图;Anthropic 接入到 Amazon Bedrock 的最新语言模型 Claude 2,可以在每个对话任务提示中使用 10 万个标记,能处理数百页文本甚至整本书。相比之前版本,还可以撰写长篇文件,长度可达几千个标记;Stability AI 将发布最新版文生图模型套件 Stable Diffusion XL 1.0,能够生成更逼真的影视、电视、音乐和教学视频,具有更精细的图像和构图细节。亚马逊云科技新增的基础模型供应商 Cohere 将提供更直观地生成、检索和汇总信息的基础模型服务。本次峰会上,亚马逊云科技宣布全面扩展其全托管基础模型服务 Amazon Bedrock,发布变革性的新功能 Amazon Bedrock Agents,该功能将助力开发者轻松创建全托管的 AI Agents,帮助开发者研发提效,解决开发过程中的复杂度问题。比如自动分解任务并创建编排计划,无需手动编码,开发者可以轻松创建基于生成式 AI 的应用程序,完成各种复杂任务;安全地访问和检索公司数据,通过简单的 API 接口连接,自动转换数据为机器可读格式,增加相关信息生成准确回答;自动调用 API 满足用户请求,例如保险机构可以开发生成式 AI 应用程序,帮助员工自动处理保险索赔或管理文书;提供完全管理的基础架构支持,消除了系统集成管理和配置工作,使开发人员能够充分利用生成式 AI,实现“全托管”。要知道,在帮助用户构建自己的软件应用程序方面,在生成式 AI 没有步入舞台之前,低代码和无代码平台已经发挥了至关重要的作用,这些用户很少具备或根本没有编程知识。然而,随着生成式 AI 的加入,这些平台的使用将达到一个临界点,会产生全新的开发方式。目前很多专业开发者开始使用 ChatGPT 进行软件开发,事实表明 ChatGPT 可以为开发工作提供帮助,但在具体的业务场景中,开发者需要的不仅是可以编代码的工具,而是从源头降低软件开发复杂度的工具。想要从源头入手降低软件的复杂度,就意味着开发者需要设计良好的架构、简化功能和模块开发、采用合适开发工具等方法,从而来减少软件中的不必要的复杂度,提高软件的可维护性、可读性和可扩展性。而亚马逊云科技此次新推出的 Amazon Bedrock Agents 便有效解决了这些难题,是 Amazon Bedrock 的一大看点,也是生成式 AI 领域在降低开发复杂度的新节点。二、向量数据库是生成式 AI 的基石随着大模型和生成式 AI 技术的高速发展,数据安全和数据自定义成为了技术发展的基础,当前企业普遍比以往更为注重数据,数据已经成为企业的技术壁垒,与生成式 AI 结合的空间很大。大模型和生成式 AI 需要大量数据训练,这些数据需要预处理和自定义以满足模型需求。同时,为确保数据的准确性和一致性,提高模型的准确性和效率,数据自定义要求越来越高。这意味着,以往只存储结构化数据的企业数据库已不能满足需求,于是向量数据库成为了全球数据库发展的重要趋势。向量数据库当前被视为生成式 AI 的基石,因为其存储和处理的数据都是向量形式,而生成式 AI 模型则需要使用向量数据进行训练和推理,它提供了高效的数据存储和查询方式,并且可以与深度学习框架无缝集成,这种集成使得生成式 AI 模型能够更快地学习和生成更准确的数据。换言之,想要训练好生成式 AI,那必须要深度发展向量数据库技术。生成式 AI 使用深度学习框架来学习数据中的模式,这些框架使用张量(即多维数组)来存储和操作数据,而向量数据库则提供了一种高效的方式来实现这种张量存储和操作。向量数据库使用向量索引和向量相似性算法来存储和查询数据,这种存储和查询方式非常高效,可以快速地执行类似“最近邻”这样的查询,而这种查询正是在生成式 AI 模型中非常常见的。目前在研究大模型、生成式 AI 的厂商几乎都在同时研究向量数据库技术,基于生成式 AI、大模型的训练场景,各家的技术成果目前几乎没有太大差距。然而在本次纽约峰会上,亚马逊云科技新发布的适用于 Amazon OpenSearch Serverless 的向量引擎让人眼前一亮,正式可用后,该向量引擎支持简单的 API 调用,可用于存储和查询数十亿个 Embeddings。未来,所有亚马逊云科技的数据库都将具有向量功能,帮助客户简化运营,方便集成数据。Embeddings 是一种将文本、图像、声音等数据转换为向量表示的方法以便于使用机器学习算法进行处理,目前在研发向量数据库的厂商都在相关方面展开了探索。亚马逊云科技本次在该方面的新发布,完全是从用户需求出发。要知道,正常情况下的 Embeddings 应存储在靠近源数据的位置,一系列因素都将影响企业如何选择最适合自己的选项,比如当前数据存储位置、对数据库技术的熟悉程度、向量维度的扩展、Embeddings 的数量和性能需求等,因此亚马逊云科技为大家提供了三个选项满足更高级的向量数据存储需求:Amazon Aurora PostgreSQL 兼容版关系型数据库,支持 pgvector 开源向量相似性搜索插件,对需要存储和搜索大量向量数据的应用场景帮助意义很大;分布式搜索和分析服务 Amazon OpenSearch,带有 k-NN(k 最近邻)插件和适用于 Amazon OpenSearch Serverless 的向量引擎,可以处理大规模的向量数据、提供高效的搜索服务;兼容 PostgreSQL 的 Amazon RDS 关系型数据库,支持 pgvector 插件,可以满足企业日常对于 PostgreSQL 数据库的兼容性和向量数据存储需求。由于向量数据通常具有很高的维度和稀疏性,采用传统的存储方式会占用大量的存储空间,在向量数据存储和查询过程中,需要执行许多复杂的计算,所以如何对向量数据进行压缩和优化、优化算法以提高计算效率是向量数据存储技术领域持续探索的问题,而此次亚马逊云科技新发布的向量引擎也为解决这两个技术壁垒提供了有力支持,同时从用户的需求层来看,这也是向量数据存储技术的新突破。三、生成式 AI 同样需要“加速”生成式 AI 作为一种强大的技术,目前已在多个领域展现出了巨大潜力。然而在实际应用中,尽管其强大的创造力和表达能力令人惊叹,但生成式 AI 在“速度”方面仍有很大的进步空间。比如生成式 AI 的训练和推理过程非常耗时,尤其是再处理大规模的数据集时,速度是其限制因素之一;在实时性至关重要的自然语言处理等领域,如果生成式 AI 无法在短时间内生成结果,用户可能会感到沮丧甚至流失。总之,随着虚拟现实、实时翻译等越来越多创新场景的涌现,用户对生成式 AI 的速度有了越来越高的要求。GPU 作为专门用于并行计算的处理器,可以同时处理多个数据单元来提高计算速度。在生成式 AI 的训练中,需要进行的大量矩阵运算和反向传播等计算、处理大量的数据和模型参数,而这些计算任务均可以通过 GPU 进行并行计算,以达到加快计算速度,降低训练时间的目的。这意味着,只要 GPU 选型选的好,那降低生成式 AI 的训练成本、提高训练质量就是分分钟的事。本次峰会上新发布的 Amazon EC2 P5 实例作为亚马逊云计算平台上的一种强大的计算实例类型,便很好地满足了目前用户在生成式 AI 训练过程中的 GPU 需求。Amazon EC2 P5 实例以其出众的硬件配置提供了卓越的计算、存储、横向拓展性能,它搭载了 8 个NVIDIA H100 Tensor Core GPU,拥有 640GB 高带宽 GPU 内存,同时提供第三代 AMD EPYC 处理器、2TB 系统内存和 30TB 本地 NVMe 存储。同时,Amazon EC2 P5 实例还提供 3200Gbps 的聚合网络带宽并支持 GPUDirect RDMA,从而能够绕过 CPU 进行节点间通信,实现更低的延迟和高效的横向扩展性能。大家需要明确的是,NVIDIA H100 GPU 具有新的转换器引擎,可智能地管理和动态选择 FP8 和 16 位计算,与上一代 A100 GPU 相比,可在 LLM 上提供更快的 DL 训练加速。对于 HPC 工作负载,与 A100 GPU 相比,NVIDIA H100 GPU 具有新的 DPX 指令,可进一步加速动态编程算法。这种计算能力对于生成式 AI 模型中大量的矩阵计算和向量运算至关重要,与上一代基于 GPU 的实例相比,训练时间最多可缩短 6 倍。通过利用 P5 实例的高性能计算资源,可以显著降低训练成本,加快生成式 AI 的处理速度。为了能够满足生成式 AI 模型的大量训练数据、模型参数及中间结果的大量数据存储和加载需求,Amazon EC2 P5 实例还提供了大容量的本地存储空间,使得我们能够更高效地管理和处理大规模的数据集,在本地存储的支持下,避免频繁的数据传输和加载,从而进一步提升生成式 AI 任务的效率。值得一提的是,部署在第二代 EC2 UltraCluster 中的 Amazon EC2 P5 实例,与上一代 UltraCluster 相比,该网络结构可实现更大的规模、更少的集群网络跃点和更低的延迟。UltraClusters 中的 P5 实例可以扩展到与 PB 级网络互连的 20000 个 H100 GPU,并提供 20 exaflops 的聚合计算能力。四、端到端的生成式 AI“未来已至”无论是完全托管式的 Amazon Bedrock,还是适用于 Amazon OpenSearch Serverless 的向量引擎、Amazon EC2 P5 实例,我们能看到的是,亚马逊云科技结合用户需求在生成式 AI“端到端”方面的探索越来越深入。作为 GenAI 领域的技术领导者,亚马逊云科技凭借先进的技术、庞大的生态体系、丰富的实践经验和可靠的安全性,为自己的用户们提供了愈来愈全面的支持和几近完美的解决方案来推动端到端生成式 AI 的发展。Swami 在峰会上宣布”生成式 AI 技术已经达到临界点“,这意味着它变得更加成熟和可靠。亚马逊云科技利用自己过往在深度学习框架、算法库和工具等 AI 方面的探索经验,与全球数千个合作伙伴和数据科学家合作,持续输出完整、高效的 AI 解决方案,一心降低生成式 AI 的应用门槛,使更多人能够享受到这项技术的益处。除了已经提到的几个亮点技术,在本次峰会上,亚马逊云科技还推出了其他四项生成式 AI 技术与应用——AI 编程助手 Amazon Codewhisperer 通过提供丰富的模型和算法库来快速构建和训练生成式 AI 模型,使得开发者能够更轻松地进入生成式 AI 领域,并在图像、语音和文本生成方面得到更好的支持和指导;亚马逊云科技将 Amazon Bedrock 的大语言模型能力与 Amazon QuickSight Q 的自然语言问答功能相结合,提供生成式 BI 功能,提高了数据分析的效率和易用性,同时结合数据可视化,Quicksight 将数据分析结果以更直观丰富的方式展现,让用户更好地理解和利用数据。此外,亚马逊云科技还通过 Amazon Entity Resolution,赋能企业提升数据质量、获取客户洞察;推出 Amazon HealthScribe,利用生成式 AI 助力构建医疗应用程序。一直以来亚马逊云科技致力于降低生成式 AI 门槛,使更多的人能够轻松尝试和应用这项技术。他们希望成为生成式 AI 的普惠领导者,让更多的人从中受益。在峰会上,Swami 更是提到了生成式 AI 技术的发展需要“利用专门构建的 ML 基础架构实现低成本、低延迟的目标”,而亚马逊云科技也确实是这样做的——他们通过构建高效的基础架构和提供灵活的计算资源,来支持生成式 AI 技术的发展,他们不仅提供了高性能的 GPU 实例来加速模型训练,还推出了 Lambda 函数和 SageMaker 等服务,使得生成式 AI 模型的部署和运行更加简便和经济高效。我们从本次峰会上的亚马逊云科技的新发布中不难看出,生成式 AI 的未来已经到来。为了共同推动技术的下一步演进,我们需要更多像亚马逊云科技这样的厂商和所有用户一起努力,相互学习、互相促进、携手并进,为生成式 AI 技术的发展提供更多解决方案。更多关于亚马逊云科技在生成式AI方面的探索请点击链接查看。
2,541
1,690,786,826,647
InfoQ
14
迈向普罗大众的生成式 AI:如何为技术爆发创造条件
生成式 AI、大语言模型(LLM)无疑是 AI 行业当下的最大热点。自 2023 年初以来,ChatGPT、Stable Diffusion 等生成式 AI 技术凭借惊人的输出表现,在行业领域以及大众层面都引发了大量关注与应用热潮。2023 年 6 月 27 日 - 28 日,亚马逊云科技中国峰会在上海世博中心盛大召开。大会第一天,亚马逊云科技全球产品副总裁 Matt Wood 博士发表主题演讲,向与会者传达了亚马逊云科技对生成式 AI 技术的态度与愿景。Matt Wood 表示,生成式 AI 是整个技术行业的一项巨大突破,亚马逊云科技对此感到十分兴奋。为了让更多人更早从这一技术创新中受益,亚马逊云科技正在帮助企业、开发者乃至整个行业,利用亚马逊云科技积累的技术、资源和经验推动生成式 AI 技术向大众化发展。生成式 AI:行业离未来还有多远?生成式 AI 的基础是参数规模可达千亿级别的大型模型,基于大量文本、代码或图像数据集训练,需要数万甚至更多的 GPU,经过几千小时才能训练完成。大模型能够释放超越传统界限的创新,将人类推向未知的领域。用户可以使用大模型加速创意流程、加快总结排序过程,或创造全新的交互体验,乃至提升复杂决策的可靠性与效率等。然而,虽然生成式 AI 技术拥有广阔的应用前景,但它在普及的路上也面临着重重阻碍。大模型训练所需的庞大硬件资源、时间、人力成本投入,对于大多数企业而言都是沉重的负担。企业在训练模型时需要收集海量数据,而如何应对这些数据的法律授权问题,如何保障数据的安全性也会让很多企业的开发团队头痛不已。现阶段大模型的输出质量仍然是一个问题,包括 ChatGPT 在内的公开服务都在实践中表现出了输出质量不稳定、回答过分自信、对领域知识了解不足等问题。针对上述问题,亚马逊云科技在本次峰会上也提出了相应的解决方案。Matt Wood 博士在演讲中提到了亚马逊云科技涉足生成式 AI 领域研发的几项关键产品和服务:Amazon Bedrock、Amazon Titan 与 Amazon CodeWhisperer。这些产品与亚马逊云科技已有的 Amazon SageMaker、Amazon Aurora 等服务,以及亚马逊云科技自研的 Inferentia 和 Trainium 芯片结合,将为行业提供一条通向平民化的生成式 AI 普及路径。大模型平民化,亚马逊云科技的理想与方案Amazon Bedrock 是亚马逊云科技刚刚推出的全托管生成式 AI 服务,其允许用户通过 API 访问亚马逊云科技和第三方基础模型提供商的预训练基础模型。开发人员无需担忧底层基础架构,只需通过简单易用的 API,选择所需模型,就能输出合适的文本或图像内容。亚马逊云科技还提供了 Amazon Titian 模型库,让用户可以在安全、私有的环境下对模型进行优化和微调。最后,Amazon CodeWhisperer 工具则借助了生成式 AI 技术,帮助用户显著提升开发效率,快速获得生成式 AI 的收益,并降低大模型应用的门槛。Matt Wood 提到,从云计算开始,亚马逊云科技就一直在推动创新技术的民主化进程。在生成式 AI 领域,亚马逊云科技认为大模型民主化的关键就在于使用门槛较低、种类丰富、较为低廉的开发和应用成本,易于为行业和领域需求定制模型,同时安全可靠、无需担忧法律和隐私问题。为此,Amazon Bedrock 与 Amazon Titan 提供了一系列有着各自专长的基础模型,用户可以轻松将数据输入模型,通过无服务器的 API 部署应用。Amazon Bedrock 支持私有数据定制化,为开发人员提供了安全的开发环境。对于企业而言,Amazon Bedrock 为他们创造了一个非常合适的生成式 AI 起点和开发框架,他们可以将 Amazon Titan 模型库中的模型,快速调整为可以更好解决领域问题的行业模型,大幅降低了大模型的开发门槛。Amazon Bedrock 即用即付的费用模式,结合亚马逊云科技自研的高效能推理和训练芯片,则可以大幅降低大型模型训练前期的成本投入。Matt Wood 认为,这样的方式足够简便、经济实惠,可以同时适应大企业与中小创投企业的需求。值得一提的是,Amazon Bedrock 还能大幅降低大模型输出自信满满但错误回答的概率,且输出内容都经过了云端认真审核,确保健康无害。亚马逊云科技在训练 Amazon Titan 模型时,使用的数据也都经过了授权或使用许可,符合相关法律要求,企业可以放心地使用这些模型,无需担心潜在的隐私与法律问题。如今,已经有企业利用 Amazon Bedrock 开发了针对广告内容分发的行业模型,并取得了 50% 的成本节约、35% 的效率提升与 45% 的点击率提升。在可见的未来,会有大批行业企业意识到亚马逊云科技提供的生成式 AI 服务解决方案的优势,并通过这些方案享受到类似的收益。释放 AI 潜力:从前台实践到后台支撑在开发生成式 AI 基础框架服务的同时,亚马逊云科技也在关注如何利用生成式 AI 改善生产力,新推出的 Amazon CodeWhisperer 便是这样的工具。它可以为开发人员提供很好的帮助,用户通过自然语言指示系统生成他们所需的代码,大幅提升开发效率。Amazon CodeWhisperer 支持 15 种编程语言,未来还会加入更多选项。该工具能够从开发人员使用的源代码库中提取有用的资源来生成代码,从而更准确地把握需求。在内部对比中,CodeWhisperer 带来了 57% 的开发时间节省和 27% 的代码质量提升,效果十分明显,已经有包括瑞士军刀在内的企业,开始使用 Amazon CodeWhisperer 来改进现有的软件开发流程。亚马逊云科技认为,Amazon CodeWhisperer 还能帮助用户进一步降低大模型技术应用的门槛,让他们以更快的速度、更高的质量和更安全的方式开发生成式 AI 应用,为技术民主化的进程提供助力。Matt Wood 提到,生成式 AI 的本质是以前所未有的方式支持和处理数据。数据对于生成式 AI 而言是一切工作的起点,而亚马逊云科技对此的答案就是云原生的数据战略。如果说 Amazon CodeWhisperer 是生成式 AI 的前台应用,那么云原生的数据战略就是亚马逊云科技为企业提供的后台支撑。首先,亚马逊云科技提供了全球领先的全类别云数据库服务,提供低时延、低成本等优势。例如,元宇宙企业 Gevos 就使用了亚马逊云科技的云数据库作为核心负载的托管平台,显著提升了游戏开发的生产力。与此同时,用户还可以使用 Amazon EMR、Amazon Aurora 的全新 ETL 服务等工具组合,获得广泛而深入的数据分析能力。最后,Amazon DataZone 这样的数据管理服务可以帮助企业搭建数据治理框架,进而形成自己的数据战略。所有这些数据能力组合在一起,为亚马逊云科技的客户带来了可见的先发优势。当用户充分利用这些能力来结合诸如 Amazon SageMaker、Amazon Bedrock 等 AI 服务,就能够快速实现一些全新的应用,从现有的数据中挖掘出可观的价值。在用户推动数据与 AI 战略的过程中,亚马逊云科技还为企业设置了足够的安全护栏,帮助开发团队在免于安全与法律问题的同时获得更高的自由度,进行更广泛的实验。通过这些实验的成果,开发人员就能够整合自身所处行业的专业知识,推出效果令人满意的行业 AI 应用。写在最后本次亚马逊云科技中国峰会,标志着亚马逊云科技在生成式 AI 领域正式开始全面出击,向着这一技术全面普及的目标大踏步前进。Matt Wood 博士的演讲不仅全面回顾了亚马逊云科技的一系列创新产品和服务,也为企业如何利用这些服务搭建自己的生成式 AI 开发框架,并制定 AI 与数据战略提供了很好的建议。Matt Wood 总结说,在整个行业中,亚马逊云科技实现了以最快、最低成本以及最简单易行的方式提供生成式 AI 模型。最近,亚马逊云科技还投资了一亿美元来进一步促进生成式 AI 领域的创新和进步,其中的一项重要举措就是建立一个新的生成式 AI 创新中心。这个创新中心集结了亚马逊云科技在机器学习方面的科学家,与此同时也会积极地同客户合作,帮助他们构想、设计和推出新的生成式 AI 产品、服务和流程。Matt Wood 认为,随着越来越多的企业甚至个人经常使用这些生成式 AI 模型,它们的反馈与输出会越来越好。对于行业的未来,Matt Wood 博士也充满乐观:“我们正处于一项重大技术创新的发展早期和爆发前夜,我们所见的一切都只是起跑线,而非天花板。”
12,103
1,689,049,995,066
InfoQ
15
突发!美国将限制中国企业使用亚马逊、微软等云服务
据《路透社》援引知情人士消息称,拜登政府正准备限制中国企业使用美国云计算服务。 据悉,如果这项新规定被采纳,可能会要求亚马逊(Amazon)和微软(Microsoft)等美国云服务提供商在向中国客户提供使用先进人工智能芯片的云计算服务之前,必须获得美国政府的许可。 美国商务部预计将在未来几周内实施该限制政策,该政策是作为 10 月份推出的半导体出口管制政策扩展的一部分。此前,美国要求禁止英伟达A100等高端人工智能芯片出口至中国,但是企业仍然可以通过云计算的方式在AWS、微软Azure等平台上获取A100等人工智能芯片提供的算力。 最近,还有国外媒体报道称,美国和荷兰今夏将进一步限制芯片制造设备销售,荷兰正计划对该国最大企业阿斯麦(ASML)和其他公司的某些设备施加限制。 昨天,商务部、海关总署宣布,对镓、锗相关物项实施出口管制。由于这些金属材料广泛用于半导体制造,并且中国是市场上主要的供应商,因此此举也被解读为中国对欧美半导体管制政策的反击。 美国商务部、微软和亚马逊没有在工作时间之外立即回应置评请求。参考链接:https://www.reuters.com/technology/us-set-restrict-chinas-access-cloud-computing-wsj-2023-07-04/
7,717
1,688,465,745,686
InfoQ
16
AI 浪潮下,如何体现云服务的价值?
6 月 27 日至 28 日,2023 亚马逊云科技中国峰会(下文称“峰会”)于上海顺利召开。在本次峰会上,我们似乎找寻到了云计算领域竞争对手均日渐成熟,而亚马逊云科技却能一直保持领先地位的原因——过去的十几年里,亚马逊云科技“基于客户需求,快速进行产品更新与技术迭代”的 Day one 理念,一直不断地追求基础架构层面的创新。6 月 28 日上午,亚马逊云科技大中华区产品部总经理陈晓建进行了以《专注创新,摆脱基础架构束缚》为主题的演讲,在演讲中他分享了亚马逊云科技众多应用案例实践,阐明了亚马逊云科技在云基础架构方面的能力与创新及在全球布局方面做出的努力。一、企业亟需提高“用云”性价比随着企业数字化转型的需求增加、市场竞争的加剧,企业需要将业务和数据迁移到云上,以实现更高效的生产和服务,以适应市场的变化。所以我们也观察到越来越多的企业开始上云,然而上云的门槛并不低,需要考虑的东西非常多,比如技术能力、安全合规风险、成本费用、用户体验等,很多企业 CTO 表示,“想上云,但是有心而力不足”,大多企业目前提出了亟需降低云服务使用门槛、提高“用云”性价比的需求。为了提高企业云服务使用的性价比,亚马逊云科技为用户提供全面和深入的算力支持,提供包括 Intel、AMD、 英伟达和自研的 CPU 及加速芯片产品,这其中最值得一提的就是亚马逊云科技的四个自研芯片:Nitro、Graviton、Inferentia、Trainium。Nitro 是亚马逊云科技的第一款自研芯片产品,Nitro 主要有三个亮点:第一,做了高度轻量化的虚拟化;第二,实现网络层面的数据通信和存储的隔离;第三,实现了硬件级别的加密。有了 Nitro 之后,亚马逊云科技能够大大增强 EC2 整个实例应用的安全性,每个单元可以独立发展,也确保 EC2 所有实例运行的稳定。   因为 Nitro 的出现,亚马逊云科技大大降低了推出一个新 EC2 实例工作的复杂性,使得其保持一个非常快的增长的速度,进一步降低客户成本,从而帮助企业达到降本增效的目标。最新一代 Nitro V5 芯片相比之前的芯片性能有大幅的提升,包括更快的转发率,包括更低的延迟,每瓦特性能提升 40%。基于 ARM 架构的通用处理器芯片 Graviton 自 2018 年起,亚马逊云科技陆续推出三代 Graviton 服务器芯片,在去年的 re:lnvent 全球大会上,亚马逊云科技推出了自研的、基于 ARM 架构的高性能计算服务器 CPU 芯片 Graviton3E 芯片。纵观 Graviton 系列芯片的升级历程,Graviton3 计算性能提高 25%,浮点性能提高 2 倍,加密工作负载性能加快 2 倍;Graviton3E 特别关注向量计算的性能,跟前一代相比高 35%,这个性能提升对于像 HPC 高性能计算这样的应用来说是非常重要的。从具体案例来看,在 HPL(线性代数的测量工具)上 Graviton3E 性能提升 35%,在 GROMACS(分子运动)上性能提升 12%,在金融期权定价的工作负载上性能提升 30%;同时,Graviton3E 和类似的 X86 的 EC2 实例相比,Graviton3E 还能节省 60% 的能耗。如今 Graviton 系列芯片的优秀性能表现已经得到了充分验证,本届峰会上,陈晓建讲到的世界一级方程式锦标赛(下文简称“F1”)案例便充分体现了亚马逊云科技在算力资源、数据存储方面的能力。F1 利用 Graviton3 运行空气动力学模拟,可以用比以往快 70% 的速度开发新一代赛车,赛车压力损失可以从 50% 降低到 15% ,这使超车更容易,为车迷可以带来更多赛场的缠斗。此外,F1 通过 5000 多次单车和多车模拟,收集了超过 5.5 亿个数据点,帮助他们进行下一代赛车的优化。用 F1 团队表示,“Graviton3 让系统性能快了 40%,可以晚间运行模拟,第二天早上就能得出结果。”在机器学习技术探索赛道中,目前亚马逊云科技已经发展出三代不同的机器学习芯片。在训练方面,亚马逊云科技先后推出的加速芯片 Inferentia 和 Trainium 覆盖了训练和推理的场景,能为企业提供最佳的性价比。因此,许多领先的 生成式 AI 初创公司,例如 AI21 Labs、Hugging Face、Runway 和 Stability AI 都选择 Inferentia 和 Trainium 作为他们整个研发和应用的平台。在机器学习训练中,最重要的指标是训练效率和性价比。以 HuggingFace BERT 模型为例,基于加速芯片 Trainium 的 Trn1 实例的性能表现非常不错,从训练吞吐量角度看,其与同类型 GPU 实例相比,在单节点情况下,可实现 1.2 倍吞吐量的提升;在多节点情况下,实现 1.5 倍吞吐量的提升;从成本角度,单节点实现了 1.8 倍成本降低,集群的成本降低了 2.3 倍。随着模型越来越复杂,很多时候靠一个单点的计算训练是无法满足用户的需求,在很多时候都需要一个分布式的训练,比如需要非常大规模的集群,通过 Trainium 便可以构建一个超大的集群,它可以有 3 万张的 Trainium 芯片,使企业可以获得云上 6 ExaFlops 的超算级性能。这背后涉及很多创新,比如更快的 EFA 网络以及 PB 级别的无阻塞网络互联等。在机器学习推理中,推理往往要考虑延迟和吞吐,企业需要更高的吞吐力来带来更优的性价比,但是往往更高的吞吐率会带来更高延迟,所以开发者往往要在延迟和吞吐中权衡。Inferentia2 的设计就考虑到了兼顾吞吐和延迟的优化,如果拿一个基于 Inferentia2 的实例做测试,以自然语言处理领域常见的 BERT 模型为例,在 Inferentia2 上可实现高达 3 倍的吞吐提升,8.1 倍的延迟降低,4 倍的成本节约,使得企业开发者二者兼而有之。另外值得一提的是,Inferentia2 在大语言模型中的表现也非常的突出。拿一个 OPT 模型来做测试,中等规模的 OPT 模型 OPT-30B 为例,相较于通用的 EC2 GPU 实例,Inferentia2 可实现 65% 的吞吐量提升,推理成本可降低 52%;660 亿参数级别的 OPT-66B,通用 GPU 实例已经显示内存不足的情况下, 而在 Inferentia2 上还可以实现每秒 351 个 token 数的吞吐量。二、“AI 创新”使算力需求井喷、运维复杂性增加随着 AI 大模型的发展,大模型应用规模呈爆发式增长,加速了未来计算时代的来临,引发了新的生产力革命,但同时也导致算力供不应求,在这个过程中,算力直接反映了数据处理能力的强弱,用户不仅需要更高性价比硬件的解决方案,他们还需要云厂商提供高度弹性化的伸缩。与此同时,巨大算力的增加,使企业云运维成本大大增加,如何降低云运维的复杂性也是企业目前面临的难题。为了应对弹性算力的需求,亚马逊云科技提供超过 600 种不同的计算实例,处理器、存储、网络及各种周边服务均可与计算很好地结合,以积木的方式形成丰富的、灵活的计算实例资源,满足多种不同算力要求。要知道,从存储层面,当数据规模达到 PB、EB 级别时,数据的存储方式非常重要。用户的数据存储可分为热、温、冷、冻四种类型,每种类型的存储成本和性能不同,都需要平衡。所以,亚马逊云科技提供多达八种的存储级别,包括高性能计算、机器学习和通用计算等,企业根据需要选择最合理的存储级别。这其中最具有代表性的案例就是《阿凡达》的制作公司 Weta Digital,其在开发《阿凡达 1》时,他们自建了一个占地 10000 平方英尺的机房,构建 4000 台物理服务器和 35000 个处理器核心。然而,在开发《阿凡达 2 – 水之道》时,他们原有的集群已经无法满足需求。于是,亚马逊云科技为 Weta Digital 提供了从基础架构算力资源到云上制作堆栈、机器学习堆栈的一系列服务,Weta Digital 使用了包括 GPU 实例和 Spot 实例在内的多种计算实例以提供强大的伸缩性和优秀的性价比。然而对于亚马逊云科技来说,仅仅对企业进行多种多样的芯片和高伸缩性的资源供给是远远不够的,亚马逊云科技还为企业提供了 Serverless 来降低云运维的复杂性。亚马逊云科技在 2014 年发布 Lambda 以来,已经相继发布了 105 多种 Serverless 新技术,包括解决 Java 应用冷启动问题的 Lambda SnapStart、可视化编辑器 Application Composer 等。用户可以根据应用的类型来选择不同的弹性和计算颗粒度。全托管的 Serverless 使得开发者可以专注于业务开发,而不是基础设施的运维,也让系统能很容易的实现快速伸缩。为此,陈晓建在峰会上特别举了一个 Second Dinner 打造年度最佳移动游戏《Marvel Snap》的案例。《Marvel Snap》被 Second Dinner 工程副总裁称为“这是我们有史以来运营过的最顺利、最成功的游戏,正是因为我们选择了亚马逊云科技”。Second Dinner 采用亚马逊云科技的 Serverless 架构来开发、构建和运行 Marvel Snap 游戏。整个游戏没有使用任何 EC2 计算实例或容器,而是由事件驱动架构实现。这种方法不仅帮助用户节省成本、加快应用开发速度,还减少了安全方面的隐患。亚马逊云科技的 Serverless 后台架构为其提供了完整的功能、安全和资源管理。最终,Marvel Snap 在启动时没有出现任何后端错误事件,这在游戏行业是前所未有的。此外,Marvel Snap 的开发人员在系统非常早期的测试阶段,就已经通过 Serverless 实现了每分钟 14 万请求的压力测试,要知道,这在云主机的时代是无法实现的,而这在亚马逊云科技的帮助下实现了“不可能”。三、企业正在把握全球性机遇,追求多元化市场放眼全球企业上云现状,当下大多数企业只是简单地将原来的系统搬到云上,尽管降低了成本,但并没有完全开发出云上的潜力。搬到云上并不算是真正的“上云”,最终还要让企业系统和业务在云上跑起来才是硬道理。很多企业渐渐的也意识到了这个问题,所以来自全球各地的企业上云需求和企业业务出海热对云厂商提出了更高要求,这就不仅需要云厂商的业务服务范围覆盖全球,同时还需要能够快速进行部署、高可用的服务及相关业务对于各个国家和地区的业务合规需求。陈晓建在本届峰会上表示,全球布局已经成为很多企业的战略,然而云厂商想要完成全球布局一定需要满足企业对云服务的三个要求,即“无处不在的云服务”、“快速部署稳定系统”、“提供安全可靠的全球基础设施”,他通过亚马逊云科技已经在过去验证过的成功案例举证来验证自己的观点。关于第一个要求“无处不在的云服务”,让创新快速抵达每一个角落是亚马逊云科技的使命。陈晓建拿 OPPO 举例,OPPO 的手机业务遍布全球,拥有数百个云上 VPC 和本地资源需要连接,由于不同国家有不同的安全合规要求,这增加了全球组网的难度,OPPO 希望全球业务独立运作,实现区域合规自治,同时拥有统一的管理。于是 OPPO 选择通过使用亚马逊云科技的 CloudWAN 广域网服务,通过本地网络提供商连接到亚马逊云科技,并通过中央控制面板和网络策略在几分钟内建立覆盖全球的专用网络。同时 OPPO 借助完整的网络视图,可以直观地了解整个网络的运行状况、安全和性能。另外值得一提的一个案例是,AXIOM 使用 Amazon SnowCone 来支持太空实验,成功环绕地球 240 次。目前亚马逊云科技的技术已经可以在太空这种极端环境中收集、处理数据,并做出实时决策。关于第二个要求“快速部署稳定系统”,亚马逊云科技每个区域都由多个可用区组成,单一可用区的故障会影响其他可用区的业务,但通过解耦控制面与数据面,可以提高整体稳定性。蜂窝架构将系统分割成微小、独立、隔离的单元,有效控制故障影响。随机分片进一步优化蜂窝架构,通过随机分配客户访问,使单个单元故障不影响整个系统。我们还通过运营模型和部署机制保证云的弹性,并使用 COE 纠错流程防止问题再次发生。拿中集集团来举例,中集集团使用亚马逊云科技的服务实现了 82 个企业级应用的上线,包括 SAP、仓储系统、CRM、SRM 和费控系统等,并实现了 20% 的成本节约。原 SAP 系统存在延迟问题,需容灾,造成资源占用。亚马逊云科技为其设计了新一代 SAP 架构,应用和数据库在同一可用区,延迟极低至 0.1 毫秒以内;容灾方面,RPO 为 0,RTO 不超 15 分钟,资源成本下降 18.7%。这套全新的 SAP 架构让中集集团获得了更强大的风险控制能力,业务连续性得到保证。关于第三个要求“提供安全可靠的全球基础设施”,亚马逊云科技几乎满足全球所有国家和地区的合法合规的要求。比如生物医疗、联邦认证以及金融等行业,又比如 HIPAA、FedRAMP 和 PCI 这样高标准的合规要求。拿全球电子支付终端领先供应商 PAX 百富来举例,其在迁移多个重要 SaaS 应用至云上时,发现多供应商的安全服务标准不统一,无法满足支付安全要求,且难以集成和管理。亚马逊云科技便为其提供了安全合规服务(如 Amazon CloudHSM、Security Hub)以帮其保障用户支付信息安全和业务安全,满足 PCI 合规要求,并支持国际业务拓展。使用亚马逊云科技的产品使百富的产品交付周期缩短 40%,降低架构搭建及运维压力,节省 20% 成本。陈晓建提到的以上三个方面,对企业用云需求进行了完整概括,而这也是云厂商帮助企业降低用云门槛、实现云基础架构创新的重要发展方向。云厂商需要从区域覆盖、安全和技术成本等方面进行全维度的升级,提供更好的云计算产品和服务,来满足企业的“既要、又要”。四、云厂商需要专注“创新”,摆脱基础架构束缚目前企业愈加难以满足日益增长的客户对快速、可靠和安全服务的期望,在提高自身系统的处理能力和存储能力的过程中,面对着巨大的算力需求和成本过高的可伸缩且安全的 IT 基础架构。云计算基础设施的稳定和可靠,是云厂商的核心竞争力。然而,云计算作为数字产业的新基建,面临着行业高速增长的机遇,同时也在诸多领域存在着挑战,比如 AI 就是一次巨大的浪潮,在全球范围内都带来了巨大的市场机遇和发展潜力,但目前云基础架构还面临着把数据留在本地、延迟和带宽问题和连接稳健性等问题。如果上升到云计算整个领域的发展的探讨,站在终端用户角度去看,在使用产品的过程中,用户实际更关注的是使用体验,当前基础设施要满足用户顺畅的体验需求,即算力喷发下产生的需求,需要在数据存储、数据节点通信及指令调度等层面进行一定的创新;站在企业开发者的角度去看,高效开发、低成本运维是开发者最关注的问题,在云基础架构体系中,工具链的使用、性能调优方式、性能工具的创新是未来主要发展点。此外服务的部署、管理、跟踪、调试等各个环节管理和运维工具的创新,以及企业如何降低运营成本也云计算厂商持续研究并创新的课题。所以,未来只有软硬一体的生态化发展,才能帮助行业更好地完善基础设施,从而为企业数字化转型、降本增效的大目标实现保驾护航,而这一点亚马逊云科技做到了。亚马逊云科技的网络安全芯片 Nitro 系列、服务器芯片 Graviton 系列、人工智能(AI)推理芯片 Inferentia、AI 训练芯片 Trainium 系列的四大自研芯片业务线,从高性能计算、至广至深的云计算实例选择、存储、网络安全、可靠等方面都显示出了绝对的性价比及绝对优秀的能力。同时,我们从亚马逊云科技的每一个实例与案例中也可以看到,亚马逊云科技这些年来从技术上做的创新与帮助全球范围内的客户完成技术创新,为的就是突破当下云基础架构的“束缚”,不断探索新的云计算技术和应用模式,实现业务创新和发展,这为行业内的其他厂商起到了“带头羊”作用。希望亚马逊云科技在未来可以与全球更多企业共同推动云计算的发展,为行业发展不断注入新动力。
6,194
1,688,017,487,049
InfoQ
17
亚马逊云科技开源PBAC领域特定语言Cedar
亚马逊云科技开源了他们用来定义策略访问权限的领域特定语言Cedar。Cedar已集成在Amazon Verified Permissions和AWS Verified Access中,还可以通过SDK和语言规范将Cedar直接集成到应用程序中。Cedar可以在应用程序代码之外定义访问策略,这种分离使得它们能够独立地进行编写、分析和审计。Cedar支持基于角色的访问控制(RBAC)和基于属性的访问控制(ABAC)。SDK可用于编写和验证策略和授权访问请求。Cedar是用Rust编写的,但同时提供了Rust crate和Java包,可以在Java中使用Cedar。可以通过调用Cedar授权引擎来验证请求是否被授权。请求信息会被转换为Cedar请求并传给Cedar授权引擎。下面是在Rust中使用Cedar的示例:pub fn is_authorized( &self, principal: impl AsRef<EntityUid>, action: impl AsRef<EntityUid>, resource: impl AsRef<EntityUid>, ) -> Result<()> { let es = self.entities.as_entities(); let q = Request::new( Some(principal.as_ref().clone().into()), Some(action.as_ref().clone().into()), Some(resource.as_ref().clone().into()), Context::empty(), ); info!( "is_authorized request: principal: {}, action: {}, resource: {}", principal.as_ref(), action.as_ref(), resource.as_ref() ); let response = self.authorizer.is_authorized(&q, &self.policies, &es); info!("Auth response: {:?}", response); match response.decision() { Decision::Allow => Ok(()), Decision::Deny => Err(Error::AuthDenied(response.diagnostics().clone())), } }可以使用self.authorizer.is_authorized(&q, &self.policies, &es)self.authorizer来调用Cedar授权引擎。参数包括访问请求、Cedar策略和实体集合。访问请求包含了所需的主体、操作和资源信息。根据具体的分析结果,授权引擎将返回Decision::Allow或Decision::Deny。策略也可以通过SDK来创建。在下面的Java示例中,我们创建了一个策略,允许主体Alice对Vacation资源的子资源执行View_Photo操作:private Set<Policy> buildPolicySlice() { Set<Policy> ps = new HashSet<>(); String fullPolicy = "permit(principal == User::\"Alice\", action == Action::\"View_Photo\", resource in Album::\"Vacation\");"; ps.add(new Policy(fullPolicy, "p1")); return ps; }在Java中,可以调用isAuthorized方法来查询授权情况:public boolean sampleMethod() throws AuthException { AuthorizationEngine ae = new WrapperAuthorizationEngine(); AuthorizationQuery q = new AuthorizationQuery("User::\"Alice\"", "Action::\"View_Photo\"", "Photo::\"pic01\""); return ae.isAuthorized(q, buildSlice()).isAllowed(); }在亚马逊云科技宣布开源Cedar之后,Permit.io发布了Cedar-Agent,一个HTTP服务器,作为基于Cedar的策略的策略存储和数据存储。策略存储支持创建、检索、更新和删除策略,数据存储支持在内存中存储应用程序数据。Cedar-Agent可以针对存储的数据执行授权检查,这些检查可以基于传入的请求进行。HackerNews上的一位用户dadadad100评论说,他们看到Cedar可能填补了应用程序授权领域的空白:Cedar介于OPA(基于数据的搜索方法)和Zanzibar之间。目前还不清楚哪一方会胜出,但不管怎样,现在这个问题开始引起人们的关注了。其他用户,如Oxbadcafebee,对亚马逊云科技没有为Open Policy Agent提供支持表示失望。Cedar采用了Apache License 2.0,托管在GitHub上。更多细节可以在最近的亚马逊云科技的博客中找到,或者加入Cedar Policy Slack频道。原文链接:https://www.infoq.com/news/2023/06/aws-cedar-open-source/相关阅读:亚马逊云科技 Lambda引入响应有效负载流从微服务转为单体架构、成本降低 90%,亚马逊内部案例引发轰动!CTO:莫慌,要持开放心态
2,699
1,687,737,600,813
InfoQ
18
云端安全由繁到简,云安全文化护航下的“业务创新”进入新局面? | 亚马逊云科技 re:Inforce 2023 全球大会
463MB,这是 IDC 对 2025 年人类每秒生成数据量的预测,而在 2020 年这个数字还只有 1.7MB/ 秒。要知道,数据的指数级增长是当今世界最重要的趋势之一,而充分利用快速增长的数据实现创新和业务成长,就是企业数字化转型的主要任务。Gartner 最近的一份报告显示,89% 的企业董事表示,数字化转型已经嵌入了这些企业的业务增长战略。然而,只有 35% 的董事认为他们已经或正在实现转型目标。数字化愿景与现实存在的差距困扰着诸多企业,但造成这种差距的一个重要因素却一直被很多管理者所忽视,那就是企业未能建立应有的数字安全与合规体系。应用迭代的速度加快、数据快速膨胀、企业云原生道路上遭遇的种种困境,与数字安全部门有限的人力与资源约束叠加在一起,使今天的企业面临着前所未有的信息安全挑战。这种挑战增加了数据泄露、数据篡改、DDoS、恶意软件(包括勒索软件)、零日攻击等威胁的风险和影响,进而为企业的数字化转型路径埋下了一系列隐患。另一方面,各国日趋严格的数据合规政策给企业施加了一系列约束条件,试图拓展全球业务的企业必须在这一领域投入更多资源,避免自身业务遭受冲击。遗憾的是,企业管理者往往采用被动、消极的态度应对这些挑战,安全与合规方面的投入经常被认为是与业务争夺资源的成本负担。直到最近,这样的局面才开始出现了转机。《财富》1000 强 CISO(首席信息安全官)社区的一项近期研究报告说,58% 的 CISO 认同将信息安全重新定位为业务起点和基础的观点,并尝试将这种观点向领导层传达。具体而言,这种全新的视角认为安全性可以提升企业的竞争力、提升企业进入新市场的信心、增加收入、降低风险、保持业务连续性和改善企业信任关系。换句话说,信息安全与合规工作并不会挤占业务资源,相反,这些工作本身就是业务的一部分,是企业降本增效、提升投资回报率的必要工具。作为全球领先的云服务提供商,亚马逊云科技一直高度重视安全与合规工作,也非常认同上述观点,并致力于通过一系列产品、服务为企业提供安全合规这一关键业务支点。在刚刚结束的 re:Inforce 2023 全球大会(下文称“大会”)上,亚马逊云科技就发布了多项创新成果,为全球企业搭建和完善了安全合规性解决方案,并向世界展示了亚马逊云端安全文化如何帮助企业实现数字化转型目标。一、利用“基础设施的安全合规性”+“云安全文化”为企业构筑护城河在数据量指数级增长的背景下,今天的企业愈加依赖云端来存储、分析和处理海量数据资源。正因如此,云端安全性对企业业务的重要性与日俱增。一旦云端数据遭遇泄漏、恶意利用、欺诈等风险,将对企业业务甚至生存造成重大威胁,还有可能造成严重的社会负面影响。正因如此,中、美和欧盟都出台了严格的云端数据监管法案,要求云服务提供商与企业高度重视云安全性,采取有效措施应对日益增长的安全挑战。显然,在搭建云安全防线的过程中,云服务提供商的安全文化是非常重要的。只有将安全合规的理念贯彻到云端基础设施的每一个角落,才能充分保障企业数据,显著降低风险和减少损失。云服务商不仅有责任为企业提供安全屏障,同时也有义务帮助企业建立完善的安全合规体系,并尽可能降低相关工作的成本投入。只有这样,企业才能放心将敏感数据保存在云端,并利用广泛的云端应用来挖掘数据潜力,为业务增长注入动能。在本次大会上,亚马逊云科技再次强调了自身的云安全文化,并展示了诸多相关的技术细节和实现,亚马逊云科技向大家证明了自己作为云服务提供商同样拥有顶级的安全合规能力,可以为企业业务构筑宽广的护城河。亚马逊云科技的安全性始于安全的全球云基础设施,企业无论规模大小均可获得一致的云安全体验。展开来讲就是,亚马逊云科技的基础设施不仅根据安全最佳实践和最高标准来建立和管理,而且还考虑了云的独特需求,采用冗余和分层控制、持续验证和测试,大量使用自动化,确保底层基础设施得到 7X24 小时全天候的监控和保护,以满足跨国银行等高敏感组织的安全需求。此外,亚马逊云科技还支持 143 项安全标准与合规性认证,帮助企业满足全球几乎所有监管机构的合规要求。亚马逊云科技管理和控制从主机操作系统和虚拟化层到服务运行设施的物理安全的组件,同时为企业提供了广泛的最佳实践、加密工具与其他指导,帮助企业完善应用层面的安全措施。值得一提的是,在本次大会上,亚马逊云科技发布了三项服务,其一是易用的 Amazon EC2 Instance Connect Endpoint,为用户提供了严格的身份和资源授权验证;其二是 Amazon Inspector Code Scans For Lambda,它可以扩大 Inspector 的扫描范围,提升云端检测和处理安全漏洞的能力;其三是 Amazon Inspector SBOM Export,能够帮助企业自动并集中管理软件的构成元素清单,便于处理安全问题、许可证合规性并提升供应链透明度。从第三方视角看,这些服务进一步增强了亚马逊云基础设施的安全合规水平,并让企业能够更好地利用云端能力改善应用与终端层面的安全合规性、贯彻企业内部流程的安全合规文化。二、“自动化、智能化”是企业 IT 安全技术应用的大势所趋当下是一个 AI 时代,生成式 AI 与大语言模型(LLM)技术正在经历爆发式增长的过程,在各个领域都展示出了巨大的应用潜力,云端安全行业也不例外。正如亚马逊云科技首席安全官 CJ Moses 在本次大会的演讲中提到的那样,“生成式 AI 与 LLM 可以增强和补充现有的安全工具与流程,对安全团队产生重大影响。”在过去,很多安全工作都需要密集的人力投入,未知的安全威胁、漏洞和突发事件往往依赖安全工程师的经验与技能才能妥善处理。但这样的工作流难以大规模扩展,面对指数级增长的威胁迟早力不从心。相比之下,AI/ML 技术能够将安全人员的注意力从简单重复劳动中解放出来,使安全工程师可以专注解决威胁本身,而不是浪费大量时间寻找和辨认安全问题。以上个月推出的亚马逊安全湖为例,该服务能够自动收集、合并和分析来自 80 多个来源的安全数据,使安全团队更容易发现威胁并更快地响应安全事件。本次大会上新发布的 Amazon CodeGuru Security 则能自动检测违反安全策略的行为与漏洞,提供方案建议并生成健康状况指标。在这一工具的帮助下,企业软件开发团队就能以更少的成本构筑更安全的代码。此外,企业的安全团队还能利用新发布的 Findings Groups for Amazon Detective 工具,通过机器学习和图技术关联数以千计的离散安全事件,分析事件之间的关联性,快速定位问题根因。企业开发团队运用 Amazon SageMaker 开发人工智能与机器学习应用的过程中,Amazon SageMaker 提供的原生安全功能和偏差检测功能是非常有价值的伙伴。例如,开发人员能够使用 Amazon SageMaker 模型卡审查机器学习生命周期中的治理与合规信息,并结合其他原生工具确保 AI 产品符合监管要求。此外,亚马逊云科技每天都需要处理全球海量的 API 请求和日志记录,追踪事件达数十亿条,即 IAM 服务可以帮助云中每秒 10 亿次 API 调用的访问安全。这意味着亚马逊云科技能够检测到更多的安全威胁,并在快速响应单个企业异常情形的过程中生成经验,将这些经验部署到企业使用的自动化服务中,让其他用户免受同样的威胁或攻击。企业应对的数据量越大、业务范围越广,出现潜在安全漏洞与合规缺陷的几率也就越高。自动化云安全服务的本质就是利用智能技术填补每一个潜在攻击面、完善每一处合规工作,通过云服务商庞大的云端资源补足企业的安全合规能力。亚马逊云科技正在这一路径上稳步前进,并高度人工智能创新为行业创造的全新机遇。未来,预计会有更多亚马逊云科技服务利用 LLM 等 AI 技术,帮助安全人员以更少的精力应对更复杂的安全合规挑战。三、零信任方法巩固基础,安全方案需要社区伙伴共建”零信任方法”是安全领域的重要概念,其核心思想是不信任接入网络的任何人,每一次连接都必须经过明确验证才能获得许可。考虑到今天的企业用户可能在各种位置与环境中,通过云端接入敏感数据,只有零信任方法才能提供足够的保护,使企业有信心面对更加严峻的安全态势。第三方服务接入企业应用时同样需要零信任架构来预防威胁,一直以来,亚马逊云科技持续强调零信任方法,帮助企业完善应用的权限模型,这样也能更好地对接第三方企业的安全产品与服务。例如,新发布的 Amazon Verified Permissions 就能帮助开发者在应用中落地零信任架构,该工具与不需要 VPN 的零信任网络访问工具 Amaozn Verified Access 结合,使企业可以快速在业务中部署零信任架构,并在这一架构基础上充分利用合作伙伴的能力建设和完善安全合规体系。充满活力的社区是现代软件产业持续繁荣的动力来源。亚马逊云科技与超过十万合作伙伴的共同努力,为企业提供了丰富、可高度定制的安全方案选项,而零信任方法的应用,则让企业能够像信任亚马逊云基础设施一样信任第三方服务商。如此一来,即便是对安全性高度敏感的企业,也能充分利用亚马逊云科技合作伙伴网络加速业务创新和发展。前几个月,亚马逊云科技与其他网络安全领导者一起宣布发布开放网络安全架构框架(OCSF)项目。该架构项目旨在标准化和规范化网络安全工具生成的数据,在该项目中,各企业和安全工具供应商们可以更密切地协同安全工作,旨在提供一个可定制且功能强大的架构,组织可开箱即用,也可以个性化定制。在本次大会上,亚马逊云科技发布的 Amazon Security Lake 便可将传入的安全数据加以转换,使之符合开放网络安全架构框架要求的格式 (OCSF),可以让安全团队更轻松地自动收集、组合和分析来自亚马逊云科技、安全合作伙伴和分析服务提供商等 80 多个来源的安全数据。要知道,由于所处行业、地域、发展阶段、资源约束等因素的不同,每一家企业都有自己独特的安全合规需求,只有定制化的产品及服务才能最大程度上适配企业的自身状况。例如,正在开发欧洲市场的出海游戏企业可能更重视 GDPR 法规的数据隐私要求,而刚刚升级到分布式架构的金融机构则更多担忧新架构潜在的漏洞造成的业务中断危险。显然,单纯依靠某一家云服务厂商来满足数以百万计企业的差异化需求是非常困难的。合理的实践是构建一个安全社区,依靠众多合作伙伴的力量创造强大而完善的解决方案矩阵。亚马逊云科技很早就意识到了这一点,并建设了一个合作伙伴网络。发展到今天,这一“网络”已经有了来自全球 150 多个国家的 10 万多家合作伙伴。在亚马逊云科技自身提供的 300 多项安全、合规和治理服务基础上,这些合作伙伴为 Amazon Marketplace 充实了数千项安全解决方案。例如,普华永道就携手亚马逊云科技,针对欧盟 GDPR、美国 HIPAA 等法规提供了健康医疗领域的安全合规服务,赋能医药企业安全出海。值得一提的是,本次大会发布的 AWS Built-in Partner Solutions 是亚马逊云科技的合作伙伴网络的最新补充工具。用户使用该工具能够查找、购买和部署经过亚马逊云科技验证,与亚马逊云科技基础服务集成的合作伙伴软件,进一步为企业量身打造最佳的安全合规方案。该工具包含一个模块化代码库(MCR),使工程师部署合作伙伴方案的时间从原来的数周甚至数月缩短到一天之内,大幅简化了云端第三方服务的集成流程,为企业提供了与亚马逊自有服务一致的使用体验。四、“出海合规”到“数据保护”,云端安全是业务成功的基础随着全球化程度不断深入,世界各地的企业纷纷踏上出海之路,希望赢得更多地区用户的青睐,为业务增长注入源源不断的动力。然而,出海企业踏入陌生的市场环境时,不同的监管政策、技术环境、市场文化给业务和技术部门带来了诸多难题,企业希望全球性的云服务厂商能够帮助他们应对跨境数据安全、合规与业务运营等挑战。令人满意的是,很多企业在业务全球化之路上找到了亚马逊云科技,并在后者的高水平云安全合规水平的帮助下达成了业务出海的预期目标。例如,全球最大的智能设备厂商之一 vivo 近年来快速扩张国际业务,希望达成统一决策、全球一盘棋、精准营销的目标,将营销经验沉淀为平台能力。为此,vivo 选择使用亚马逊云来构建系统,充分继承亚马逊在云基础架构层面的安全性和合规性,同时借助亚马逊云提供的各种安全工具进行构建,有效支撑全球营销业务。网络硬件设施领导企业 TP-Link 的经验与 vivo 类似。得益于亚马逊云科技全球覆盖的基础设施资源、全面的数据安全与合规保障能力,TP-Link 快速搭建起了跨国业务平台,实现全球部署,让海外用户能够就近、高效地获得优质服务,持续优化用户体验,建立品牌声誉。通过亚马逊云科技部署云管平台,TP-Link 可以无缝满足其全球业务覆盖范围中各个国家 / 地区的数据安全合规要求,确保团队可以将精力充分投入产品服务创新之中,加速价值兑现。数据保护与跨境传输和访问是中国公司出海过程中最关心的议题。OPPO 与 TCL 作为出海企业的佼佼者,前者使用了 Amazon CloudHSM 构建了自己独特的数据保护体系,可根据业务随时扩展加密机硬件容量,并利用亚马逊云科技的托管服务自动执行耗时的管理任务;后者则选择亚马逊云及合作伙伴方案。高效,低成本解决云上数据跨境的挑战,为业务海外发展保驾护航。另一家面向全球玩家的元宇宙游戏公司 GVERSE 同样高度重视跨境数据的安全稳定性。亚马逊云科技为该公司部署了 Amazon GuardDuty RDS Protection、Amazon Inspector、Amazon Security Hub 和 Amazon WAF 等安全产品,从基础设施保护等方面确保用户数据安全,有效消除了潜在风险,让企业对所有业务运行在亚马逊云科技上充满信心。只有高度重视云端安全合规性,才能充分满足企业需求,将云安全合规构筑为支撑企业业务成长的重要基石。正如 CJ Moses 在本次大会上的演讲主题所言:"安全是我们的首要优先级"——亚马逊云科技充分理解云端安全合规性对企业的重要意义,并在通过诸多产品、服务和创新为企业打造业务的这一全新起点。诚然,企业在数字化转型过程中需要增加安全投资、更加重视云端安全合规体系建设,但这并不意味着企业需要为此背负沉重的负担,在亚马逊云科技的帮助下,企业完全可以凭借较少的投入快速建设云端安全护城河。我们可以预测到,在未来,更多企业将利用亚马逊云科技的云安全能力,有效对抗安全风险并满足复杂的合规要求,实现降本增效与业务增长目标。
4,288
1,687,161,616,025
InfoQ
19
攻略| 一场你不可错过的夏日技术盛宴!
6 月 27 日 - 28 日,2023 亚马逊云科技中国峰会即将在上海·世博中心落地!(还没报名的开发者,文末可以扫码抢位👇🏻)本届峰会,将有百余位重磅嘉宾,一同奉上数百个前沿技术话题和业内最佳实践。技术大咖、顶级社区技术专家、亚马逊云科技 Hero 们带你全面感受最浓郁的 Geek 氛围。更有 Hero 白金讲堂、GameDay (LoL Esports Edition)、DeepRacer 挑战赛等活动,等你来解锁。此外,亚马逊云科技全球知名的 Dev Lounge(开发者会客厅)也将重磅回归!本次开发者会客厅设置了「开发者互动区」、「Build 吧」、「开发者大讲堂」和「开发者市集」四大板块,你可以在这里感受轻松、开放、多元的技术学习和交流氛围。面对这样一场技术干货和趣味活动齐飞的技术峰会,怎样才能在两天中收获最多?亚麻云的开发者会客厅,最佳解锁姿势是什么?现在,InfoQ 为你送上一份攻略,建议收藏~路线一:创新科技的“构建之旅”如果你厌倦了千篇一律的技术展区,在开发者会客厅的「开发者互动区」和「Build 吧」板块,你可以一站式打卡亚马逊云科技的五个互动演示项目。在「Build 吧」,你可以和亚马逊云科技的资深架构师面对面交流,在用最先进的云端技术构建应用的同时,收获从学到用的全链路体验,真切感受创新技术为开发者带来的技术红利。 1.Serverlesspresso 无服务器咖啡工坊传说中“体验地球最 IN 的咖啡点单”——Serverlesspresso 是一个多租户事件驱动的无服务器应用程序,2022 年在全球各大技术活动上已经累计处理了 2 万多个订单。终于,火遍全球的 Serverlesspresso 无服务器咖啡工坊来到了亚马逊云科技的开发者会客厅!你可以直接通过代码拖拽的方式,体验 Serverless 架构带来的开发效率。顺利完成代码复现的开发者,将直接获得一张免费咖啡券,享受⼀杯由 Serverless 应用下单的咖啡。 2.Amazon CodeWhispererAI 编程工具到底是摸鱼利器,还是打工人噩梦?近期重磅发布的 AI 编程工具 Amazon CodeWhisperer 已吸引了无数开发者的关注。在「开发者会客厅」的 Amazon CodeWhisperer 体验区,你可以现场体验,快速掌握 AI 编程方法。现场限量开放 Amazon CodeWhisperer 账号。 3.SQL Chat通过 SQL 语句操作数据库,想必是大多数开发者的工作日常。怎样用自然语言与数据库交互?大会将告诉你如何基于亚马逊云科技的云服务架构来实现。除此之外,你还能现场体验亚麻云不久前发布的 Amazon CodeCatalyst,了解在全云端,如何使用 CI/CD 工具更高效地协作处理代码,构建、测试和部署应用程序,实现开发全生命周期覆盖;或者利用 Amazon SageMaker 轻松构建和部署⾃⼰的机器学习模型,实现更⾼效的数据分析和预测,领略 AI 技术的魅⼒......在「动手实验室」板块,你可以在 6 月 27 日体验《助力机器学习管道构建》等 4 门精品课程,还可以在 6 月 28 日学习《无服务器计算和 Amazon Lambda 介绍》等 4 个主题。路线二:社区共融的“成长之旅” 1. 开发者市集在这条线路中,你将真切感受到亚马逊云科技社区的包容与开放。在「开发者市集」,你可以一次性链接 Java、Rust、Apache ShardingSphere、CCF 中国计算机学会等耳熟能详的技术社区。在这里,你可以深入了解技术社区对于技术多样性和包容性的意义,在每个社区的市集上体验到不同类型的互动游戏,学习如何与亚马逊云科技全球社区一起成长。亚马逊云科技开发者社区(Developer Portal)、亚马逊云科技 User Group 也将为大家带来技术实践分析和技术社区发展的话题。在这里,你可以深入了解亚麻云的中国开发者社区,以及遍布全球、分布在中国 10 个城市的 User Group 社区,结识志同道合的技术伙伴。 2. 开发者大讲堂6 月 27 日下午,围绕“工程师文化”主题,你将在现场听到开发者成长与职业发展、可观测性、开源文化等方面的内容。除此之外,15:30-16:10,Linux Foundation AI & Data 董事会主席 (2022-2023) 堵俊平、 PingCAP 联合创始人兼 CTO 黄东旭、SphereEx 联合创始人 & CTO 潘娟、Bytebase 联合创始⼈兼 CEO 陈天舟和 CSDN CTO 陈玉龙,将联袂奉上话题为《开发者如何利用开源挖掘数据价值》的精彩圆桌。欢迎线下围观,与他们现场互动!6 月 28 日下午,围绕“社区文化”主题,你将解锁更多技术社区运营、技术社区建设、技术人在社区中如何成长的话题。此外,在 AIGC 热潮下,我们邀请了 Jina AI 的联合创始人兼 CTO 王楠带来相关主题演讲,同时举办 Build with AIGC Hackathon 应用挑战赛的启动仪式。在「开发者大讲堂」,我们欢迎所有开发者加入,一起畅聊当下与未来! 3. 亚马逊云科技 Hero 白金讲堂这一板块将聚焦开发者关心的技术前沿热点,由亚麻云的全球英雄专家,在开源技术的安全性和可靠性、大模型与思维链,DevOps 工具集应用,Web 高效开发中的 Serverless 实践等多个技术领域分享自己的最新实践与心得。 4. 备考训练营希望学习云计算专业知识,想备考全球含金量最高的云计算认证 ?这次峰会特别为你设置了两个备考训练营:AWS Certified 云从业者认证、AWS Certified 解决方案结构师助理级认证训练营。大家可以在这里参与备考课程,现场不仅有专家帮你提前划重点,课堂中积极与讲师互动,还有机会获得免费考试资格!路线三:速度 X 激情的“挑战之旅”除了干货满满的技术内容与丰富的动手实操,大会还特别为所有到场的开发者们准备了一场“速度与激情”的挑战之旅。沿着这条线路,你可以获得电子竞技般的沉浸式体验;你可以解锁硬核 AI 技能,感受自动驾驶的魅力;你可以收获基于开源算法复原魔方的奇妙体验......来现场,通过进阶挑战风暴——你会在一次次发起挑战的过程中,感受全新的技术之美! 1.GameDay在游戏挑战中,你将作为 Demacia Data 开发团队的成员,使用《英雄联盟 (League of Legends)》电子竞技大赛的真实比赛数据,为 Riot Games 构建战队胜率的预测模型。在 90 分钟内完成挑战并获得积分,获胜团队将获得定制礼品和奖杯! 2.Amazon DeepRacerAmazon DeepRacer 是亚马逊云科技推出的 1/18 比例自动驾驶赛车。你可以通过这种有趣的方式,学习掌握人工智能知识,0 门槛构建自己的强化学习模型。6 月 27 日,围观“十年专属行动”现场收官总决赛;6 月 28 日,在现场见证众多开发者用 AI 飙车,实力对决! 3. 快手魔方挑战赛基于 Al Solution Kit 和开源算法的魔方复原器,完成魔方复原,工作人员将记录你还原魔方的时间。现场将实时显示「快手魔方挑战赛」排行榜,前 3 名将获得亚麻云准备的惊喜奖品! 4.Jam 挑战Jam 挑战是一项基于团队合作的游戏挑战,通过解决模拟真实案例的挑战来测试你的云计算技能。玩家要在限定时间内通过在亚马逊云科技管理控制台沙盒中的模拟用例来进行部署,解决不同难易度的问题来获得分数提升排名,最终获得胜利。获得冠军的团队,将收获每人价值 1,000 元的旅游基金大奖!相约上海,抓紧报名抢位!6 月 27 日 -28 日,这场开发者狂欢 Party 即将开启!无论你是工作已久的技术大牛,还是初入职场的技术小白——2023 亚马逊云科技中国峰会都将满足你的一切好奇。以上只是 2023 亚马逊云科技中国峰会的冰山一角,期待你也能和小编一起到现场感受这场夏日技术盛会!报名通道现已开启👇🏻
4,186
1,686,898,549,275
InfoQ
End of preview. Expand in Data Studio
README.md exists but content is empty.
Downloads last month
29