JzJd/post-sg huggingface dataset:
智能体、多模态化大势所趋，探大模型的未来！
2023-10-18T10:48:34+08:00


导语 | 今年以来，以 ChatGPT 为代表的生成式 AI，在最具挑战性的自然语言处理领域实现革命性突破，在行业掀起新一轮发展热潮。开源大模型正成为人工智能领域的新潮流，AI 大模型在未来将走向何方？今天，我们特邀了丁香园 CTO、腾讯云 TVP 范凯老师，他将为我们带来关于 AI 大模型的独到思考与精彩观点。作者简介范凯，丁香园 CTO，腾讯云 TVP，2003 年创办 JavaEye 技术网站，是国内最早推广开源软件 Hibernate，Spring 的开发者之一。2010 年 JavaEye 网站成为国内第二大开发者社区，同年被第一大开发者社区 CSDN 并购；2010-2013 年担任 CSDN CTO，推动中国开发者的移动和云计算技术的普及。2015 年至今，担任丁香园 CTO，组建了丁香园大数据和医疗知识图谱团队。从 ChatGPT 推出到今天，还不到一年的时间，生成式 AI 其实已经迭代了多次。在技术革命的发展历史上，可以称得上是绝无仅有的进化速度。伴随人工智能技术的飞速发展，大模型近期出现了哪些新趋势呢？一、大模型的开源化发展趋势众所周知，Meta 开源了 Llama 之后，改变了商业大模型的竞争态势。特别是在 Llama 2 推出以后，形成了非常完整的 Llama 的开源生态，基于 Llama 出现了各种各样的衍生功能增强的大模型，例如很擅长写代码、做数学题的 Llama，以及善于诊断医疗问题的模型等等。开源大模型高度的「可玩性」带来了衍生模型的繁荣，这也带来一个全新的 To B 的市场：基于开源的基座大模型，去开发垂直行业大模型，增强大模型在某个垂直领域的能力，让大模型在特定的行业可以落地。毕竟通用大模型无法面面俱到，无法照顾到每个垂直细分行业的领域知识。而有了开源基座大模型，就给了垂直行业公司机会，去训练自己的垂直大模型。现在不仅是 Llama 开源。国内也出现了好几个优秀的开源基座大模型，如智谱的 ChatGLM 2，百川的 Baichuan 7B 等。目前已经有很多垂直行业的头部公司基于这些模型去训练和发布自己的垂直大模型了。我们可以预见，开源大语言模型将在各个领域发挥越来越重要的作用，将全面推动人工智能普及。二、生成内容基础上，大模型有望成为智能体用大模型来实现智能体，是当下热门的发展方向。在美国有拿了巨额融资的 Inflection.AI，还有 Character.AI，Adept 等等。AI 智能体未来在 To C 的方向上的前景也十分可观。现在的智能手机，我们需要安装许多不同功能的 App：购物，打车，外卖，订机票，查询餐厅等。每个 App 都有相应的学习成本和使用成本，但实际上我们只是希望利用 App 来完成我们生活中各种各样的需求。在未来，当 AI 智能体足够聪明时，它对主人的需求足够了解，并且能够接入所有的服务之后，我们的生活中便不再需要 App，只需要和智能体对话即可。甚至智能体在足够了解主人的情况下，主动帮助主人完成很多事情。因此，目前移动时代的应用，在未来的 AI 时代，将会被推翻和重塑。未来将呈现一个 AI 时代全新的用户交互方式：人人都将和各种各样的智能体打交道，而非停留在 App 上。三、大模型的多模态化GPT-4 最近发布了 Vision 版本，不仅仅可以通过文字来对话，还可以通过语音和图片进行沟通。此前，OpenAI 发布会曾经演示过一个案例：创始人 Brockman 在纸上画了一个网站的原型，然后通过手机把原型图拍摄下来传给 ChatGPT，ChatGPT 就可以根据原型图自己创建一个简单的网站出来。这意味着大语言模型不仅仅可以理解文字，现在还能够理解图像内容，那么理论上也可以理解视频的内容。可以预想到未来的大模型接上手机摄像头，就像长了眼睛一样，它可以理解我们生活的物理世界，帮助人类完成更多的工作。比如给机器人安装上一个多模态的大模型，它就变成了真正的智能机器人了，不仅可以看和听，还可以说，当然还可以执行指令和操作。所以多模态的大模型很可能会真正使得机器人普及化。另外，特斯拉最新的自动驾驶软件，也在测试完全使用大模型去操纵汽车。本质上自动驾驶的大模型就变成了电动汽车的大脑，它通过摄像头去分析路况，然后生成指令去操作汽车。值得一提的是，在 7 月 6 日，腾讯也发布了混元大模型，它是由腾讯全链路自研的实用级大模型，拥有超千亿参数规模、预训练语料超 2 万亿 tokens，具备强大的中文创作能力，复杂语境下的逻辑推理能力，以及可靠的任务执行能力。腾讯已将大模型技术深度应用到多个业务场景中，包括腾讯会议、腾讯文档、微信搜一搜等在内的超百个业务和产品，已经接入腾讯混元大模型测试，期待混元大模型未来在多模态方向的更多应用。如果说大模型仅支持文字对话，那么大模型只能影响软件世界，但当大模型支持了多模态，就从软件世界走到了真实的物理世界，开始影响我们所生活的环境。随着技术的不断进步和应用的深化，我十分期待生成式人工智能在创造性、智能化和个性化方面的突破和创新。我相信，在不久的将来，由 AI 大模型控制的各种智能设备，将会像现在的智能手机一样普及。
免费：实时 AI 编程助手 Amazon CodeWhisperer
2023-10-17T20:27:12+08:00


点 ，一起程序员弯道超车之路现已正式推出实时 AI 编程助手 Amazon CodeWhisperer，包括 CodeWhisperer 个人套餐，所有开发人员均可免费使用。最初于去年推出的预览版 CodeWhisperer 让开发人员能够保持专注、高效，帮助他们快速、安全地编写代码，无需因离开 IDE 去研究某件事而中断流程。在为复杂且不断变化的环境创建代码时，开发人员可以通过在他们最喜欢的 IDE（包括 Visual Studio Code、IntelliJ IDEA 等）中使用 CodeWhisperer 来提高工作效率并简化工作。在为常规任务或耗时、无差异的任务创建代码、使用不熟悉的 API 或 SDK、正确有效地使用 Amazon API 以及其他常见的编码场景（例如读写文件、图像处理、编写单元测试等），CodeWhisperer 都可以提供帮助。亚马逊云科技开发者社区为开发者们提供全球的开发技术资源。这里有技术文档、开发案例、技术专栏、培训视频、活动与竞赛等。帮助中国开发者对接世界最前沿技术，观点，和项目，并将中国优秀开发者或技术推荐给全球云社区。如果你还没有关注/收藏，看到这里请一定不要匆匆划过，点这里让它成为你的技术宝库！通过 CodeWhisperer 中的注释生成代码同时也提供了参考代码追踪， 当生成与训练数据相似的代码时，它会提供额外建议数据CodeWhisperer 中的参考跟踪CodeWhisperer 也是唯一一个具有安全扫描功能的 AI 编码助手，可以发现难以检测的漏洞并提出修复建议，扫描生成的代码和开发人员编写的代码，寻找漏洞在 CodeWhisperer 中扫描漏洞目前，所有开发人员都可以使用 Amazon CodeWhisperer 编写 Python、Java、Java、Type、C#、Go、Rust、PHP、Ruby、Kotlin、C、C++、Shell 脚本、SQL 和 Scala 代码，只需要邮箱注册一下即可。使用方法注册首先选择 IDE，支持 vs code 和 jetbrains， 这里以 vscode 为例安装 Amazon Toolkit注册认证即可使用点击 start，然后会出一个弹窗，复制然后打开链接，进行邮箱注册即可。开始使用以 windows 为例， alt+c 是生成代码， tab 是接收生成的代码，左右箭头是选择前后生成的候选。这里以 quicksort 为例，当你输入 def quicksort 然后输入 alt+c 就能生成下面的代码，可以看到是基于递归写的一个代码。使用 tab 接收即可文章来源：https://dev.amazoncloud.cn/column/article/64f8711cd75d3d261ac261e8?sc_medium=regulartraffic≻_campaign=crossplatform≻_channel=SF
记录TritonServer部署多模型到多GPU踩坑 | 京东云技术团队
2023-10-17T11:47:31+08:00


一、问题是怎么发现的部署chatglm2和llama2到一个4*V100的GPU机器上遇到问题config.pbtxt中设置模型分别在指定gpu上部署实例配置不生效如以下配置为在gpu0上部署本模型,部署count=1个实例,在gpu1上部署本模型,部署count=2个实例instance\_group [ { count: 1 kind: KIND\_GPU gpus: [ 0 ] },{ count: 2kind: KIND_GPUgpus: [ 1 ] } ]部署时发现,所有模型实例都会被部署到gpu0上面, 由于gpu只有16g显存,在部署第一个模型实例成功后,第二个模型实例也会往gpu0上进行加载,最终导致cuda out of memery.网上搜索发现有人遇到同样的问题,链接: https://github.com/triton-inference-server/server/issues/6124二、排查问题的详细过程大佬回答解决方案:三、如何解决问题1.在model.py手动获取config.pbtxt配置的gpu编号gpus:[0]instance_group [{count: 1kind: KIND_GPUgpus: [ 0 ]}]2.设置可用的GPU编号os.environ["CUDA\_VISIBLE\_DEVICES"] = str(device_id)3.启动成功四、总结反思:是否可以更快发现问题?如何再次避免等。triton启动的使用使用 nvidia-smi -l 2 监控显卡想显存, 可以发现所有模型都在往第一个gpu,gpu[0]内加载,发现配置config.pbtxt不生效作者：京东科技 杨建来源：京东云开发者社区 转载请注明来源
10月18日 个推「数据驱动运营增长」沙龙·上海站来了！
2023-10-16T19:32:15+08:00


@各位运营、增长、产品官：就在10月18日（下周三），个推「数据驱动运营增长」城市巡回沙龙 · 上海专场即将开启！来自网易云音乐、哈啰出行、携程智行火车票等头部APP的运营官，以及行业资深的用户增长专家，个推资深产品专家分享数智化运营实践干货，助你打开运营增长新思路，发现业务增长新机会。
完全免费的 GPT-4 你还不来白嫖？开源 AI 聊天、绘图软件 AIdea 1.0.6 发布啦
2023-10-16T12:55:41+08:00


📣📣📣 限时活动 📣📣📣即日起至 2023 年 10 月 22 日，GPT-4 和 GPT-3.5 完全免费，没有任何套路，快来下载使用吧！（每日 GPT-4 免费 100 次，GPT-3.5 1000 次）后续还将推出更多优惠活动，详情请关注我的 新浪微博 https://weibo.com/code404 。如果你还不知道这款 APP，那么可以简单看看这篇文章 花了小半年开发了一个 AI 套壳 APP，然而大势已过，直接开源了。AIdea 最新版本的 1.0.6 发布啦，大家快来体验体验！本次更新内容如下新增百川大模型、360 智脑大模型支持现已推出每日免费使用额度，不用充值，每天也有有限次数的聊天模型使用额度，可以免费使用解决聊天过程中持续对话结果混乱的问题替换 Markdown 解析器，解决 Web 端出现大量空白的问题聊天出错时，支持自动重新发送失败的消息Bugfix: 当绘玩没有数据时，页面会一直保持在加载中状态截止至目前，AIdea 已经支持以下聊天大模型OpenAI 的 GPT-3.5 ，GPT-4Anthropic 的 Claude instant, Claude 2.0阿里的通义千问百度的文心一言科大讯飞的讯飞星火商汤日日新腾讯混元大模型百川大模型 53B360 智脑开源大模型 Llama2 70B开源大模型 Llama2 7B 中文版开源大模型 ChatGLM2 6B开源大模型 AquilaChat 7B开源大模型 BLOOMZ 7BAIdea 是一款集成了主流大语言模型以及绘图模型的 APP ， 采用 Flutter + Golang 开发，代码完全开源，支持以下功能：OpenAI 的 GPT-3.5 ，GPT-4 大语言模型Anthropic 的 Claude instant ，Claude 2.0 大语言模型国产模型：通义千问，文心一言，讯飞星火，商汤日日新，腾讯混元，百川53B，360智脑开源模型：Llama2 ，ChatGLM2 ，AquilaChat 7B ，Bloomz 7B 等，后续还将开放更多文生图、图生图、超分辨率、黑白图片上色等功能，集成 Stable Diffusion 模型，支持 SDXL 1.0Github 地址：客户端（ Flutter ）： https://github.com/mylxsw/aidea服务端（ Golang ）： https://github.com/mylxsw/aidea-server下载体验地址https://aidea.aicode.cc/下面是一些预览图
2023 开发者关系从业人员现状调研来了！
2023-10-18T12:52:13+08:00


伴随着信息技术的高速发展，以开发者为核心用户/客户的企业正在飞速成长，同时，布道师、社区经理、开发者市场经理、技术内容等一系列围绕开发者关系的职位也在日益兴起。这里是 SegmentFault 思否研究院，我们将就 2023 年中国开发者关系行业现状展开调研，帮助相关从业人员更好地明确工作内容及目标，并获得职业提升，也为正在或已经组建相关部门的企业管理者提供参考。今年，我们得到了华为对本次调研的大力支持和冠名赞助，我们将在往年的基础上对报告内容进行全面升级，在数据分析中加入更多相关性分析，引用更多「行业专家观点」，并加入开发者关系案例集的选编。该报告将于 2023 年 12 月在社区中发布，您可以点击此处查看往期调查报告。注：此处「开发者」为广义的开发人员，既包含一线工程师，也包含技术总监、CTO 等 ITPro 人群。此处「开发者关系从业者」是指，您的工作目标为（或包含）面向广义开发者人群的产品市场、品牌传播、技术布道的相关人员，既可以是传统 IT B2B 企业的市场营销及运营人员，也包含技术布道师、文档工程师、开发者关系、生态运营等岗位的人员。如果您是我们调研的目标人群，请立即 点击此处 参与调研或扫描下图二维码开始参与我们的调研吧！我们将一如既往保证报告的中立性，并对您的信息完全保密，保证不用于任何调研外的其他用途，不透露给我们的任何合作伙伴或赞助商。媒体 / 社区合作联系：pr@sifou.com企业合作联系：bd@sifou.com
「2023年大模型应用于软件研发」国内现状调查正式开启！
2023-10-17T14:53:07+08:00


调查背景大模型正在成为人工智能的新范式，也助推了AIGC的新一波浪潮，由此掀起了软件研发领域的全新革命。大模型不仅可以提供更强大的计算能力，还能够处理更复杂的任务，为软件研发带来了巨大的潜力和机遇。然而，目前国内对于大模型在软件研发中的应用现状尚未有系统性的了解和总结。为了推动我国软件研发领域的发展，作为软件研发行业的重要参与者——AiDD峰会组委会，联合软件质量报道、测试窝、异步社区、思否、稀土掘金等多个社区、组织发起「2023年大模型应用于软件研发」国内现状调查。通过这次调查，旨在全面了解我国软件研发领域对于大模型的应用情况，探索大模型在软件研发中的优势和挑战，为进一步推动大模型技术的发展提供有力的支持和指导。“AI+软件研发数字峰会（AiDD）” 主办方为AiDD组委会，由K+峰会组委会和人工智能（AI）精英社区联合组建。峰会旨在帮助更多企业借助AI技术，使计算机能够更深入地认知现实世界，推动软件研发全面进入数字化时代。在这里，诚挚地邀请您参与「2023年大模型应用于软件研发」国内现状调查。您的参与将对推动我国软件研发领域的发展产生积极的影响，也将为您和您所在企事业单位带来更多的机遇和发展空间。填报条件1.填报主体填报主体包括但不限于互联网、金融、通信、消费电子、制造业、教育业等各个行业的企事业单位中，从事软件研发相关工作的从业者。我们希望能够听到您宝贵的意见和经验。通过您的参与，我们可以更加准确地了解我国软件研发领域对于大模型的需求和应用场景，为相关行业提供更加精准的解决方案。2.隐私保障为了保证调查的客观性和有效性，我们将采用匿名方式进行，以确保您的个人信息和企事业单位的机密信息得到有效保护。我们将通过在线问卷的形式收集您的意见和建议，您只需花费几分钟的时间填写问卷，就能为我国软件研发领域的发展贡献一份力量。3.调查时间2023年10月13日-11月12日调查报告结果将于2023年11月24-25日，AiDD峰会深圳站首发展示4.填报通道调查结束后，我们将随机抽取三名幸运儿，每人获得价值6800元的AiDD峰会深圳站门票一张。再次感谢您的支持和参与！让我们携手共进，共同推动我国软件研发领域的创新发展！AI+软件研发行业数字峰会（AiDD峰会）即将于11月24-25日深圳举办。本届峰会共设15+分论坛,60+最新AI案例,与1000+行业精英共话AI新篇章。
报名开始！Prompt Engineering Conf 首次在中国举办！
2023-10-17T14:26:35+08:00


2023年的大语言模型是一次激进的尝试，随着其不断变革与发展，该领域的影响力逐渐扩大。面对这个其日新月异、快速发展的领域，我们不禁深思，什么才是落地的关键？虽然当前一代的大语言模型还无法展现出某些能力，我们也不应该轻言“它不行”。相反，我们应该建立起应用实践的桥梁，将创新落到实处。在这里软积木携行业伙伴发起了中国场的Prompt Engineering Conference。Prompt Engineering Conference是在大语言模型浪潮背景下由全球顶尖AI开发者发起的公益活动，旨在以Prompt为核心，向广大AIGC从业者提供一个前沿应用的交流平台，该活动也是首次在中国举办。大会将聚焦于“赋能企业，智慧未来”这一主题，发掘广大开发者、技术从业者、AI爱好者等人的想象力与创新精神，通过丰富的提示词技巧和进阶法则赋能企业，领跑未来。报名详情时间：2023年10月21日 （星期六）14:00-18:00地点：中国•北京 微软大厦 1号楼 故宫厅主题：Prompt Engineering Conf（中国）联系电话：18911273699欲报从速！100张免费票已报满，目前还有少量早鸟票！活动议程注意事项1.报名请您务必填写与身份证一致的姓名，否则会有不能进入会场的风险。2.报名时，请您协调好时间，一经报名请一定准时参会，如行程有临变动，请于活动开始前24小时取消。报名未参会者可能会影响下次活动的报名。3.活动当日，请您务必携带身份证。4.由于活动场地管理严格，请保证您仅在微软大厦一层的公共大厅及会议室（故宫厅）到卫生间的范围内活动。5.本次活动方可能在活动宣传中使用参会者肖像，您愿意授权活动方将包含肖像的活动图片、视频素材在相关平台或媒体中发布和传播。明星嘉宾合作伙伴
小技巧 | 渐变消失遮罩的多种实现方式
2023-10-17T10:29:44+08:00


在知乎看到一题比较有意思的题目。题目大致是如何实现下述图片的效果，如果使用 div 前置遮挡的话，会影响 div 后面的按钮，使其无法被点击。本文将简单介绍几种这个效果的实现方案。渐变配合 pointer-event第一种方式，比较容易想到。使用渐变配合 pointer-event 实现。简单模拟一下场景，假设我们有如下一个 ul 列表，超出可以滚动：<div class="g-container">
    <ul>
        <li>Button</li>
        <li>Button</li>
        <li>Button</li>
        <li>Button</li>
        <li>Button</li>
        <li>Button</li>
    </ul>
</div>ul {
    width: 300px;
    display: flex;
    flex-wrap: nowrap;
    border: 1px solid #999;
    padding: 5px;
    overflow-x: scroll;
}像是这样：首先，我们需要实现右侧的渐变消失的遮罩效果，这个最常见的，就是通过叠加一个从透明到白色的渐变层实现。这个简单，我们借助元素的伪元素，绝对定位到右侧即可：.g-container {
    ...
    
    &::before {
        content: "";
        position: absolute;
        right: 0;
        bottom: 0;
        top: 0;
        width: 100px;
        background: linear-gradient(90deg, transparent, #fff);
    }
}效果如下：这样遮罩就解决了，唯一的问题在于，叠加的这一层，确实遮挡住了其下方的按钮点击：这个其实也好解决，只需要给叠加的这一层，添加一个 pointer-event: none 即可。pointer-event：CSS 属性指定在什么情况下 (如果有) 某个特定的图形元素可以成为鼠标事件的 target。当值为 none 时，元素永远不会成为鼠标事件的 target，也就是我们常说的，实现了鼠标点击穿透。代码如下：.g-container {
    ...
    
    &::before {
        content: "";
        position: absolute;
        right: 0;
        bottom: 0;
        top: 0;
        width: 100px;
        background: linear-gradient(90deg, transparent, #fff);
        pointer-event: none;
    }
}如此一来，就能完美实现此效果，有遮罩，且遮罩不会遮挡住下方内容：完整的代码你可以戳这里：CodePen Demo -- Linear Gradient Mask & Pointer-event使用 mask 实现更完美的遮罩但是，上述方法不是最完美的。假设我们的背景，不是纯色，而是渐变色的话，效果会是这样：我们希望，内容是真的逐渐消失，而不是通过遮罩遮挡住。所以，我们期待的结果，应该是这样：即便是渐变背景，内容仍然可以逐渐消失。为了解决解决这个问题，CSS 有一个专门的属性来处理这个问题，也就是 -- mask。mask：属性允许使用者通过遮罩或者裁切特定区域的图片的方式来隐藏一个元素的部分或者全部可见区域。使用 mask 后，代码非常简单，也不需要 pointer-event：<ul>
    <li>Button</li>
    <li>Button</li>
    <li>Button</li>
    <li>Button</li>
    <li>Button</li>
    <li>Button</li>
</ul>ul {
    width: 300px;
    display: flex;
    flex-wrap: nowrap;
    overflow-x: scroll;
    mask: linear-gradient(90deg, #000 70%, transparent);
}由于不存在遮挡物，也就不再需要 pointer-event 了，所有内容都是可以直接点击的：完整的代码你可以戳这里：CodePen Demo -- Linear Gradient Mask如果你是第一次接触 mask，这里有关于 mask 的一些基础知识及进阶用法，也许你会有兴趣：奇妙的 CSS MASK使用 mask 实现视频弹幕人物遮罩过滤小技巧 | 一行代码实现头像与国旗的融合最后本文到此结束，希望对你有帮助 :)更多精彩 CSS 技术文章汇总在我的 Github -- iCSS ，持续更新，欢迎点个 star 订阅收藏。如果还有什么疑问或者建议，可以多多交流，原创文章，文笔有限，才疏学浅，文中若有不正之处，万望告知。