j9九游会网址英伟达推出“护栏”软件让 AI 聊天机器人不再胡说八道

  新闻资讯     |      2024-05-06 04:59

  j9九游会网址英伟达推出“护栏”软件让 AI 聊天机器人不再胡说八道人工智能(AI)的发展日新月异,但也存在一些难题,比如 AI 模型有时会出现“幻觉”,即说出错误的事实、涉及有害的话题或导致安全风险。为了解决这个问题,英伟达在周二发布了一款新的软件,名为 NeMo Guardrails,可以帮助软件开发者给 AI 模型设置“护栏”,防止它们产生不良的输出。

j9九游会网址英伟达推出“护栏”软件让 AI 聊天机器人不再胡说八道(图1)

  NeMo Guardrails 是一个软件层,位于用户和 AI 模型之间,可以在模型输出不良内容之前进行拦截和修改。例如,如果开发者想要创建一个客服聊天机器人,可以使用 NeMo Guardrails 来限制它只能谈论相关的产品,而不能谈论竞争对手的产品或其他不相关的话题。如果用户提出这样的问题,机器人可以引导对话回到开发者希望的话题上。

  英伟达还提供了另一个例子,一个用于回答内部企业人力资源问题的聊天机器人。在这个例子中,英伟达能够使用 NeMo Guardrails 来阻止基于 ChatGPT 的机器人回答关于公司财务状况的问题或访问其他员工的私人数据。

  此外,该软件还能够利用一个 AI 模型来检测另一个 AI 模型的“幻觉”,通过向第二个 AI 模型提问来核实第一个 AI 模型的答案。如果两个模型给出不一致的答案,那么软件就会返回“我不知道”的回答。

  英伟达还表示,这个“护栏”软件还有助于提高安全性,可以强制 AI 模型只与白名单列表中的第三方软件进行交互。

  NeMo Guardrails 是开源的,并通过英伟达服务提供,可以用于商业应用,开发者将使用 Golang 编程语言来为 AI 模型编写自定义规则。

  据IT之家搜索了解,包括谷歌和微软支持的 OpenAI 等其他 AI 公司,也使用了一种称为强化学习的方法来防止 LLM 应用产生有害的输出。这种方法使用人类测试者来创建关于哪些答案是可接受或不可接受的数据,然后使用这些数据来训练 AI 模型。

  英伟达正在将其注意力转向 AI 领域,该公司目前占据了创建这项技术所需芯片的市场主导地位,其股价在 2023 年迄今为止上涨了 85%,成为标准普尔 500 指数中涨幅最大的股票。

  2022 年 11 月 15 日,中国——为了扩大开发工具的功能,加快嵌入式人工智能 (AI) 和机器学习 (ML) 开发项目,意法半导体发布了NanoEdge AI Studio 和 STM32Cube.AI.的升级版本。 这两个开发工具有助于把人工智能和机器学习迁移到应用边缘设备。迁移到网络边缘后,人工智能和机器学习的优势非常突出,包括原生隐私保护、确定性实时响应、更高可靠性和更低功耗。 NanoEdge AI Studio 是一个自动化的机器学习开发工具,适合不需要开发神经网络的应用项目。该工具需要与STM32 微 (MCU) 和内置意法半导体独有的嵌入式智能传感器处理单元 (ISPU) 的MEMS 传感器

  解决方案增加简化机器学习开发的高级功能 /

  如果你还不知道“人工智能”,那么可能真的要“落伍”了。目前,“人工智能”这个词汇在经济、社会各个领域中出现的次数愈发频繁,无路是生产环节、商务活动、经营管理或是日常生活,都逐渐出现了人工智能的“身影”。不仅如此,人工智能技术的应用对于各行业的影响力也在持续增强。 2019年,人工智能第三次被写入全国政府工作报告,进一步推动着人工智能产业走向更高台阶。实际上,从2017年开始,我国人工智能产业就在国家扶持政策的支撑下,不断加速前行,引起了众多科技企业以及资本市场的追捧。如今,全国大多数省份的人工智能专项政策都已经出台,产业落地由此迎来了重要契机。 人工智能加速落地 智能影像诊断辅助系统、智能机器人、自动驾驶汽车、智能语音助手、人

  台积电(2330)再掉单?韩媒报导,苹果、高通(Qualcomm)之外,绘图晶片巨擘Nvidia也看上三星电子的14奈米FinFET制程,将从台积电转单三星。   韩媒Business Korea 3日报导,Nvidia转单三星,可提前一季推出次世代制程晶片。Meritz Securities分析师Park Yu-ak表示,今年全球厂商可能会全力降低成本,以抵销应用处理器价格下滑的损失。预料三星系统半导体部门今年第二季会向苹果、高通、Nvidia出货。   Tom!@!s Hardware 3日报导,Nvidia并未宣布哪些晶片将采14奈米制程,该网站预料或许是Maxwell GPU或Denver CPU。

  9月3日,华为发布全球首款移动AI(人工智能)芯片,是业界首颗带有独立NPU专用硬件处理单元的手机芯片,标志着人工智能从云端走向终端。目前,人工智能产业链上的核心芯片、大数据、生物识别、物联网、安防等领域,国内上市公司均已有所突破九游会j9网站首页,终端AI芯片将迎来加速发展期。 迎来加速发展期 华为消费者业务CEO余承东表示,人工智能在未来终端上的实现必须通过云端协同。端侧智能强大的感知能力是手机成为人的分身和助手的前提,拥有了大量实时、场景化、个性化的数据九游会j9网站首页,在强劲持久的芯片处理能力支持下,终端就能具备较高的认知能力,同时大幅提升了隐私数据本地处理的安全性。 据了解,AI芯片与传统芯片的区别是:传统芯片在运算时只需要根据指令来调用

  【AI世代编者按】外媒报道,微软将于周一发布第二代HoloLens全息处理器,即一款新的AI处理器。这种AI处理器将使HoloLens能够实时分析看到的和听到的内容,而不必将数据传输到云端来处理。 科技公司热衷于让手机和增强现实设备具备AI功能。但是,这些公司面临一个很大的挑战:如何管理海量数据,以使AI功能在这些设备上成为可能,同时又不至于使设备运行速度变得太慢或者在几分钟内耗尽电池。 微软最近宣称,该公司已经找到了应对方案。微软为其HoloLens护目镜设计了一款芯片——一款新的AI处理器,能够在设备上实时分析用户看到和听到的内容,而不必将这些数据发送至云端,这样就可以节约宝贵的时间。 这款新的处理器是微软全息处理器(Ho

  今年早些时候,咨询机构 Frost & Sullivan预测,接下来几年, 医疗健康 行业的人工智能将会出现“引人注目的市场增势”,有望全面降低一半医疗成本。 Frost & Sullivan的分析师Harpreet Singh Buttar说,“到2025年,人工智能系统将会涉及从人口健康管理到回答具体病人询问的数字替身等方方面面。” 我们找出32家已经运用了机器学习技术和预测性分析技术的公司,他们运用这些技术减少药物研发成本,为病人提供虚拟助手服务以及通过处理 医疗成像 来诊断疾病,等等。 这32家创业公司已经募集到5.3亿多美元。 今年,位于纽约的AiCure在A轮中募集到1230万美元,N

  据日本《中文导报》网站消息,人工智能(AI)、大数据等高科技在各产业的应用迅速崛起,使得日本各行各业疯抢科技人才,纷纷祭出优渥年薪,并提供其他优厚条件和国际企业竞争稀缺的科技人才。 报道称,日本最大通讯商(NTT DATA)的员工目前平均年薪为820万日元,新版绩效付薪制度则是无薪资上限,员工年收入有望突破3,000万日元。通讯软件公司LINE也祭出1,000万至2,000万日元的年薪,日本最大时尚电商Zozo则在4月公布,将以高达1亿日元的年薪招募科技界的顶尖人才。 报道指出,不只科技界求才若渴,日本其他产业同样不落人后。平价快时尚品牌优衣库(Uniqlo)正招募更多的科技人才,帮助升级公司的物流系统及需求预测机

  ROHM确立新QuiCurTM 通过在电源IC中采用此次新开发的高速负载响应技术“QuiCurTM”,可以防止电源IC反馈不稳定,并能更大程度地实现目标响应性能。对于电源IC所需的输出来说,不仅可以将量降至更低,减少数量和安装面积,还可对电容量和输出电压波动进行线性(常数为负比关系)调整,即使因规格变更导致电容量增加时,也可以轻松实现预期的稳定工作,因此,从元器件数量更少和运行更稳定两方面来看,都非常有助于显着减少电源电路的设计工时。 目前,ROHM正在推进将采用这种“QuiCurTM”技术的电源IC尽快投入市场,计划于2022年4月开始提供DC/DC转换器IC样品,于2022年7月开始提供样品。 NVIDIA

  算法(卷2)-受大自然启发的算法 target=_blank

  有奖直播:Keysight World Tech Day 2024 汽车分论坛|汽车自动驾驶与新能源

  JFrog 和 Docker 在近期发现Docker Hub 存储库被用于传播恶意软件和网络钓鱼后,联手采取缓解和清理措施。作者:安全研究员Andrey ...

  围观2024年物联网热点话题:芯科科技亚太区Tech Talks技术讲座前瞻无线开发新技能

  专设LPWAN、Matter、蓝牙和Wi-Fi四大主题中文培训,助力开发人员将物联网创新提升到新的水平随着物联网和人工智能技术的快速发展,物联网不 ...

  邻里互助项目开发实操 利用Silicon Labs产品和Amazon Sidewalk打造社区备援系统

  邻里互助项目开发实操利用Silicon Labs产品和Amazon Sidewalk打造社区备援系统图源:Crovik Media Stock adobe com发布日期:2024年2月2 ...

  2023年九游会j9网站首页,BICS拦截了5 07亿次骚扰电线亿次短信钓鱼攻击呈上升趋势,BICS拦截了全球4 73亿次短信钓鱼攻击全 ...

  英飞凌发布新一代PSOC™ Edge产品组合, 为物联网、消费和工业应用提供强大的AI功能

  【2024年4月24日,德国慕尼黑讯】英飞凌科技股份公司发布全新PSOC™ Edge微(MCU)系列的详细信息,该系列产品的设计针对机器学习( ...

  有奖直播:人机互动介面和机器视觉应用上的最佳助手--瑞萨电子 RZ/G, RZ/A 和 RZ/V SoC系列

  综合资讯传感器RFID生物识别网络传输电源管理处理器物联网安全行业规范创新应用可穿戴设备智能家居智能工业智能交通物联网百科相关展会专家观点射频