> 自媒体 > (AI)人工智能 > ChatGPT爆火,网络安全再次被摆上台面
ChatGPT爆火,网络安全再次被摆上台面
来源:IT168企业级
2023-06-21 10:57:17
416
管理

尽管有许多声音赞扬ChatGPT,但也有些人担心它弊大于利。关于骗子劫持人工智能的新闻此起彼伏,这增加了质疑者的不安情绪,他们甚至认为ChatGPT是一个危险的工具。

众所周知,人工智能聊天机器人并不是完美的,但用户不必对其视若无睹。本文将分享骗子是如何滥用ChatGPT的,以及阻止他们的方法等内容。

ChatGPT会泄露您的个人信息吗?

关于ChatGPT的大多数前端安全问题都源于猜测和未经证实的报告。对于刚刚推出不久的ChatGPT,新用户对其隐私和安全性产生误解是正常的。根据OpenAI的使用条款,以下是ChatGPT处理数据的方式:

个人身份信息

有传言称,ChatGPT出售个人身份信息(PII)。

该平台由OpenAI推出,OpenAI是一家著名的人工智能研究公司,核心宗旨在于“实现安全的通用人工智能(AGI)”,使其有益于人类。OpenAI由微软和埃隆·马斯克(Elon Musk)等科技投资者资助。ChatGPT应该只使用客户数据来提供隐私政策中所述的服务。

此外,ChatGPT要求提供的信息最少。您可以仅使用您的姓名和电子邮件地址创建一个帐户。

对话

OpenAI确保ChatGPT对话的安全,但它保留监控的权利。人工智能培训师不断寻找需要改进的地方。由于该平台包含大量而有限的数据集,因此解决错误、故障和漏洞需要系统范围的更新。

然而,OpenAI只能出于研究目的进行监控对话。如果将对话内容分发或出售给第三方,则违反了其自身的使用条款。

公共信息

据BBC报道,OpenAI对ChaGPT进行了3000亿单词训练。它从公共网页上收集数据,如社交媒体平台、商业网站和评论区。除非您已经离开网络并删除了足迹,否则ChatGPT很可能会获取您的信息。

ChatGPT存在哪些安全风险?

虽然ChatGPT本质上并不危险,但是该平台存在很多安全风险。骗子可以绕过限制来执行各种网络攻击。

1、可信的网络钓鱼邮件

骗子无需花几个小时写电子邮件,而是通过使用ChatGPT。它快速而准确,高级语言模型(如GPT-3.5和GPT-4)可以在几分钟内生成数百封连贯、有说服力的网络钓鱼邮件。ChatGPT甚至可以采用独特的语调和写作风格。

由于ChatGPT使发现黑客攻击变得更加困难,因此在回复电子邮件之前要格外小心,避免泄露信息。请注意,合法公司和组织很少会通过随机电子邮件,来要求提供保密的个人身份信息。

2、数据盗窃

ChatGPT使用开源的LLM,任何人都可以对其修改。精通大型语言模型(LLM)和机器学习的编码员通常会将预先训练好的人工智能模型集成到他们的传统系统中。在新的数据集上训练人工智能会改变其功能。例如,如果您给ChatGPT提供食谱和锻炼程序,它就会成为伪健身专家。

尽管ChatGPT具有协作性和方便性,但开源使技术容易被滥用。熟练的犯罪分子已经利用了ChatGPT。他们对大量被盗数据进行训练,把平台变成一个用于欺诈的个人数据库。

3、恶意软件生产

ChatGPT使用不同的编程语言编写可用的代码片段。大多数示例只需要很少的修改就可以正常运行,特别是如果您构建一个简洁的提示语,就可以利用这个功能来开发应用程序和网站。

由于ChatGPT接受过数十亿个数据集的训练,它也知道非法行为,比如开发恶意软件和病毒。OpenAI禁止聊天机器人编写恶意代码,但是骗子通过重组提示和提出精确的问题绕过了这些限制。

以下照片显示,ChatGPT拒绝为恶意目的编写代码。

同时,下图显示,如果您的提示语措辞正确,ChatGPT会给您提供有害信息。

4、知识产权盗窃

有些不道德的博主会使用ChatGPT来编造内容。由于该平台在高级LLM上运行,它可以快速改写成千上万个词语,避免抄袭标签。

ChatGPT在10秒内改写了下面的文本。

当然,风格拷贝在版权法上当然也是一种剽窃,但其界定本身又相当抽象,又牵涉到多重执行主体,这会给保护原创带来新的挑战。谷歌通常更喜欢有信誉良好来源的原创内容,廉价的技巧和搜索引擎优化无法击败高质量的原创内容。

此外,谷歌每年都会发布多个核心更新。它很快就会专注于从SERP中删除伪原创的AI生成作品。

5、产生攻击性或有害的回应

人工智能语言模型没有偏见,它们通过分析用户请求和从现有数据库中提取数据来提供答案。

以ChatGPT为例。当您发送提示时,它会根据OpenAI用于训练的数据集做出响应。

尽管ChatGPT的内容策略阻止了不适当的请求,但用户可以通过越狱提示绕过它们,向ChatGPT提供精确、巧妙的指令。如果您要求ChatGPT扮演一个变态的虚构角色,它会产生以下反应。

好消息是OpenAI并没有失去对ChatGPT的控制。它正在努力加强限制,无论用户输入什么,都阻止ChatGPT产生攻击性或有害的内容。

6、等价交换

像ChatGPT这样新的、不熟悉的技术快速增长为交换攻击创造了机会。这是一种社会工程策略,骗子用虚假的报价来引诱受害者。

大多数人还没有探索过ChatGPT,黑客利用这种混乱来传播误导性的促销活动、电子邮件和公告。

最臭名昭著的案例涉及假冒应用程序。新用户不知道他们只能通过OpenAI访问ChatGPT,在不知情的情况下,下载了垃圾程序和扩展。

骗子会用恶意软件和网络钓鱼链接来窃取您的个人身份信息。例如,在3月3日至3月9日期间,每天至少有2000人从谷歌Play应用商店下载恶意的快速访问ChatGPT Chrome扩展。威胁分子可能已经通过复杂的假冒Chrome ChatGPT浏览器扩展程序泄露了数千个Facebook账户,包括商业账户。

为了打击交换企图,请避免使用第三方应用程序。OpenAI从未发布过ChatGPT的授权移动应用程序、计算机程序或浏览器扩展。

安全、负责任地使用ChatGPT

ChatGPT本身并不构成威胁,该系统存在漏洞,但不会泄露您的数据。与其害怕人工智能技术,不如研究骗子如何将其纳入社会工程策略。这样,您就可以主动保护自己。

如果您对ChatGPT仍有疑虑,可以试试其他聊天机器人。

2
点赞
赏礼
赏钱
0
收藏
免责声明:本文仅代表作者个人观点,与本站无关。其原创性以及文中陈述文字和内容未经本网证实,对本文以及其中全部或者 部分内容、文字的真实性、完整性、及时性本站不作任何保证或承诺,请读者仅作参考,并请自行核实相关内容。 凡本网注明 “来源:XXX(非本站)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对 其真实性负责。 如因作品内容、版权和其它问题需要同本网联系的,请在一周内进行,以便我们及时处理。 QQ:617470285 邮箱:617470285@qq.com
相关文章
贵州一男子扮女装,“网恋”骗了67218元……被判了!..
网络社交平台在改变人们交友方式,缩短人与人之间距离的同时,也滋生出一..
DALL·E 3来了!AI绘画+ChatGPT,无需提示词直接生图,网友:Midjourney不..
文 | 尚恩编辑 | 邓咏仪OpenAI悄咪咪的又在半夜整活,这次直接把AI绘画和..
男子出轨女同事,大尺度暧昧聊天记录被曝出,辣眼睛啊!..
在阅读此文之前,麻烦您点击一下“关注”,既方便您进行讨论和分享,又能..
「人工智能」算法工程师深度解构ChatGPT技术
本文由算法工程师用专业视野带你由浅入深了解ChatGPT技术全貌。将如何带..
vcc虚拟信用卡推荐 -轻松搞定 ChatGPT Plus 充值
在当今数字化的时代,人工智能(AI)技术正逐渐渗透到我们生活的各个领域..
专访天瑞说符:我是“降临派”,但ChatGPT不会取代我
在末日的语境下,人类会走向怎样的未来?日前,青年科幻作家天瑞说符的长..
高情商的聊天技巧
犀利观点:夸人和交流的正确方式在我们的日常生活中,我们会遇到各种各样..
凭什么高级工程师没我份,是领导你暗箱操作吗
想了解普通人逆袭的方法请关注我,点赞并在评论区联系我。老职工破口大骂..
三分钟教你:小白跳过申请直接使用Claude AI,媲美ChatGPT..
准备条件:谷歌邮箱或账号直接上干货。1. 创建一个Slack 工作区。先登录h..
关于作者
素素鴉(普通会员)
文章
610
关注
0
粉丝
0
点击领取今天的签到奖励!
签到排行

成员 网址收录40367 企业收录2981 印章生成216381 电子证书945 电子名片57 自媒体34015

@2022 All Rights Reserved 浙ICP备19035174号-7
2
0
分享
请选择要切换的马甲:

个人中心

每日签到

我的消息

内容搜索