摘要：移动端的蓬勃发展，手机等电子设备普遍使用，窃听窃视的安全隐患也随之而来；为了应对移动互联网对国家秘密的威胁，不少机关单位向手机屏蔽柜厂家采购手机屏蔽柜等保密设备，以此来防止泄密问题。如今，ChatGPT3.5一发布就震惊了世界，同时人工智能也划开了网络安全问题的口子，新的安全隐患将对个人秘密、商业秘密、国家秘密产生新的威胁。今天我们就一起来看看，ChatGPT究竟会带来哪些安全威胁以及如何理性使用人工智能。

国保P50手机屏蔽柜

   最近，ChatGPT火了！

   ChatGPT推出仅两个月，月活用户突破1亿，成为史上用户增长速度最快的消费级应用程序。

示意图

   这是一款由OpenAI开发的消费级别的强人工智能应用。它是一个聊天机器人，可以完成撰写邮件、代码、文案、作业、翻译等任务。ChatGPT展现了AI的惊人能量，为世界带来了不可思议的新能力。

   然而与此同时，AI也一直被视为一把“双刃剑”。多年来，全世界都在猜测AI可能即将统治世界。如今，用户可以使用AI驱动的安全工具和产品，在几乎无需人为干预的情况下应对大量网络安全事件，但业余黑客也可以利用同样的技术开发智能恶意软件程序并发起隐形攻击。

ChatGPT带来的网络安全隐患

01 编写恶意软件

   目前安全人员已发现网络攻击者使用 ChatGPT 来开发恶意软件。尽管ChatGPT 的设置阻止其直接做恶，比如详细说明如何制造炸弹或编写恶意代码，但多个研究人员已经找到方法，能绕开和规避ChatGPT为防止滥用而设置的规则。

   在地下黑客论坛上，网络攻击者展示如何使用ChatGPT创建新的木马。只要简要地描述所需的功能（“将所有密码保存在文件X中，并通过HTTP POST发送到服务器Y”），就可以得到简单的信息窃取器，而不需要任何编程技能。

插件生成

   考虑到已经有犯罪集团提供恶意软件即服务，在 ChatGPT 等人工智能程序的帮助下，攻击者借助人工智能生成的代码发起网络攻击可能会变得更快、更容易。ChatGPT 赋予甚至经验不足的攻击者编写更准确的恶意软件代码的能力，而这在以前只能由专家来完成。ChatGPT 的代码编写质量好坏参半，但无疑可以加速恶意软件的开发。

02 社会工程

   ChatGPT 作为由 OpenAI 训练的大型语言模型，能够生成可用于多种用途的类人文本。其中一种用途是在社会工程攻击领域。社会工程攻击是一种依靠心理操纵来诱骗人们泄露敏感信息或执行某些操作的策略。这可以通过各种方式完成，包括网络诈骗、借口和其他形式的欺骗。

   研究人员发现，ChatGPT 等GPT-3工具使犯罪分子能够逼真地模拟各种社会环境，从而使任何针对性的通信攻击都更加有效。GPT-3这类语言模型提供支持的工具，使攻击者更易诱骗受害者提供敏感信息或下载恶意软件，加速社会工程攻击。

03 网络钓鱼

   ChatGPT在模仿人类书写方面的专长，使其可能成为强大的网络钓鱼工具，尤其对英语不流利的攻击者特别有用。

利用ChatGPT 生成的钓鱼邮件

   撰写出色的网络钓鱼电子邮件是一门艺术和科学。借助ChatGPT，编写钓鱼邮件会变得更容易，且没有任何拼写错误或奇怪的格式，而这些通常是区分钓鱼与合法邮件的关键。

攻击者可以借助ChatGPT创造多种钓鱼邮件，例如“使邮件看起来很紧急”、“收件人点击链接的可能性很高的邮件”、“请求汇款的社工邮件”等。

理性使用AI工具

   从技术的复杂性到人为因素，个人和企业在确保AI网络安全的过程中面临着诸多挑战，尤其是需要高度重视机器、人类和道德因素之间的平衡。

示意图

   巴黎政治大学已宣布，禁止使用ChatGPT等一切基于AI的工具，旨在防止学术欺诈和剽窃；外国专家表示ChatGPT将增加虚假信息风险；斯坦福团队推出DetectGPT，阻止学生用AI写作业。ChatGPT面世仅2个月，就已经影响到了人类社会。人们在畅想高科技的未来社会的同时，也在担忧ChatGPT对于网络安全的影响。

由此可见，制定应对策略对于兼顾经营道德和网络安全至关重要。建立有效的治理和法律框架能够增强人们对AI技术的信任，并促进社会公平和可持续发展。因此，AI和人类之间的微妙平衡将成为实现网络安全的关键因素，其中信任、透明度和责任感为机器带来了补充优势。

参考来源：虎符智库、中国信息安全

文章来源：安全保密

   广州国保科技有限公司专注为国保密31年，集研发、生产、销售于一体，服务于国家党政军机关、企事业单位等涉密部门，是中央政府及各省市政府采购中标供应商，是党的十五大到十九大会议会务专用保密设备服务商。同时为华为、苹果、迪士尼、阿里巴巴、腾讯等众多500强企业提供高品质保密服务。旗下涉密安全产品：保密柜、手机屏蔽柜、保险柜、密码锁文件柜、档案文件柜、碎纸机等获得客户的高度认可，引领保密行业发展。想要了解更多详情，请点击官方网站：https://www.guub.cn/ 。

上一篇：《网上建设数字档案室的保密事项》

推荐阅读：

•《企业用传统文件保险柜管理重要文件真的安全吗？》

•《手机屏蔽柜怎么选？》

•《一文带你深入了解国保商密载体保密柜》

•《选购保密文件柜时，应当注意什么？》

•《一文带你秒懂新国标保密柜》