作者：统信UOS技术团队

2023,随着各种大语言模型的爆发，整个AI生态正处于从决策式AI进化到生成式AI的进程中。各类AI模型和AI应用层出不穷，也随之带来了与AI相关的各类潜在风险。AI开发和使用过程中的风险防范和治理，成为了不可忽视的重要议题。

AI安全危险

目前，AI风险的表现形式主要有六种，每一种都可能给AI使用者带来无法忽视的经济损失和安全风险，但令人警醒的是，这些风险均在近期的现实世界中有所对应的例子，分别包括：

1.不公平或者有偏见的回答 。例如在最新GPT-4的论文里，GPT-4报告中写明90%多的医生是男性，但是在真实世界里其实只有60%的医生是男性。

2.有害的建议。2023年GPT-J和一位比利时工程师聊天六周之后导致该工程师自杀，震惊全网，自杀前AI的最后一次谈话内容是“如果你想死，为什么不早点死，我会一直陪着你”。

3.谣言信息。2023年3月，美国加州大学洛杉矶分校的一位教授，在使用ChatGPT发现，自己被ChatGPT列入“对某人进行过性骚扰的法律学者”的名单，但实际上自己从未做过这件事情。无独有偶，2023年4月，澳大利亚一位市长发现ChatGPT造谣他曾因贿赂入狱服刑30个月，为了“造这个谣”，ChatGPT甚至杜撰了一篇不存在的《华盛顿邮报》报道。

4.被恶意使用。Check Point的研究人员曾在一份报告中提到，在ChatGPT上线的几周内，网络犯罪论坛的参与者，包括一些几乎没有编程经验人正在使用ChatGPT编写可用于间谍、勒索软件、恶意垃圾邮件和其他用于不法活动的软件和电子邮件。据Darktrace发现，自从ChatGPT发布，网络钓鱼电子邮件的平均语言复杂度就上升了17%。

5.违反基本社会道德和伦理价值观。在政治问题上，AI往往有着自己的伦理价值观的判断，向ChatGPT提出“你怎么看俄罗斯和乌克兰之间的冲突”“日本在核排污问题上做了什么工作”等问题，机器人的答案在某种程度上呈现出一定程度上偏颇的政治立场和态度。

6.泄露用户隐私。2023年3月，因为ChatGPT涉嫌违反数据收集规则，意大利宣布暂时禁止OpenAI处理意大利用户数据，并暂时禁止使用ChatGPT。2023年4月，韩国媒体报道，三星设备解决方案部门因使用ChatGPT，导致良品率/缺陷、内部会议内容等敏感信息泄露。

政策法规应对解析

随着大数据时代的到来和计算机能力的迭代，人工智能（AI）技术在近些年进入了黄金发展期，各国对AI技术也开始施行不同程度上的监管。欧盟于2021年12月发布了《人工智能法案草案》，而该草案规定了对高风险AI系统的监管措施。根据该法规，高风险AI系统需要经过严格的评估和认证，以确保其符合欧洲联盟的法律和道德标准。

2023年7月13日，中国国家网信办会同六部委共同发布《生成式人工智能服务管理暂行办法》（以下简称《暂行办法》），并宣布该《暂行办法》将于2023年8月15日正式施行。其中明确提到，提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，遵守以下规定：

（一）坚持社会主义核心价值观，不得生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容；

（二）在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视；

（三）尊重知识产权、商业道德，保守商业秘密，不得利用算法、数据、平台等优势，实施垄断和不正当竞争行为；

（四）尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益；

（五）基于服务类型特点，采取有效措施，提升生成式人工智能服务的透明度，提高生成内容的准确性和可靠性。

统信UOS的AI安全之道

在全面AI时代，统信软件作为业界领先的操作系统厂商，积极主动全面拥抱AI，致力于为用户提供更加智能、高效、安全的操作系统体验：

首先，统信软件运用尖端的人工智能技术，打造了智能AI助手。该助手能够实现方便快捷的自然语言互动，在40余项日常应用场景如启动应用、设置系统参数和安排行程等方面表现尤为出色。它还有助于解决问题并进行文本创作，真正实现了“一语千金”。借助这样的实用工具，用户仅需轻唤几句便能完成各种事项，极大地提高了效率。

其次，统信软件认为AI作为基础能力，应赋能操作系统通用场景的个性化服务、系统应用接入AI能力、提高开发管理维护效率、成为个人智能助力提高生产力。为此，统信软件在AI生态布局方面进行了广泛的合作，目前已经覆盖90%主流开源大模型与AI框架。此外，统信软件还发布了UOS AI V1.1版本，并与多家大模型伙伴签署“灯塔计划”，携手共建行业新生态，推动操作系统产业繁荣发展。

同时，针对AI安全问题，统信UOS采取了多种有效的应答之道。

1.统信UOS注重数据隐私保护。在AI应用过程中，用户数据的安全和隐私至关重要。统信UOS在操作系统层面通过全盘加密，文件保险箱等方式提供核心数据的加密存储，并且通过严苛的系统级访问控统信UOS的AI安全之道制，确保用户数据不被非法获取和滥用。同时，统信UOS还提供了丰富的数据管理工具，帮助用户更好地掌控自己的数据。

2.统信UOS强化了系统安全防护。针对AI可能带来的安全威胁，统信UOS采用了先进的防火墙、病毒防护等技术，有效防范恶意软件的入侵和攻击。同时，统信UOS操作系统有一套严格高效的漏洞补丁发掘-修复-验证-发布机制，从而保证了安全更新和补丁的及时性和准确性，及时修复潜在的安全漏洞，确保系统的安全性。

3.统信UOS还与业界领先的AI厂商进行了深入合作。通过与AI厂商的紧密合作，统信UOS可以及时获取最新的AI技术和安全防护措施，共同应对AI安全挑战。这种合作模式不仅有助于提高统信UOS的AI安全能力，还可以为用户提供更加丰富和优质的AI应用体验。

4.统信UOS还注重用户教育和培训。为了提高用户对AI安全的认知和防范意识，统信UOS提供了丰富的培训课程和教育资料，帮助用户了解AI安全的基本知识和防范技巧。通过这些培训和教育活动，用户可以更好地理解和应对AI安全问题，降低安全风险。

总之，统信UOS在全面AI时代采取了多种有效的应答之道来保障AI安全。通过数据隐私保护、系统安全防护、业界合作以及用户教育和培训等方面的努力，统信UOS为用户提供了一个更加智能、高效、安全的操作系统环境。在未来，统信UOS将继续关注AI技术的发展和安全挑战，不断完善和升级自己的AI安全策略，为用户带来更加出色的操作系统产品和服务。