安全 RAG：保护和推进 AI 创新

[mdhasan550]

生成式人工智能有可能彻底改变企业处理内容的方式，提高效率并增强决策过程。

通过使用在海量数据集和代码上训练的大规模语言模型 (LLM)，生成式人工智能可以识别模式、理解上下文并生成类似于人类创建的内容（例如文本、图像甚至视频）的输出。所有这一切都得益于一项名为搜索增强生成 (RAG) 的突破性人工智能技术。

目录
为什么 RAG 对企业如此重要
什么让人工智能变得“安全”？
安全、企业级、智能的内容管理
“安全 RAG” 解决首要问题
您的安全企业级 AI 内容合作伙伴
为什么 RAG 对企业如此重要
随着生成式人工智能能力的快速发展，大多数企业正在制定战略，以便在其运营中更好地利用人工智能来增强和实现其业务目标并保持领先于竞争对手。

在企业用例中，AI 生成的内容和见解取决于向 LLM 提供的上下文和相关信息的数量。 RAG 允许 LLM 检查大量信息，而不会产生模型不堪重负的风险。

虽然大多数公开的 AI 模型都利用 RAG，但这些 LLM 是在公开内容上进行训练的。希望利用 RAG 技术实现其用例的公司应确保 LLM 接受其特定数据的训练，以生成上下文答案并避免产生幻觉。这现在是一个安全问题。企业需要 AI 技术以安全的方式利用 RAG 并生成适当的内容，同时确保内容的安全、私密和合规。

什么让人工智能变得“安全”？
想象一个涉及敏感数据的场景，例如收购。其中一名收购官负责对敏感财务文件、员工薪酬和其他重要信息进行尽职调查。

在这些情况下，人工智能可以发挥极大的作用。它可以提供见解、确定策略、评估风险并总结复杂的文档。然而，这导致AI模型可以访问高度敏感的数据，包括用户可能无法访问的信息。这会带来信息泄露的风险。

此场景说明了企业在利用人工智能时需要考虑的三个关键的安全和隐私问题：

用户访问内容的适当权限：并非所有用户都有权访问机密内容，例如雇佣合同或财务预测。用户只能访问完成工作所需的内容。
正确的用户访问AI：管理用户对AI本身的权限，以确保数据落入正确的人手中。例如，您可以与公司外部的人员合作，同时限制他们对 Box AI 的访问。在没有适当控制的情况下允许所有用户访问人工智能可能会导致未经授权的数据泄露和滥用。例如，员工可能会在准备报告时泄露敏感的客户信息。将对 AI 的访问限制为特定用户和内容有助于保护您的数据、遵守 GDPR 等法规并防止潜在的泄漏。
AI 访问正确的内容：此外，必须在 AI 集成中内置护栏，以确保 AI 模型本身只能看到运行查询的用户有权访问的内容。
实施这些措施将有助于保护敏感信息 ws 粉丝 免遭未经授权的访问，并防止人工智能系统意外泄露个人信息。这有助于保护用户隐私，维护商业信任，并减轻与滥用人工智能相关的潜在风险。

然而，实现这种级别的细粒度权限和访问控制对于许多企业来说是一个难以解决的问题。在许多用例中，AI 及其引用的知识库必须可供用户访问。否则，用户不应该看到的信息可能会被泄露。

换句话说，公司需要一种方法来相信，即使在实际 RAG 流程开始之前，AI 也会尊重内容和用户权限。

安全、企业级、智能的内容管理
为了利用 RAG，公司必须解决的一个关键问题是权限。

企业需要能够以安全、权威和集成的方式利用 RAG 的 AI 技术。您需要生成正确的答案，同时确保内容的安全、私密和合规。

这就是 Box AI 的“Secure RAG”可以提供帮助的地方。

“安全 RAG” 解决首要问题
Box AI 解决了这三家公司对 RAG 的担忧。

细粒度的用户权限检查确保正确的用户可以访问正确的内容，因此用户只能查看和与他们被授权访问的文件和内容进行交互。 Box AI 不断参考文件上设置的权限来验证用户是否可以访问特定内容。
Box AI 执行额外的用户配置检查，以确保正确的用户可以访问 AI。管理员还可以在管理控制台中配置用户可以使用 Box AI 的服务。例如，临时工或合同工将无法访问 Box AI，但您可以允许他们查看Box Hubs中生成的内容。
Box AI 仅查看提问用户可以访问的内容，从而降低了人工智能驱动的数据泄露风险。用户可以在他们的 Box Notes 中选择文本来调用 Box AI，而 Box AI 将仅在提示中包含突出显示的文本。如果您在预览中打开的文档中启动 Box AI，Box AI 将仅将打开的文档中的内容添加到提示中。 Box AI 仅使用 Hubs 中精选的内容来提供相关的上下文答案。
通过赋予组织决定其 AI 模型参考内容的权力，Box 确保了两件关键的事情：

降低人工智能利用超出范围的文档或文档集返回不相关或不合规答案的风险。
Box AI 生成的结果是质量更高、更相关，同时尊重用户权限。
“安全 RAG” 解决首要问题

您的安全企业级 AI 内容合作伙伴
Box AI 按照企业级标准设计，允许您将最新的 AI 功能应用到您的内容中，同时确保其安全可靠。实现此目的的一种方法是通过“安全 RAG”。 Secure RAG 不仅为 AI 和内容提供完整的访问控制，而且还具有适应特定用例的灵活性。

数据安全和人工智能的安全使用是 Box 提供的服务的关键组成部分。为了加强这一承诺，我们发布并遵守了一套人工智能原则。这些原则指导着 Box 人工智能技术的开发和部署，我们努力确保 Box 的价值观与客户的严格安全和要求保持一致。