XuLaLa.Tech

最近Sora很火，跟去年的ChatGPT一样，然后就是各种Sora卖课的。也是奇葩了，明明都还没有开放公测，也不知道卖的课里能有些啥。

话说回来，同时火起来的还有一个李一舟，AI卖课第一人，看了他的课程表，针对小白用户搞的，几乎都是能搜到的东西。他是不是AI专家不好说，但是营销确实是一把好手啊。

目前 Sora 模型目前已通过 Red Teaming 的方式开放内测申请，大家可以自行尝试。

网址：https://openai.com/form/red-teaming-network

填写要用英文，如果不会写，其实可以让ChatGPT帮你写一个。

Q什么是 OpenAI Red Teaming Network？

A

OpenAI Red Teaming Network 是一个由网络安全专业人士和人工智能专家组成的专门小组，负责对 OpenAI 的人工智能系统（包括 GPT-3.5 等模型）进行全面的安全评估。“红队”一词是指专家模拟对抗性攻击以发现系统中的漏洞，从而加强其防御的一种做法。

QRed Teaming Network 是如何运作的？

A

1.模拟攻击：网络中的道德黑客模拟对抗场景，以了解人工智能系统如何应对潜在威胁。这可以包括探测模型输入中的漏洞、分析响应输出的偏差以及对安全措施进行压力测试。

2.道德准则：红队成员遵守严格的道德准则，确保他们的行为符合 OpenAI 对负责任的人工智能开发的承诺。

3.协作方法：该网络与 OpenAI 的内部安全和研究团队密切合作，共享研究结果，制定缓解策略，并不断改善 AI 模型的安全状况。

4.持续评估：红队是一个持续的过程，定期评估和更新以解决新出现的威胁和漏洞。

Q对人工智能安全的影响

A

OpenAI 红队网络的工作对人工智能安全具有深远的影响：

1.增强鲁棒性：通过主动识别和解决漏洞，人工智能系统对攻击和操纵变得更有弹性。鲁棒是Robust的音译，也就是健壮和强壮的意思。 它是在异常和危险情况下系统生存的能力。 比如说，计算机软件在输入错误、磁盘故障、网络过载或有意攻击情况下，能否不死机、不崩溃，就是该软件的鲁棒性。

2.减轻偏见：网络的评估有助于发现和纠正人工智能模型中的偏见，有助于实现更公平、更公平的人工智能结果。

3.用户信任：用户可以对人工智能系统更有信心，因为他们知道它们经过了严格的安全评估。

4.道德人工智能：红队与 OpenAI 对道德人工智能开发的承诺保持一致，确保人工智能技术的开发是负责任的。

1. OpenAI Sora
2. OpenAI's Red Teaming Network: Challenging AI Security
3. 百度百科 - 鲁棒性