佐伊・希皆格（Zoë Hitzig）告示我方在ChatGPT测试告白的合并周去职，并警戒称，用户与ChatGPT互动时露出了宽阔诡秘主见，OpenAI如若基于这些数据构建告白体系，可能带来主宰用户的风险。

　　她是前OpenAI明星参议员，现任哈佛大学参议员协会低级参议员。

　　她所撰写的全文如下：

　　本周，OpenAI启动在ChatGPT上测试告白。我也在合并周从公司去职。在曩昔两年里，我作为参议东谈主员参与模子构建与订价机制推敲，并在行业尺度尚未开荒之前参与制定早期安全战术。

　　我曾敬佩，我方不错匡助AI开发者提前应付这项手艺将带来的问题。但本周让我愈加阐述一个渐渐明晰的判断：OpenAI似乎仍是不再讲求追问那些我当初加入时但愿一齐回答的要道问题。

　　我并不觉得告白本人是不谈德或不对伦理的。运行AI系统老本不菲，告白不错成为进击收入开首。但我对OpenAI现时的策略抱有长远担忧。

　　多年来，ChatGPT用户创造了一份前所未有的“东谈主类坦诚档案”，很猛进度上是因为用户敬佩我方靠近的是一个莫得私利动机的对话对象。东谈主们在与这种可安妥、可对话的声息互动时，露出了宽阔诡秘主见——包括医疗心焦、脸色困扰、对天主与下世的信念等。如若基于这些数据构建告白体系，就可能带来主宰用户的风险，而咱们面前既枯竭一语气这种风险的器具，更谈不上有用端庄。

　　好多东谈主把AI资金开首问题容貌为“两害相权取其轻”：要么把变革性手艺只留给付得起钱的少数东谈主，要么罗致告白形式，即便这意味着诓骗用户最深层的战抖与逸想来销售居品。我觉得这是一个伪命题。科技公司不错遴选第三条路：既保合手器具的庸俗可用性，又末端企业对用户进行监控、画像和操控的动机。

　　OpenAI暗示将效能ChatGPT告白投放原则：告白会明晰标注，只出面前回答底部，不会影响修起内容。我敬佩告白的初版概况率会效能这些原则。但我回归后续版块可能不会，因为公司正在树立一个经济引擎，而这个引擎会不停强化冲突自身法例的激发。

　　Facebook早年曾经高兴用户将适度我方的数据，并能对战术变更进行投票。但这些高兴其后慢慢消弱。公司取消了公众投票机制，一些堪称增强用户数据适度权的阴私退换，其后被好意思国联邦贸易委员会认定本体上让更多私东谈主信息变为公开。这些变化是在告白形式压力下渐渐发生的——这种形式把“用户参与度”置于首位。

　　为了最大化参与度而消弱原则的趋势，可能仍是在OpenAI里面出现。公司原则上反对仅为告白收入而优化用户参与度，但已有报谈指出，九游会app下载公司本体上仍是在围绕“日活跃用户数”进行优化，可能通过让模子更相投、更勾通来达成。这种优化会增强用户对AI的脸色依赖。咱们仍是看到依赖带来的后果，包括精神科大夫记载的“聊天机器东谈主神经病”案例，以及有指控称ChatGPT在部分情况下强化了用户的寻短见倾向。

　　虽然，告白收入也可能匡助确保最巨大的AI器具不会只属于付费能力最强的东谈主群。Anthropic暗示Claude始终不会投放告白，但Claude的用户限制远小于ChatGPT面前约8亿的周活用户，其收入形式也全都不同。此外，ChatGPT、Gemini和Claude的高端订阅价钱已达到每月200至250好意思元——是Netflix尺度订阅价钱的十倍以上。

　　因此，真实的问题不是“要不要告白”，而是能否树立轨制结构，在幸免将东谈主们排斥在手艺以外的同期，也幸免把他们作为可被操控的挥霍者。我觉得不错作念到。

　　一种样式是明确的交叉补贴机制：用某类高价值营业客户或服务的利润，补贴大众的廉价或免费使用。举例，如若某企业用AI大限制替代原来由东谈主类完成的高价值作事（如房地产平台用AI写房源和估值敷陈），就应支付附加费，用于补贴公众探望AI器具的老本。

　　这一念念路相同于要道基础范例的大众补贴机制。好意思国联邦通讯委员会条目电信运营商向基金缴费，以保险农村和低收入群体的通讯与宽带服务。许多州也会在电费中加入大众福利附加费，用于低收入赞助。

　　第二种样式是：允许告白存在，但必须配套真实具有拘谨力的惩办结构——不是博客著作式的原则声明，而是对个东谈主数据使用领有寥寂监督权的轨制安排。举例德国的共同惩主义条目西门子、大众等大型公司在监事会中赐与职工最多一半席位，证明私企也不错被强制纳入利益干系方代表机制。Meta也受其外部监督委员会裁决拘谨，尽管该机制恶果存在争议。

　　AI行业需要的是这些机制的组合：树立包含寥寂大家和数据权力代表的惩办委员会，对哪些对话数据可用于定向告白、哪些属于首要战术变更、用户应被见知哪些信息等问题领有具有拘谨力的决定权。

　　第三种旅途是把用户数据交由寥寂相信或合营社管制，在法律上必须以用户利益为先。瑞士的Midata合营社即是一个例子：成员可将健康数据存储在加密平台，并逐项决定是否向参议东谈主员绽开。成员通过大会惩办战术，由其选出的伦理委员会审查数据探望肯求。

　　这些决议都拒接易施行。但咱们仍无意代去完善轨制，幸免我最回归的两种拆除：一种是免费但操控用户的手艺体系；另一种是只服务于少数付费者的手艺体系。

包袱裁剪：陈钰嘉