从内容安全到可信数据：隐拓智安在大模型安全领域的探索与实践
01:11:01 Share

欢迎收听超越之路我是主持人孟宁在 2024 年我们率先在国内推进了与 AI 时代的超级个体与超级团队相关内容的探索超越之路节目内容基于超越之路社区与 UP 超级个体加速计划主办的 Ultra Talk 线上交流活动整理而成通过持续与 AI 时代早期一线创新创业的超级个体和超级团队进行对话捕捉积极信号探索更多可能性

我们致力于连接探讨组织和赋能 AI 时代的超级个体与超级团队这里不仅是一档播客更是一个个体成长与持续进化的思想平台陪伴每个追求卓越的你让我们一起突破边界超越自我持续进化

我们期待能以各种方式与你产生联系本期节目的 Ultra Talk 线上交流是在 4 月 28 日我们邀请到了飞行嘉宾张天心天心是影拓之安创始人兼 CEO 商业化与科研成果落地转化的专家

创业首年及获客 40 家明星与客户在本期交流中我们围绕从内容安全到可信数据引托芝安在大模型安全领域的探索与实践与天心深入探讨了 AI 时代的大模型内容安全与合规实践数字内容确权与知识产权保护新范式 95 后女性创业者在 AI 时代的自我突围等话题那天心你先跟我们现场同学们打个招呼吧

特别开心有这个机会而且其实也是等待了很久所以终于可以今天进行一只深入的交流那我们今天问题还挺多的我们就一一的展开来聊一聊那我们的第一个部分就是想从时代的角度来请天心梳理一下想请你跟我们的观众朋友们一起

简单的分享一下从你的学习工作和创业的经历有没有哪些关键的节点对你的影响比较深远或者是影响了你的就业或者说创业的一个选择的路径呢好的好的我的本科是在医科大学然后研究生学的是金融工程这块都是比较大的

毕业后的前两份工作都是在老家的传统行业酒业和教育业所以也是做了一些不同行业的探索快速地去找到了自己想要的工作状态当时也是因为在传统行业待过以后觉得能量没法完全被激发所以希望能够去大城市试一试第一次去到深圳的时候就喜欢上了这个城市觉得很有活力也很真诚高效工作里面对我影响比较深远的几个节点一个是在我第一次工作的时候有个前辈分享了一句话

这句话也是我现在的一个工作上的方法论叫做不患无畏患何以利就是你不要去担心没有自己的位置而是应该去担心自己有什么东西可以站得住脚这样的话其实就会让我一直都会有个比较积极的心态去参与当下的工作第二个节点呢是刚到深圳的时候朋友聊天分享到深圳有很多 40 多

对 能够从零开始创业的前辈那种 always day one 的精神也让我很鼓舞这可能是两个比较重要的节点那确实就是这两个跨度确实还很大就包括从你的本科到研究生到现在的这个这三个跨度来说确实都挺大的那所以接下来就想要问

作为一位非技术背景的创始人为什么会选择创业呢又是什么促使你聚焦大模型安全领域的创业你是如何跨越这里面的知识鸿沟呢嗯

能够感知 AI 是洪流可以投身选择安全其实也是因为在没有安全技术背景的情形下刚接触 AI 的时候更容易把自己放在用户的视角我觉得这是洪哥我现在还没跨越呢这也是我做的不好的一点但有个比较边角料的办法是你可以找到这个行业优秀的前辈去请教

这样能够快速获得一些大方向上正确的认知框架出来了你可以慢慢通过一些比较随意的信息或者说新闻啊论文以及和他人的沟通去加深或者说去修正这种框架作为一名 95 后的女性创业者在 AI 这个相对技术驱动的领域创业有没有遇到过比较重大的一些挑战

当时你的第一反应是什么又是如何去思考和解决的呢其实我回想一下的话我会觉得目前没有遇到很重大的挑战或者说你遇到的挑战其实就是可以拆解的比如说你对客户的需求理解不足那你可以先拆解为对业务需求的理解由业务延伸到了具体的场景之后你先理解了场景你可能就要去进行不同技术的对比

这个问题之前有存在吗那以前的解决方案是怎么解决的如果现在这个问题以前没有存在那它现在存在了之后你是否可以用以前的技术方案延伸来解决现在的这样一步步的去拆解其实没有说特别重大的挑战

对那所以其实刚刚听天心聊就觉得你其实整个自为逻辑和去思考问题的方式其实是非常严谨的那是不是其实也是得益于你原本学的这些专业时候的这些习惯呢

我是一个比较发散的人但是可能我的合伙人团队都比较互补我很散就比如说我很多人不相信我是 INFP 但其实我就是很爱也比较 P 但是我的可能其他几个合伙人他们结构性思维非常重那你在跟他们沟通过程中其实也会或多或少的去受影响我觉得这也是创业特别好的一个点就它会让你重塑你自己的一些思考的结构去挑战你自己的边界甚至是去颠覆你自己

那我们想请天心来分享一下你从技术到行业的一个整体的观察你是如何看待当前 AI 内容安全数据合规行业的国内外的一个发展现状呢现在的话 AI 的内容安全和数据行业都在处于高速的发展期但国内外的发展路径和策略点不太一样就是国内的发展现状就政策驱动非常明显

中国在 AI 方面的政策是先行的中国其实第一个提出了关于生产制人工智能管理的官方办法的国家比如还有上网先办的青狼专项行动等等需要去强调你 AI 生成内容的合规性真实性以及数据安全那针对这样的话企业的合规需求就激增了伴随着 AI 大模型比如年初 DeepSig 的爆火的广泛应用那企业也面临数据安全战法的公平性错误管制等等很多的挑战

这样也可以推动我们这些专业的合规团队和技术解决方案的需求另一点是其实现在的技术防御体系是不成熟的尽管已经有云厂商通过 AI 审核在电商啊社交等等应用但是像大模型的换绝以及深度伪造等等问题其实现在是缺乏了系统性的解决方案的不过可能我们这个年纪你 AI

也无法去区别 Deepfake 的视频和图片等国际上的话看立法和行业标准是并行的比如说欧盟推出了像数字的服务法案然后要求平台需要部署全链条的监控体系美国就会通过像四要素分析去平衡版权和 AI 训练的需求另一方面是开源和闭源也是一个海外的冲突

一些公司它会面临数据版权的诉讼然后这样会促使行业去推动和探索联邦学习数据脱敏等等的合规技术另一方面就是其实国际上是面临了地缘竞争的各国在 AI 的标准上一定要合作比如说像 OECD 的 AI 原则

但他们同时合作同时呢又还去竞争比如说中美的技术出口管制对数据要求也是不一样的企业就需要去面对像跨境数据流动中的不同国家的不同的合规风险所以我们其实会认为国内的话可能是更强调政策合规以及主动防御但国际上可能更重视版权合规还有技术的伦理将来的话

可能行业上会向技术监管生态去协同发展企业呢就要去平衡创新还有风险的管控那下一个问题想问一下天心那你觉得在 AI 时代

大模型生成带来的这个海量内容爆发式增长这背后行业面临的核心挑战是什么如果是从我们的角度从体感上来说我们主要是能够体会到几个点第一是内容真实性的危机不仅是 AI 的幻觉就首先大模型会生成虚假性这个可能大家都明白比如它会杜撰文献引用一些不存在的网站会有一些错误的事实

另一方面是深度伪造就技术让虚假的图片和视频更难分辨到 23 年 24 年 25 年像语音克隆的诈骗案例可能激增了百分之几千而且不停地在持续增长这是一个内容真实性的危机

另一方面其实面临 AI 的效率和成本的矛盾审核效率和成本传统的 AI 审核是很难去应对 AI 的内容规模的比如说像一些云厂商他们每秒可以审核几千张图片人力成本涨了 90%以上但是 AI 审核现在还会面临着误判和偏见的问题

因为它并不是说你有极度敏感的内容才会给你办掉它可能是在隐喻或者说诱导这时候 AI 的误判率就会非常非常高另一方面是像生成一些低质量的内容但它不是完全的有害比如说一些营销文案或者说虚假的新闻泛滥那这样会加速我们对信息的接收像过年期间就有多篇

请不吝点赞 订阅 转发 打赏支持明镜与点点栏目

数据被窃取等等 90%以上的本地服务器可能都处在裸奔的状态另一方面数据在跨界流通也会有一个合规的问题比如说欧盟的 GDPR 还有中国的数据安全法它就限制了你的 AI 去全球化的部署所以这个时候我们既要去用关注 AI 也要用 AI 去对抗 AI 需要去研发出能够抵御 AI 幻觉的像

换取检测工具啊输出水印还有实时风控的系统去帮助企业在这个 AN 内容爆炸的时代去取得效率和安全上的一个平衡那在当前大模型内容安全行业有哪些亟待解决的痛点呢引拓治安又是瞄准了哪些具体的问题

目前的几个行业痛点,我们的体感是,一是 AI 的幻觉治理不足,就缺乏比较标准化的检测手段,虚假的信息特别容易被二次传播,因为公众难以辨别,像我们刚刚提到梁文峰的相关的虚假文章被传播,而且很容易引起人的那种情绪上的共鸣,就因为他生产的内容实在太上人血了了。

所以这个是目前没有标准化检测手段另一方面是像数据泄露还有模型的盗用等等因为一些开源的工具它的安全配置是一般的就会导致模型被 AE 的篡改去做成有害的内容以及版权的归属也非常模糊 AI 形成内容是否受诸作权的保护或者说你在我未经允许的情况下盗取了我的数据去进行训练是否侵权法律上面也是稍微明确的有些国家可能提出了一些建议但是也没有说完全的落地

另一方面就是偏见和伦理的风险模型会放大性别和种族的偏见等等会影响公平性比如说 AI 招聘它可能更倾向于去招聘男性然后一些图片的生成内容的时候你说生成奴隶的照片它可能就会以黑人为主啊等等就会存在这样的一些偏见但我们会有一些

部分的解决方案比如说针对幻觉的检测我们可以基于多模态的交叉验证比如说针对一些权威数据库做比对去降低错误信息的传播风险另一方面像模型方面我们是可以做模型的安全加固的提供像模型的身份验证数据透明以及防止本地部署的漏洞等等方案另一方面就是我们可以做一个版权的数源系统

利用你以前的区块链纯正以及现在的 AI 水印去确保你的 AI 训练数据可以追溯可以被确权其余方面就是在大模型训练的时候其实我们就可以在轮底对齐就把它加入进去比如说构建一些公正的数据集来减少算法的偏见像中国的话现在已经推出了官方的中文语调平台就是希望能够给模型在训练时能够提供这样的轮底对齐对主要就这几点分享

那数据安全内容审核与知识产权保护如何在当下制约 AI 行业的健康发展呢

我们刚提到像大模型的训练它会依赖海量的数据然后数据跨境流通又受各种条款的限制比如 GDPR 等等那这时候企业就需要投入高成本来满足合规要求比如说针对欧盟的 GDPR 那你就必须做本地化的存储还有脱敏处理这也是一种合规成本

另一方面是像一些抗原工具它的安全漏洞扑发之后模型的参数泄露啊还有一些用户的数据泄露也会导致企业的生育受损所以这也是一种制约另一方面就是像我们模型的内容安全审核的规模和进度是有矛盾的因为 AI 它的内容在爆发式的增长

传统的人工审核效率不足但 AI 审核又很容易面临幻觉和误判就它容易将合理的内容标为违规另一方面是像多模态的检测技术其实现在还没有成熟那虚假金融欺诈还有一些虚假新闻的风险是加剧了的这也会制约 AI 行业的健康发展另一方面我们刚刚提到就知识产权的权属很模糊

因为人类和 AI 的带宽是不一样的如果说我的数据能够在未经许的情况下被你直接拿走这样你会去侵犯也会降低我的一个创作欲所以现在也是关于很多 AI 训练版权争议的频发比如说像爱奇艺去起诉 minimax

OpenAI 去被纽约时报起诉等等那这个时候模型会面临高额的赔偿和数据来源的重压力另一方面因为我们现在用 AI 生成内容的制作权是稍微统一的那法律在这上面的滞后性也会抑制你的创作活力你可能觉得可能我通过几个小时通过 AI 的 promp 的交互制作出来的很有意思的作品能够被别人直接盗走的话这样也不意思我的创作权这是我的分享

那从移动互联网时代到 AI 时代作为一名非技术背景的创业者进入高度技术密集型的大模型内容安全领域你是如何克服知识壁垒的刚刚可能最一开始的时候有提到说你还是不是还没有完全克服对对对你在此有没有一些比如说小的建议对于类似背景的创业者能给他们一些小的建议呢嗯

我觉得应该会有一点点就是首先你其实是需要构建跨资识的因为像编制一个跨资识的网络一样因为你要联合技术合伙人比如说一些 NLP 的专家一些安全工程师来弥补你的技术短板同时你可以通过一些像行业峰会

去快速的掌握一些技术的趋势和政策边界因为你可以通过跟其他人的交互过程中快速获取到很多的信息另一方面是你可以从一些垂直的领域切入进去比如说你原本是做金融的那你其实是有行业的 knowhow 的这样说你可以理解行业特有的风险比如说金融大模型它的换绝率需要低于 5%那你这就可以反推技术方案第二点是你需要去善用开源生态因为你教学费的机会并不多

所以其实基于一些开源的模型比如说 DeepSeq 进行二次开发能够降低你的底层的研发成本其实也就降低了你的沉没成本这样可以集中资源去攻克细分场景的合规适配第四点就是可以去建立一些技术和法律的协同团队因为我们企业其实在发展过程

我们做内容安全的核心就是要去风险量化

你需要知道哪些错误是致命的然后呢你去找到能够解决它的人这是我的分享谢谢你如何看待当前的创业环境的变化从资本技术或者说用户需求的方面 AI 时代有移动互联网时代有哪些变化呢

嗯,创业环境上的话,因为我其实没有经历过移动互联网的创业环境,但是也听过一些分享或者说一些播客,通过一些前辈比较执行的这种分享,那我的吸收到的一个信息是,可能移动互联网时代是以资本的逻辑是以流量为王,你快速的规模化,但 AI 时代的话,它的技术比率会相对高很多,人自己也会集中在头部,比如说六小虎,

单人融资可以超过 50 亿元技术门槛的话以前的互联网时代 APP 的开发门槛是比较低的比较依赖 UX 的创新但现在的话大家都说人才算力以及数据是 AI 时代的能源新能源最重要的三个所以出放公司其实是可以联合一些云厂商或者开运的社区进行开发从用户需求的角度来看以前的互联网时代

主要解决一些功能性的需求比如说像社交啊支付啊但现在的话 AI 需要去解决信任的需求比如说我如何保护我的数据然后你的这个幻觉怎么去解决好这样我才能够相信你提供给我的内容竞争点来看因为以前的互联网时代流浪风顶了其实大家都在争夺用户的时长

每团的互讯多少时间刷淘宝能获得你多少时间抖音能获得你多少时间但现在的话可能更注重的是数据的质量和合规性的竞争吧资本端现在可能会更强调合规及壁垒去吸引长期价值的产业资本然后技术端的话现在可以通过像跟像我们的策略就是跟高效工业实验室来获得一些更前沿的治理技术这是我的一个分享

我们现在就想来进入我们第二个板块的讨论就是从行业变革到内容安全的一个新范式那 AI 时代内容安全领域从传统的审核到现在 AI 时代的转型过程中发生了哪些本质性的变化

AI 时代的那种审核器从以前的规则驱动我们觉得现在更多的是转向了概率驱动所以是发生了核心的范式迁移比如说你的审核对象他从一个显性的违规到了隐性的对抗显性违规你看到一个敏感词你马上能判明它是敏感词我们可能这不好说到现在是隐性的他可能一句话里面根本就没有有非常致命的敏感词那整句话就是偷偷地在引导你在隐喻

那传统的审核的话依赖关键词和名单比如说敏感词过滤图像的哈希子对比你的规则非常明确但覆盖是很有限的 AI 时代的话需要对你的语义对抗比如说你的谐音啊你的隐喻照顾审核等等以及多模态的伪造比如你的视频局部的篡改

内容的动态演化等等从技术逻辑上从以前的人工为主转到了人质解统因为以前传统的人工审核效率是比较低的 AI 审核可能每秒可以处理上千的内容但是现在人工复核的不确定样本还是会比较高所以又面临了新的挑战就是 AI 审核的误判率和幻觉率是高于人工的

所以就需要去把握一是 AI 的高效审核二是要去降低它的误判率那从风险形态来说改变的一个方式是从静态的内容变成了动态的生成用户 恶意的用户可能会通过 Prime 的工程生成对抗样本比如说用微调指令去照顾你的风控

你就需要实时的去更新模型模型可以通过生成海量的对抗样本来训练你的防御系统这样你在遇到一些恶意的微调指令的时候你能够去识别它另一方面是多么它有内容的识别的要求也会更高因为你需要联合文本图像和音频去分析它的整体内容有没有害另一方面是从责任编辑来看以前是需要平台自律传统的内容审核是集中在平台上的

但 AI 时代就需要模型厂商内容平台还有监管都互相去协同比如说网信办要求我们需要有深度合成标识这个事情就是需要内容平台厂商一起去做然后监管去监督等等那大模型带来的新型风险如幻觉 偏见 隐私泄露等等如何影响内容安全和数据合规的行业格局呢在 AI

现在幻觉上对行业影响非常非常明确的是因为虚假信息泛滥但像学术论文伪造削减你的社会的信任基础现在就会有一些模型可能会通过一些事实性的分级标签来去降低你的误导性另一方面是算法的偏见也会放大性别和种族歧视

比如说 AI 照片会偏向男性这样呢还会引发法律诉讼和品牌的危机然后应对案例里面像欧盟的法案就提出来了需要去验证算法的公平性审计那你其实可以通过构建一些正确的数据集来减少偏见另一方面是像隐私泄露也会对合规有影响因为训练数据包含了用户的敏感信息的话就会违规像欧盟的 GDPR 还有是押韩权法等等这时候

可能需要通过像联邦学习差分隐私等技术去实现数据的可用不可见另一方面是版权争议也是现在我们提的性情风险模型公司面临集体诉讼比如说纽约时报去洗手 OpenAI 等等那你的训练成本可能会因为版权的清算增加 30%以上有些公司呢它会仅仅去使用授权的数据比如说 Adobe 的

母网站他们就会仅仅使用被授权的数据但是这个数据的成本会高出 30%然后在油管上可能会探索 AI 的分层向创作者去付费那这样的话就会让行业格局去重复比如说我们从事后拦截转向深层级检测另一方面是监管它的框架也会分化欧盟倾向是责任豁免然后中国呢是强调主动备案比如说甚至是人工智能服务备案以及深度合成备案等等

那接下来的是几个关于内容确权与数据所有权的新议题你如何看待大模型训练中的数据版权问题这对内容创作者平台方和模型公司各自有什么影响呢核心争议是因为法律上是空白的因为法律上是空白所以这个争议就非常大比如训练数据它的作品储存是受入座权法的复制权规制

但作品分析是否是属于侵权是没有定论的比如说你去学习它的因素风格这是属于是否属于思想的表达二分法然后在另一方来看对内容创作者来说你的作品被无偿的训练导致了你的收入下降比如说插画师去起诉 AI 的绘画软件你的维权成本非常高平台方来说用户需要去明确数据的使用权比如说你需要对这 API 进行收费

否则的话就会面临数据断供的风险那对于模型公司来说版权的输送会导致模型重构那这样你的训练成本是飙升了的当然它有不同的应对策略针对内容创作者其实可以组建一些像创作者联盟这可能会相对会激进一点就你可以去要求你的内容就是可以不用被拿去训练平台方的话可以去构建一些官方的授权的数据词这样的话可以进行版权的追溯确权

不用担心数据断供,也不用担心会意外的侵权。然后最终模型公司,如果你担心你的训练成本因为版权数据大幅提升,那你其实可以采用数据蒸馏,或者说采用一些合成的数据,这样的话可以是相对避免一些风险。也有一些国家可能会想选择行业责任豁免,比如说日本提供了这样一个非欣赏性利用的办法供大家采用。

大模型生成内容的真假难辨可能导致什么样的社会信任危机呢你是如何看待这一问题的他

它潜在几个很明显的危机场景比如说信息战你可以用 AI 的 DeepFake 去伪造政客的演讲比如说 2024 年的时候印度大选就会有 DeepFake 拉票视频这样就可以操作舆论那从司法困境上来说这样就会造成一个信息战那从司法困境上来说法庭如果他都很难以去辨别这个证据比如说 AI 生成录音也会影响他的判决的公平性

另一方面是学术崩塌因为学生用 gpt 去写论文写稿那其实现在期刊就会有一些被迫的去部署这个检测工具包括像 nature 它其实是会要求作者强调你的 AI 的使用声明的那解决方面的话

可能可以通过一些像我们通过强制的数字水印啊区块链纯正政策层呢是可以要求 AI 去标注内容的比如说中国我们现在就有一个强制性国标需要在 AI 内容里面强调它是由 AI 生成的那从公众层的话需要从很少很少就进行一些媒体的数字教育比如说像一些辟谣小课堂

去给不管是小孩还是中老年人还是我们去揭露一些 AI 诈骗的套路去进行这样的素养教育平台方面的话也需要去明确自己的责任你需要去构成从生成到传播到建委的全电脑风控

那这个问题也想请 Femo 也来聊一聊你的一些看法好的就是刚好就是前几天应该是前两周吧有一个比较火的网图那个网图其实大概的意思就是有一个设计公司的员工说他在电商上去买留言然后通过加 GBT 把那个留言改成快转留言照片然后去做净退款所以这个事情我觉得其实也挺有意思的那我当时就把它发到了一个社交媒体上吧大概

有是有十几万人去评价这个事情那么这个事情我觉得他其实跟以前就是苹果在我们中国区有了一个比较好的社会服务然后呢就有很多人通过这种作弊的方式去哎我们要成长来说是没有吸引精神吗去作弊

那么一方面我觉得是他可能就是促进一些反周避的工具就是说反周避的这种安全性的就是团队来解决这个问题还是一个毛鱼钝的关系但是另一个方面我觉得就是说这种问题他其实没有办法就是纯靠技术去解决还有一个就是社会契约的问题这个社会契约我觉得其实在国内普遍来说就是大家的

就是意识不是特别强大概是这么一个情况是的这对平台方特别是很多平台它一开始去规定说那些收购保障其实是为了维护正当的消费者的权益但如果说有人去恶意地让平台退款最后这个成本其实是分开到那些正常的用户身上所以一方面是在这个流程中

平台必须得想办法比如说现在他上午买电子产品他会在包装上强调需要进行这个开箱的录制不接受简单的图片这可能也是一个流程上面的完善另一方面就是他需要去加强对这种静态甚至是动态图片和视频的识别看对方是否有篡改的痕迹这样能够概率能更大概率的去避免对方用了一个被批过的图片和视频

另一方面我们再说我们如果去做对比的时候其实也要在用户可能在商家在发货的时候还得做一个自己的原有的真实能用的纯正这样才能对比因为你可能你都不用批图你买了个新鲜的榴莲你把一个你放坏了的榴莲说这是商家发货的这个时候商家也无法自证除非他留存了他的发货的视频可以证明我发给你的是 A 形状的榴莲但你这个坏的是 B 形状的一看就不是我的因为我的哪怕坏了也不是这样子可能会通过一些更多的

我们所谓的这种方案去避免对接下来想聊一聊关于团队合作和创业者的角色转变那些话题那其实我们知道天心作为非技术背景的创始人那你是如何去组建和管理技术团队的呢在与技术人员合作的过程当中有没有哪些关键的经验和教训可以跟我们分享

我觉得这一点其实是我可能相对还比较幸运一点因为一开始我非常明确自己不是技术背景缺乏技术基因所以其实你更需要把其他的内容转化成你的竞争力比如说你的政策的发言能力比如说我可以将法律条款里面比如说押韩选法的第 21 条转化成一个具体的产品功能比如说转化成一个数据分级分类的模块订阅身在卡位我可能会更清楚

我们要加入一些行业联盟去获得一些合规的资源和背书另一方面是我可能会也会通过一些因为更能够灵活的去跟企业沟通所以在针对于这些企业的时候其实我能够提出一些比较合理的合规及服务的方案在过程中那些关键的经验和教训就是在团队构建过程中你的技术合伙人他要兼具工程能力以及商业思维有你 CTO 比如说像那个

突然想不起来比如说我的合伙人对他就是兼具了工程能力和商业思维这样他能够理解我的商业方案并且还可以通过技术去反推回他的合理性另一个就是你除了技术合伙人以外还需要去找到互补型的团队比如说你的技术工程师算法工程师还有些合规上数据律师以及产品等等形成一个三角的架构因为一个公司不能全是销售不能全是 BD 也不能全是技术这样会都不均衡所以要搭建一个互补型的团队

另一方面是要有一个管理原则我需要去明确问题的定义比如说非技术创始人你应该聚焦在风险量化上而不是说你要去干预代码细节另一方面你可以采用之前像微软的 CTO 韦清老师的一个观点他说的是采用开卷考试的思维就是去鼓励试错

这样可以以更小的成本去迭代技术团队它其实不是个黑匣子作为创始人的话我要去跟这些其他的技术合伙人沟通我需要去掌握基础的概念比如说深度学习的原理但是我一定要避免去陷入技术细节避免让自己内耗在我怎么样都没法像我的技术合伙那么强势我的关键是应该去用商业逻辑来约束技术方向我们要的不是最好的模型而是最合规的解决方案

我这里其实补充一个问题我觉得还挺有意思的我就想问一下就是像天心比如说我们作为一个创始人或者 CEO 我们会更加的关注整个系统它的成本对吧就是会更加尤其是 B 端我更加关注的是如何快速的去完成交付但是可能就是说对于技术来讲说他更加关注的是我如何去打造我在技术能力的快速

或者有能力那这个时候就是说可能他会花更多的时间就是这个时候就会有一些成本上的问题那就从你的视角就是说你怎么样去是在这个方面去做到一个比较好的提衡呢

嗯我觉得团队一开始比如初创的时候他少而精的一个优势就是他决策可能相比较高是还有就是成本可控我们刚提到其实在在这个创始人如何去搭建和管理团队的时候我不需要在技术细节里面去抠但是我一定要去了解基础的概念可以让我可以让团队敏捷一点就是我去鼓励师错以最小的生命去更新迭代这样的话你即可能你在

对技术有一定了解的技术情况下你的判断不要出现 90 度的偏差这样是可以去进行小范围的试错的因为技术同学他可能会更关注在技术上有时候可能会自嗨比如拿着锤子找钉子但如果说你的技术有一定的了解你在去跟客户沟通的时候其实更能够去验证客户真的是否有这个需求所以在试错过程中其实你可以去动态的去修正你的动作好的好的嗯

谢谢两位那在 AI 时代的初创公司在组织结构上有没有哪些新的特点你如何看待小而精的团队在这领域的优势和劣势呢在规模上传统的团队可能就是比较成绩分明甚至是有一些部门的割裂

但 AIS 双方团队很扁平化大家很爱举的一个案例就是 Mid Journey 只有 11 个人签职但他们营收上亿对吧能力结构方面来看传统团队的话可能是比较专业化比如说你的市场和研发是完全分离的

但是 AI 的社长团队呢比如说我们团队的好几个同事其实都是属于 T 型人才他懂技术然后又有行业的 know-how 可以做一个结合在互联网时代其实产品经理我觉得就是这样的角色而且我也喜欢把这样的角色定义成一个翻译家你可以把你的客户需求转化成技术语言去告诉技术同时呢你又可以把技术可以带来的效果转化成通用性的语言告诉你的客户另一方面是像协作模式来看

传统的团队可能更会采用信心的流程一步一步往上递但是出生公司它可以形成一个敏捷的小组算法 产品 还有法务可以直接形成一个我们比如我们团队内部的这种合规的铁三角小团队小而精的优势就是你的抉择很高效因为你避免了官僚主义那个快速的去响应客户或者说监管的变化

另一方面是你的成本其实可控就是因为没有钱就从来家长孩子找当家所以其实你可能会更加依赖开源模型反而是会避免了前期很多很重资产的大投入的并且你也会去通过云服务的方式或许你还拿到了更好更优化的服务的体感还有这个响应的响应的效率这样的话也可以降低你的算力投入

那另一方面是就是你的技术深度可能是不足的不过你可以通过跟一些像高效实验室合作来去弥补另一方面是因为你作为出厂公司你的行业资源是非常有限的你的客户不够多所以这时候也可以考虑加入一些像生态联盟等等去获得数据和场景的支持和大家一起抱团

那你认为创业者如何快速完成创业的能启动我们需要考量哪些关键的要素呢创业你可以根据你的类型去做一些产业化的设计策略吧我们一直会讲单点或者说多边或者双边等等比如说以我们的 AI 安全领域来说我们就单边启动我们先聚焦在一个垂直的场景比如说我们会优先选择一个高付费的医院领域比如说 AIGC 的风控它不是一个泛化的需求 AIGC 它

金融 AACC 的风控对幻觉的要求会非常非常低它就是一个针对线的场景第二点是创业团队一定要去进行最小可信产品 MVP 的实践你可以先基于一个开源的模型去开发你的 API 而非去自研一个底层第三点是一定要去

做好早期用户的绑定比如说我们可以选择跟一些中小平台或者说一些明星客户共建一个试点来去积累我的案例一定要规避的就是一是避免完美主义因为大家会调侃到说有些人没有乔布斯的命但是有乔布斯的病你能启动方案你需要接受的就是 80 分的解决方案而不是说我一定要做出一个今天第一气鬼神的这样一个全新产品第二个是要去警惕你的认知偏差因为客户

客户常常会高估 AI 的能力比如说他希望你给我就是个精准的非常严谨的 high level 的这种专家版本他希望幻觉百分百是消除的这时候你必须前期就跟客户明确好你的技术边界去避免因为大家的认知没有对齐导致后面不化而散导致交付上面有落差等等那

AI 时代对创业者的角色与能力提出了哪些新的要求你认为非技术背景的创业者需要具备哪些核心素质才能在 AI 时代取得成功呢

首先我觉得现在的创业者可能他不像是一个管理者特别是我来说其实我更像是一个连接者我需要去链接整合技术法律还有商业的人才比如说我可能有非常非常强的技术人才但是我需要跳下这人的肩膀去摸清楚底层的逻辑那你需要掌握这个核心数字可能就包括了你的技术发言能力因为可能你的客户他也不一定是技术出身

那你在理解了一些大模型原理之后你能将客户的要求转化成技术你能够理解客户的要求然后呢同时你能够把这些合规要求转化成技术指标去跟技术沟通这样你可能更能知道技术的边界第二点可能是你需要具备一个风险的定价思维比如说我们在跟客户沟通的时候我们可能会去量化

它等于是安全风险一个是比如说你如果因为虚假的信息你不做这个安全你因为这个信息导致的品牌损失有多高比如说一百万我跟你做这个合规的成本只需要二十万这时候可能用户就会更愿意去付费第三个是你需要有一些像生态的协作意识比如说以合规为例我们就可能

会非常乐意参与到一些标准的制定和讨论当中那行动上的话我会建议非技术的创始人应该像产品经理一样去工作也要用行列的痛点去定义你的技术需求而非是去追逐技术潮流就我要用最新的技术去解决件事情我也相信 AI 时代的竞争并不是算法的竞赛而是合规级壁垒的生态竞争如何去理解合规级壁垒

就是大模型特别是大模型内容安全领域合规它不仅仅是一个法律义务它其实更像是企业构建你的核心竞争力的一个战略手段比如说运营政策门槛它的高成本包括合规成本淘汰了一些中小玩家另一方面是合规能力它也有技术门槛它可能会绑定你的核心技术比如说数据透明

版权溯源换绝检测等等会倒逼企业去开发专有的技术另一方面也会是你的一个合规门槛因为你的合规备书比如说你通过国家的大模型备案等等那你就是有这样的一个安全备书安全信任感那像金融机构政府客户他们可能也更于选择这样的服务商比如说蚂蚁的一件因为它的风控系统符合央行的金融 AI 应用指引所以也就成为了银行的采购首选因为生态

它竞争的本质其实是从你的单点的技术到全局的协同那非常典型的一个案例就是英伟达就有一个合规护城河大家都知道它的芯片是限购的那它的 AI 芯片不仅性能领先还能够通过美国的出口管制认证它就会成为全球云厂商的唯一合规选择

不过像网易一对他们也提供了一些很强的合规策略他们在深度合成管理规定出台之前就已经部署了一些相关的系统这样能够抢占一个政策红利另一方面是我们会相信其实在未来地缘分化会越来越严重不同国家之间它的监管的差异也会催生

不同的区域的合规方案比如说内容可能中国更强调内容安全然后欧盟更强调隐私保护等等我们总结 AI 级壁垒其实就是在 AI 安全领域 AI 级壁垒的本质是通过政策技术和生态的协同把外部的约束转化为内生的优势我们作为非技术创业者的话一定要去善用规则在巨图的夹缝中去构建小而美的合规互成合

那接下来我们的第三个部分想要具体的就我们的影拓治安来聊一聊天心在 AI 内容安全的一些创新实践那能否请天心再给我们详细的介绍一下影拓治安目前主要是在做什么

它的核心目标是什么目前解决了哪些行业痛点我们可能从名字开始说起引拓治安引是信息引血拓是盖章的意思治安就很好理解人工智能安全我们在成立之初的时候就想以引血水印作为核心的一家内容

一家 AI 安全公司我们主要的内容方向其实是想专注于 AI 的内容安全以及数据的溯源确准我们希望能够为大模型提供全链条的溯源方案比如说针对模型的上游那些不想被模型厂商直接爬取数据去训练的厂商

我们可以给你的数据打上保护的水印这样可以确保你的数据不会侵害被侵害之后呢又可以得到溯源另一方面是我们可以给模型本身有价值的模型本身打上保护比如说现在很多一体机啊等等或者说你给我四维化部署四维化部署

这个时候他们的模型就不是开源的状态

我们就可以为这样的公司去提供服务另一方面是我们其实想做一个价值判断我们觉得你通过 AI 生成的内容其实是应该有版权应该是要保护的因为你的多人交互你的创意你的 problem 其实就是你的智慧的结晶所以我们其实也可以为你通过 AI 生成的内容去打上水印不仅是合规方面的

依托国家的强制性政策而是说它还具备一个可以溯源的鲁巴性很强的能够被追溯的反潜水印你在别的人平台上看到有给你非常类似的画作你不用去想它到底是跟我非常有默契呢身体的图片跟我这么像

还是他就是通过我的图片去进行二次重汇我们就可以在那张图片里面提取到你的标识来作为一个确诊的证据但我们的目标就是让 AI 生成内容既可信又可以管通过这种技术手段去平衡创新和合规来推动这个 AIGC 行业的健康发展那我们想解决或者说正在解决的这个行业痛点第一是我们要去解决 AI 的幻觉导致虚假信息泛滥我们通

通过主动检测被动检测的方式可以去判定这个内容是否有 AI 生成另外呢在针对数据版权或者说像数据要素等等流通过程中被另下篡改我们也可以追溯得到这个数据的比对另一方面是我们针对传统的审核效率低下问题我们可以通过用 AI 对抗 AI 的策略提升效率百分之百以上

那引脱治安的核心客户群体是谁这些客户的需求是如何被挖掘和满足的有哪些经典的使用场景呢

我们的核心客户我觉得用一句话总结就是你有有价值的东西想要被保护起来都可以成为我们的客户不管是你的数据还是说你的模型本身等等那我们去年在获得 40 多家客户里面其一也包含了像大模型厂商也有内容平台也有一些金融和医疗的长监管行业等等它有的可能是通过有的可能是解决你的合规训练数据的问题有的可能解决内容封户

有的可能是解决你的正常的有价值的数据在流通过程中被篡改或者被未均取的二次分发所以总结就是刚刚提到的话你有一切有价值的东西我们都可以来去为你溯源和确认那挖掘需求的方式肯定包括了去行业调研比如我们刚刚提到我们发现金融客户和医疗客户对 AI 的幻觉容忍度极低那这个时候我们肯定就知道了

这是它的一个硬性的刚需另一方面是政策区段我们会了解到国家出台怎么样的政策那它必然就是会催生合规的需求需要被解决另一个就是竞品的对标我们会通过分析比如说像 OpenAI 等等公司他们的这些版权诉讼案例来去优化我们的自身的解决方案他们为什么会失败那他们做什么程度可能会成功那我们就去优化基于这种去优化

让别人的错误来成为你学习的成本那经典的使用场景的话比如说我们在电商平台我们可以去自动审核有 AI 生成的产品描述去避免它虚假宣传给新闻机构呢我们可以检测它的 AI 写的稿件的事实性来防止误导读者等等这是我们大概的一个分享那影拓治安在创业的首年就获得了 40 家的明星客户能否分享一下弊端货客的关键策略有哪些吗

我觉得首先可能还是因为踩到了风头对这个确实不是谦虚我觉得确实有一定优势的另一方面我们也做了一些努力比如说首先你可以在垂直场景去切入切入你优先服务高付费意愿的行业比如说金融和政务而非一些泛化的市场那其中一个案例就是我们给银行可能定制了 AI 客户的风控系统那这样的客户可能单个贡献就上百万

另一方面是你可以跟一些生态合作就大家要抱团比如说你可以跟云厂商或者说一些你的行业上下游去联合推出合规的解决方案这样可以借势他们的渠道另一方面是你可以参与到一些你的行业的标准的制定一些标准的制定工作组这样可以提高你的品牌的权威性最重要的我觉得可能是通过你的标准案例去驱动

我觉得早期在获客 B 端过程中很难很难不被白蹭或者说低成本甚至是亏一点点的潜力下去获得你的 POC 验证但好在你就是为了等待一个成功后然后规模化复制的机会比如说某平台对我们进行试用之后它的全业务线都可以来采购我们的内容审核的 API 等等这是我的分享

嗯,那引脱治安如何通过技术的创新实现,可信数据确权以及提升内容审核效率呢?嗯,

我们可以通过对序列数据可以结合水印数据指纹的技术来进行区块链的上链就一直确保不可更改而且更改之后还能够溯源像是说水印它可以为 AI 的生成内容打上引起的标识这样就可以变于溯源像 OpenAI 他们也有类似的方案我们其实可能还被他们提出的更早一些另一方面是我们的敏感指纹检测技术可以在原文被更改

但是语音不变的情况下还能够去溯源这样也可以提高你的数据确权的效率另一方面是我们一直在做动态的对抗训练我们可以实时的生成对抗样本来提升你的模型的鲁邦性另一方面我们也在做多模态的联合分析你通过文本图片和语音的交叉验制也可以降低你的一个误判率那这是我们在可信数据的确权上做的几个工作

那在与企业客户合作的过程当中采用了哪些商业模式在定价策略和服务交互上有没有一些创新呢

我感觉我们其实创新可能还不太好说但是我们确实沿用或者是学习了很多以前的订贷方式比如说像 SaaS 的订阅制以前它可能按照一个总体的量但我们现在可能是会按照你的审核或者说数据的量来进行阶梯的收费另一方面是我们会有一些联合运营的分层比如说我们可以和平台方去共享

有 AI 内容审划带来的成本上的节约收益我给你省了 100 万你是不是可以给我分 30 万 50 万定价促进方面的话我们可以采用一是合规级服务的这种套餐才有基础版比如说我给你一个合规引擎规则引擎那高级版的话就是全流程的去封控另一方面是你可以有一个动态的折扣

比如说长期的用户他就可以享受 JT 式的降价有点像以前的那种汽车公司可以对你的安全行驶里程做一个他保险公司会对汽车的安全行驶里程进个降价你今年行驶的安全里程越高明年我给你的这个套餐就越便宜那如果说你今年开车老是磕磕碰碰的那你明年这个保险就要上升等等

那在快速增长的过程当中如何平衡这个产品的迭代与用户体验呢有没有因为坚持产品理念而放弃某些客户要求的功能是会有的我觉得敏捷迭代这个特别重要因为大模型可能迭代太快了每两次会收集客户的反馈但是我们仅仅会采纳 60%到 80%的工信需求

比如说金融客户要求实施审核实施审核如果能做到的话确实是个很不错的事情应该就是你要坚持你的核心原则比如说一些娱乐平台它可能会降低你的敏感词的检测强度但是我们就会拒绝这件事情因为这样会有很高的合规风险所以典型的就是客户会要求他完全去自主定义审核规则的话我们也不会同意我们会坚持采用 AI 加上人工复合的标准流程确保结果的一致性

那接下来也想聊一聊关于当下的一些机遇和挑战那你认为在国内推进大模型金融安全领域创业的主要困难是什么

一日技术的挑战比较大因为大模型的迭代速度太快了安全问题它是具备动态性的你需要不停地去更新你的安全技术和策略同时呢你还要去精准检测和防范它的各种风险比如说数据泄露模型盗取对抗攻击对你的技术的研发要求

另一个是数据的获取和管理都很难因为我们训练来用于内容安全检测的模型需要有大量的标注数据但这些数据可能会涉及到隐私和版权问题你的获取难度很大并且你的数据的质量和对应性也直接影响你模型的检测效果

数据的处理和预处理的工作都很复杂另一方面是其实市场的认知和接收度都比较低你需要去教育客户一些企业和用户他对大模型内容安全重要性认识可能还不太足更关注的是模型的功能和性能而忽略安全问题

那就导致创业公司在市场的推广难度比较大其次是人才也很短缺因为大模型的内容安全领域既涉及到人工智能、信息安全等等多个交叉学科需要既懂大模型技术又熟悉安全的复合性人才比如说我们 CTO 这种人才在市面上就会比较稀缺你的招聘和培养成本都非常高那也就意味着你的资金加厉也很大

因为创业出去你需要投入大量的资金来进行研发设备的购置人才的招聘在大模型安全领域的研发周期又很长并且安全还具备一个滞后性所以可能就会因为盈利模式再不清晰资金回收慢等等有资金压力大这样的问题那在竞争激烈的市场环境当中影拓之安如何找到差异化的定位你认为公司的核心竞争力

我们的差异化定义我们希望能够做专注在生成式 AI 的全力逃服务商专注在大模型这个安全领域一开始我们其实想从模型从训练部署到应用落地全周期但现在的话我们可能更倾向于是在模型的数据价值这方面上游的数据价值的溯源模型本身的数据价值保护以及生成内容的数据价值这样的话我们能够

更专注地把你的技术点放在溯源确诠这件事情上核心竞争力的话一方面是我们觉得在技术团队上我们是足够优秀的我们有超过八成的素博成员然后技术实力很雄厚又有多项的核心技术专利在国际上都是拿过全球前二的展上的并且确实也有很多已经落地的技术在能力方面我们很有信心

另一方面是我们积累了一些行业的经验并且与多家的知名企业去建立了稳固的合作也会具备一点的品牌和客户的优势我们也会通过这些优势去不断地放大放大那结合当下的环境你认为在 AI 安全领域初上企业如何找到自己的 PMF 呢

我觉得首先你可能还是得先对安全的市场进行细致的划分因为 AI 安全它是个太大太大的市场比如我们讲 AI 安全有些人会说是 deepfake 的安全吗就是 AI 生产的内容有的会说是大模型安全吗比如说它的对峡等等那 AI 的价值也是特定的领域的智能价值所以首先你要针对特定的行业或者客群他们具体的需求去提供服务避免你全面出击导致你的职业分散第二

第二个是需要深度的去与潜在客户交流和调研必须深入的去了解他们在这个过程中遇到的安全问题和困扰比如说你需要隐私保护模型可靠性等等在基于你确实做足够调研的情况下再去开发针对性的产品和服务三个就是需要去跟上下游合作积极的去与产业链的上下游企业抱团合作比如说你大模型的引发

企业或者说你的下游的云服务提供商等等建立合作关系把自己的安全产品或者说服务融入到他们的业务流程里面这样更好地实现互利共赢也能够更好地去了解行业的趋势另一方面就是一定要做好持续的迭代因为我们刚刚提到其实你在早期你的产品你达到 80 分就很不错了但是你不能永远是 80 分你必须不停地去迭代产品

因为市场的反馈和技术发展对它进行优化和迭代这样能够更好提升它的性能适应性以及性价比更好地满足客户不同的需求下面这个问题其实我们几乎问了每一个我们采访过的创业者就是你认为什么样的人适合创新创业能否结合你的个人实践和观察给我们介绍一下你认为当下的 AIGC 大模型技术带来的创新创业空间在哪里

能否结合你过去的探索和实践谈一谈 AI 时代的机会在哪里从实践出发谈一谈我们创业者应该如何去捕捉这样的机会我觉得大家会提到提到说创新是为好奇心我觉得好奇心是一个很内区的事情就你对这些事情充满热情的有时候被人问我说你觉得创业苦不苦我会开玩笑说不辛苦命苦开玩笑其实我觉得就是创业是辛苦心不苦

因为你本身这个内趣的一段话你觉得充满热情你做每一件事情你觉得挺有意思的所以我觉得首先是你需要具备一个好奇心和热情就直接喊 passion 对吧就开就是感觉突破传统思维因为像我自己其实我是完全零 AI 背景我当时要在创业的时候我的前领导就说在 AI 相关或者这种前辈就告诉我

都劝我就 90%以上的人都劝我不要创业因为感觉你是一个纯新手要杀入一条很激烈的这个市场跟最聪明的人们去竞争这时候其实就需要你去突破传统思维你需要对自己勾肩信心会让我需要去比如要求我自己我的一些能力是否能够迁移到 AI 上面啊等等

同时你确实需要具备较强的学习能力和适应能力能够快速地去找我新知识和技能所以我觉得学习迁移性这个是第二个点非常重要我们的很多员工其实好几个员工都是没有 AI 背景的但他们都展现出了非常强的学习和适应能力所以我会建议

没有学习歉意能力的人就不要去进行太新的尝试第三点是你需要去具备坚韧不拔的毅力和扛压的能力在面对创业困难的时候你能够不轻易地放弃有些人说他很讨厌上班讨厌工作所以想去创业但其实创业遇到的困难只会比上班更痛苦我之前在看一本书的时候有提到说比如说以 CEO 为例

CEO 要具备的最大技巧一是专心自制的能力和无路可走是选择最佳路线的能力他提到一点与普通人相比这些令你想躲起来或者干脆死掉的时刻就是你要创业必须经历的与常人不同的时刻

所以我觉得毅力和抗压能力也非常非常重要这样的人是具备创新创业的就你能够人事苦那讲到大模型的技术创新空间的话在行业解决方面我们觉得是可以针对一些特定的场景比如说医疗金融制造业等等去开发定制到一些安全方案在智能产品和服务领域也可以去集成一些硬件的智能硬件的产品和软件服务比如说安全的智能客服虚拟住所等等在教育和

团聚方面对于我们来说可能我们也可以提供一些 AIGC 大模型相关的培训课程和认证考试这样能够帮助企业去提供相关的支持和技能但这只是我们我们行业的一个分享如果其他行业的话我觉得可能可以考虑一下这个能不能倾移过去然后在 AI 时代的创业机会和捕捉办法说实话其实我没有太关注到其他行业但我觉得每个行业就一般首先我们不建议你去钻行业的最后一个钢棒

尽可能还是选择机会相对多一点的那其实你仔细观察都会发现会有一样的细节这里面引用马云的一句话我觉得对我也是启发非常大他说有抱怨的地方就有商机所以说其实一旦对方觉得这事情还没有非常顺没有完备或者说甚至是觉得有漏洞或者不舒适的地方都是你可以去解决的地方所以创业也有人又分散到一个点就是说

你其实首先想你的思维应该转化成不是为他人我付费而是我能为他人解决什么问题那这样看的话其实各领域都有大量的机会创业者呢就要去紧跟技术的趋势去关注行业动态深入的去了解市场的需求并且呢通过杠杆通过与高校啊科研机构去合作等等去获得一些前沿技术的支持这可能是你最快获得前沿技术的方法

同时也要注重人才的培养和团队建设很优秀很优秀的人才很难是你招聘而来的除非你真的特别有钱好的人才和团队一定是早期早期认识长期吸引才能够把对方给拉拢过来那这样的话你要长期去打造去被技术研发和市场开拓的团队另外呢你也可以

积极地参与行业的展会技术研讨会等等活动去拓展你的人脉资源顺便去宣传产品和服务提高品牌知名力我们说出来混最重要的是要出来比如说我今天就要参加这个活动了那最后一个部分我们想来跟天心聊一聊关于未来 AI 安全的一些机会和展望那你如何看待未来几年 AI 内容安全与数据确权行业的发展趋势呢

嗯在政策驱动下的话合规的刚需是增强了的比如说国内出台的关于政治人工政策管理服务暂停办法国际上的欧盟 AI 法案采用风险分级的监管模式等等对于行业来说企业需要投入更多的资源去满足它的合规要求比如说去通明版权溯源等等那

这个时候其实我们能为企业去降低它的成本就是一个机会我们通常说你其实要赚 B 端用户的钱你要做到三个点第一是你为他解决合规成本他给你买十万他可以省一百万的合规他就愿意第二是降本这样的增效他给你花十万他能赚一百万或者说他给你花了十万他能够省一百万所以我觉得反而

在政策驱动下企业的合规成本增加的同时你能够以更低的成本或者更便捷的方式为对方去节省他就愿意去为你付费第二个是技术的加速融合的话对抗 AI 也会成为一个主流比如说有数字声音和多模态的检测然后有各种针对幻觉的检测和深度伪造的检测

等等另外一方是数据资产化和确权的商业模式也会创新因为像现在国家也颁布了现象数据要素的市场发展等等允许资产入表然后这个时候它也会存在我的这些数据要素被 AI 篡改之后它又如何去确权等等这是我们可以解决的问题第一个就是

版权补偿机制可能也是一个商业模式的创新那总结来说就是行业呢它会从被动的防御转向主动的治理政策技术和商业模式都会同时驱动远处交汇形成一个合规及竞争的生态格局

那内容安全技术与监管政策的结合会带来哪些新的机遇和挑战呢合规科技市场可能会爆发比如说政策现在要求 AI 申请内容要产生标识那这样的话就会催生审计水印溯源等等技术需求企业可以提供合规级服务

比如说我们就具备这样的服务另一方面是数据跨界流通等等也会去催生一些新的合规解决方案它的挑战可能就在于一是技术的适配成本高中小企业可能去比较难承担你的合规改造成本比如说你去部署一个数字随意系统那你需要去升级你的算法有限的算法技术人员不一定会这件事情第二是监管它另一个挑战是监管可能滞后于技术发展

比如说 AI 是一种不停地不停地迭代现有的法规可能是针对文本和图片结果现在技术已经可以先进到视频了这样法规可能也无法覆盖心情的风险第三个是全球的监管是碎片化的如果一个公司你又想在国内又想在海外它的中美监管差异的情况下你的合规成本也会极大的高就会造成一个矛盾你如何在满足监管的同时又保持你的技术的敏捷性对要求企业必须面临一个合规壁垒和创新速度的大挑战嗯

那国内外在 AI 安全监管方面存在哪些差异这些差异对企业合规战略和创业方向有什么影响呢

我们以中国欧美和美国为例的话从监管方法来看中国是主动规制比如说国家颁布了强制性国标还有新的人工智能关系办法欧美的话它采用的是风险升级比如欧盟通过 AS 法案来划分你的危险程度美国的话它是创新优先它的联邦立法是停滞了的

然后比如说什么加州 AI 安全法也被否掉它就是创新优先那在数据制度层面中国会要求数据本土化比如说我们数据安全法是限制了你的跨境流通然后欧美呢它是隐私至上你看我的 GDPR 严格的限制了个人数据的使用美国呢就讲究一个行业自律就比较依赖于企业的自我监管比如说 OpenAI 他们会有这样的安全承诺那在版权处理方面现在国家是要求

AI 的训练数据可追溯的先至于强制确选但欧盟的话它就会有争议它没有明确 AI 的训练是否有版权等等美国的话是注送去启动比如说纽约时报去启动 OpenAI 等等它就会影响你的行业实践它对其的影响的话我们总结一下就是中国是需要满足备案数据本土化的要求欧盟是需要按照风险等级去调整产品

美国可以灵活试错但需要防范你的集体诉讼因为这样可能影响实践行业实践起来会影响比较大结论就是差异既会带来市场的分割也会催生一些差异化的竞争机会运企业需要一国一策的去制定你的合规和创新的战略那在当下复杂多变的环境当中你认为创业者应该如何建立自信保持积极的心态并长期的去输出呢

我最近很喜欢的两个词就是 always stay one 现在上可以这样子因为你会知道你会比如说我们团队我觉得它我们最大的一个劣势是我们是新手创业但是我们最大的一个优势也是我们意识到这一点所以我们会比较一个积极一个学习者的心态去长期的应对一些新产生的变化我们都把它当作我们需要学习的一个课程其实我觉得复盘非常非常重要

因为你光吃亏不复盘下次你还是得吃这个亏所以其实就是你在鼓励自己的同时一定要认识到就一定要严厉地认识到自己能够犯的错误我喜欢想另一方面是可以去运动一下我觉得运动其实会让你心态上面相对积极一些保持一个好的心力才能够长期地去输出

可能不只是保持好的心力好的身体也是创业的关键不然有心无力对因为之前我们也采访过一个创业者他就是说在他很强度的这个创业的工作当中把身体都弄垮了就是整个人本来是一个很健康很苗条然后呢因为压力大然后没有时间运动把自己就是身体各方面指标都不好而且变得很胖很胖

然后整个人自己的状态也非常不好其实所以我觉得真的无论是什么就是找一点点时间去运动就是对于你整个身体的代谢或者你的激素水平你的整个是真的很有帮助就是你的心态和你的身体通过运动真的是能得到很好的调节

但是当然了很多创业者就没时间这个我比较有经验我是没有心情理解理解这个需要就是 push 自己人家说你什么时候该去健身房就是你最不想去的那一刻你就该去就是比如说像我现在我就有心情了我就从五月份我就开始可以锻炼去了你要是打羽毛球也可以带我一个

好的好的有时候我们说就是刚刚也提到说我们那个给创业者的心情就是我其实是属于哄着自己创业比如说我今天早起来会觉得我好牛啊我起这么早积极营业我真棒就鼓励式的创业比如说如果我凌晨三点的飞机才落地但七点钟要去我家开早会或者说有个什么活动我会跟自己说这你都起来了你还有什么做不到的事情就是去不当

满血版的我就是

雨天斗雨地斗其乐无从遇到任何问题的心态就会觉得说只要我们永远记得我们要站在自己一边打败问题而不是站在问题一边打败自己这种心态还是体力对但一发烧我就会觉得开始那个三千年独始不外功名利禄九千里悟道终归失酒田园想回家放牛就是个喝热水的 GPG

所以其实这种战略我觉得对公司和对个人都一样因为布局其实是比你展现更难的事与公司来说你要效得好对个人发展的时候你要效得好就需要把个人资源爆发但你需要效得久需要布局创业是一样的你想长期的创业身体是革命的本钱你要做长跑型选手随时保证自己有上跑道的机会不要就像运动员就是还没释出有名就应商退役了这一点其实也很重要

对但其实还有那个就是说如果你真的太累了不要去运动行业也是有很多人就是因为他们觉得其实去运动也是一种放松嘛然后就运动运动的就出事了本来还说今天晚上采访完去健身房运动一下你只感觉我要得睡觉了对对对还是身体力行还是身体力行比较重要嗯

那还有下一个问题我们还没有聊完已经开始 open 了对于创业者来说你认为最重要的能力或者素质是什么能否结合你的实践经验给出一些建议创业者最重要的能力和素质最重要的能力我觉得就是有韧性吧我之前看过一本书叫反脆弱性就是如果你很硬其实你是很脆的肯定会折断

但你认就是别人怎么折都折不断你所以我觉得认这个字非常重要但数字就是没有数字就看一下我会说有时候我会跟朋友调侃我说创业最重要的三个点一个是坚持一个是不要脸一个是第三个是坚持不要脸你要有这样的厚脸皮的精神就是也是回归到认上你的脸皮很认对别人就是身手不大少年人你能够不停地去面对负反馈所以我觉得认性这个非常非常重要

比如普通创业者他可能被别人拒绝三次他还能继续沟通我可以被拒绝三十次我再放弃所以任性我觉得非常非常是非常重要的一个能力最后两个问题想来问一问天心关于引脱治安未来的一些规划那未来无论是从你自己个人的角度还是说从公司引脱治安的角度你的发展上面有没有哪些规划呢

从公司的角度上来说因为我们其实是从去年年底开始才进行到我们主线水银业务的探索所以可能未来三年我希望的是能够有标准化规模化的进展能够真的把整个安全链路给串起来有真正的是落地因为我觉得前期其实我们是吃到了风口做了一些基础的或者说最

我们希望我们能给企业带来价值不仅是说给你节省合规成本而是你使用了我们我们可以给你带来额外的收益这从那个公司规划层面从我个人的话我可能会希望自己能够更擅长管理就是不要用战略上的战术上的勤奋去掩盖战略上的懒惰能够多思考

那你对大模型内容安全领域的发展有没有一些期待

如果对大模型安全领域的发展我觉得作为一个普通的用户我希望是使用体验和合规它这个 trade off 能够把握得更平衡能够既满足我们的不是说我问到任何问题它都会有影响或者说因为合规需要影响到我个人体验比如说我们现在使用 AI 的生成内容它会打上如果打上的是一个非常非常大的标识那我生成这个作品我觉得很难看没有可用性这就会影响那我们可能更希望就是对 C 端用户的这个体感上的影响能够更小

但是你的安全性能够更高同时是不同的安全公司能够合作起来我们专注研发水印你们专注去做模型的价值对齐等等能够联合起来把整个模型的安全电路给完善

这样对大众特别是对一些远在可能二三线甚至十八线城市的年纪比较长的长辈来说会有更好的保护的效用就真的是说到 AI 普惠你可以降低他们被 AI 诈骗的风险让他们多享受 AI 带来的便利好的好的谢谢谢谢天心今天也是跟我们从头至尾的透彻的聊了很多内容安全方面的问题

感谢大家收听我们本期交流活动从内容安全到可信数据引拓治安在大模型安全领域的探索与实践希望这次分享能让你有所收获在活动结束之际我们诚邀大家继续关注我们的后续交流活动超越之路社区将持续为大家带来更多高质量的交流机会和深度内容同时欢迎有合作或交流需求的朋友通过我们的平台与天心建立联系

本次活动的交流内容也会持续发布到公众号 Ultra Maker 与小宇宙超越之路上如果你喜欢我们的交流活动内容请在社交媒体上分享你的想法或者给我们留言请持续关注 Ultra Talk 的交流活动欢迎大家随时与我们互动我们期待未来能够继续与大家共同学习成长在 AI 时代创造更多的价值和可能共同探索 AI 时代超级个体与超级团队的超越之路最后再次感谢天心的精彩分享

我们下期再会