We're sunsetting PodQuest on 2025-07-28. Thank you for your support!
Export Podcast Subscriptions
California's Senate Bill 1047: What You Need to Know
2024/6/6
a16z Podcast
A
Anjney Midha
D
Derrick Harris
Anjney Midha：SB 1047法案对AI模型的监管方式存在严重缺陷，它试图在模型层面进行监管，而不是关注模型的恶意应用。该法案低估了AI技术进步的速度，基于FLOPS的监管方法存在缺陷，因为计算效率的提高和成本的下降会迅速导致更多模型超过阈值。此外，该法案对模型开发者的责任规定是不合理的，将导致AI开发转向其他地区，并扼杀美国的AI创新。该法案对开源项目也具有负面影响，因为它将对微调模型的开发者施加责任，并对衍生模型的定义含糊不清。总而言之，该法案是反竞争的，应该关注的是高风险应用和恶意用户，而不是模型本身。
Anjney Midha还强调了开源对于现代AI发展的重要性，以及该法案对开源AI发展产生的寒蝉效应。他认为，AI模型本身是中性的，真正的威胁来自恶意用户，应该关注的是恶意用户，而不是模型本身的安全性。他还指出，现有的法律框架足以应对主要的AI威胁，应该投资于防御性AI解决方案，而不是限制AI创新。
Derrick Harris：SB 1047法案可能扰乱加州的科技主导地位，对美国构成重大风险。该法案针对的是超过一定计算和成本比率的模型，并要求开发者对其模型的危害性负责。该法案将创建一个新的监管机构，并可能导致监禁。该法案只是冰山一角，美国还有超过600项关于AI的立法正在酝酿中。
Derrick Harris还解释了SB 1047法案中提到的“十的二十六次方浮点运算每秒”（FLOPS）是一个衡量AI模型计算能力的指标，以及该法案中提出的1亿美元的成本门槛也存在缺陷。他认为，过早地对AI进行严格监管是不明智的，应该像互联网监管一样，让其自由发展。
Deep Dive
Senate Bill 1047 aims to regulate AI at the model level, setting a precedent for future AI legislation in California and potentially nationwide.
- Bill passed California Senate with a 32-1 bipartisan vote.
- Targets models trained above certain compute and cost ratios.
- Requires developers to certify models won't enable hazardous capabilities.
Shownotes Transcript