وقع حاكم كاليفورنيا جافين نيوزوم مؤخرًا على مشروع قانون مجلس الشيوخ التاريخي 243 (sb 243)، مما يجعل كاليفورنيا أول ولاية في الولايات المتحدة تشترط على مشغلي رفاق الدردشة المدعومين بالذكاء الاصطناعي تطبيق ضمانات الأمان. يهدف مشروع القانون إلى حماية الأطفال والمستخدمين الضعفاء من الأضرار المحتملة التي تشكلها روبوتات الدردشة القائمة على الذكاء الاصطناعي. ويحمّل مشروع القانون شركات التكنولوجيا العملاقة مثل ميتا وأوبن إيه آي، وكذلك الشركات الناشئة مثل تشاركتر إيه آي، المسؤولية القانونية عن الفشل في الوفاء بهذه المعايير.

تم إصدار مشروع القانون بسبب سلسلة من الأحداث المأساوية. توفي المراهق آدم رين بعد إجراء محادثة انتحارية مع تشات جي بي تي من أوبن إيه آي، بينما كشفت وثائق داخلية لميتا أن روبوت الدردشة الخاص بها قد سمح بمحادثات غير لائقة مع القاصرين. تقاضي عائلة في كولورادو تشاركتر إيه آي، مدعية أن ابنتهم البالغة من العمر 13 عامًا قد انتحرت بعد إجراء محادثات موحية جنسيًا مع الذكاء الاصطناعي للشركة. أكد نيوزوم، "يمكن للتكنولوجيا غير المنظمة أن تعرض الأطفال للخطر، ويجب أن نتقدم بمسؤولية."

سيبدأ مشروع القانون، الذي سيصبح ساري المفعول في عام 2026، في إلزام الشركات بتنفيذ التحقق من العمر، وتحذيرات المخاطر، وبروتوكولات منع إيذاء النفس، ويفرض غرامات تصل إلى 250,000 دولارًا أمريكيًا على مقاطع الفيديو المزيفة غير القانونية. يجب على المنصات أن تضع تسميات واضحة للمحتوى المولد بالذكاء الاصطناعي، وأن تمنع البوتات من انتحال شخصية الخبراء الطبيين، وأن تضع تذكيرات بالراحة للقاصرين. أطلقت أوبن إيه آي بالفعل عناصر التحكم الأبوية، وشملت تشاركتر إيه آي إخلاءً من المسؤولية يوضح التزامها بالامتثال للوائح التنظيمية.

هذا مشروع القانون هو التشريع الثاني للذكاء الاصطناعي الذي تم إقراره مؤخرًا في كاليفورنيا. في السابق، تطلب مشروع قانون 53 إلى شركات الذكاء الاصطناعي الكبيرة الكشف عن عمليات اختبار السلامة الخاصة بها. وفي الوقت نفسه، سنت عدة ولايات، بما في ذلك إلينوي، أيضًا تشريعات تقيد استخدام الذكاء الاصطناعي كبديل لخدمات الصحة العقلية، مما يسرع من تشكيل إطار تنظيمي وطني للتكنولوجيا الذكاء الاصطناعي.