حتى لو نجحت برامج الدردشة في اجتياز اختبار تورينغ، سيتعين عليها التخلي عن اللعبة إذا كانت تعمل في كاليفورنيا. مشروع قانون جديد مقترح من قبل السيناتور الكاليفورني ستيف باديلّا سيتطلب من برامج الدردشة التي تتفاعل مع الأطفال تقديم تذكيرات متكررة بأنها، في الواقع، آلة وليست شخصًا حقيقيًا.
تم تقديم مشروع القانون، SB 243، كجزء من جهد لتنظيم الحماية التي يجب على الشركات التي تشغل برامج الدردشة وضعها لحماية الأطفال. من بين المتطلبات التي سيوفرها القانون: ستحظر الشركات من “تقديم مكافآت” للمستخدمين لزيادة التفاعل أو الاستخدام، وسيتعين على الشركات الإبلاغ إلى وزارة خدمات الرعاية الصحية في الولاية عن مدى تكرار ظهور علامات الأفكار الانتحارية لدى القاصرين، وتقديم تذكيرات دورية بأن برامج الدردشة هي مولدة بالذكاء الاصطناعي وليست بشرية.
هذه النقطة الأخيرة ذات أهمية خاصة في الوقت الراهن، حيث أظهرت الأبحاث أن الأطفال عرضة بشكل كبير لهذه الأنظمة. في العام الماضي، أقدم طفل في الرابعة عشر من عمره على الانتحار بعد أن طور ارتباطًا عاطفيًا مع برنامج دردشة متاح عبر Character.AI، وهي خدمة لإنشاء برامج دردشة مستندة إلى شخصيات ثقافة البوب المختلفة. وقد رفع والدا الطفل دعوى قضائية ضد Character.AI بسبب وفاته، متهمين المنصة بأنها “خطر غير معقول” وبدون تدابير أمان كافية رغم أنها مُسوّقة للأطفال.
وجد الباحثون في جامعة كامبريدج أن الأطفال أكثر ميلاً من البالغين لرؤية برامج الدردشة الذكية على أنها موثوقة، حتى أنهم يرونها شبه بشرية. يمكن أن يضع ذلك الأطفال في خطر كبير عندما تستجيب برامج الدردشة لتحفيزهم دون أي نوع من الحماية. هذا هو، على سبيل المثال، كيف تمكن الباحثون من جعل الذكاء الاصطناعي المدمج في سناب شات يقدم تعليمات لمستخدم افتراضي في سن الثالثة عشر حول كيفية الكذب على والديها للالتقاء بشخص بالغ في الثلاثينيات من عمره وفقدان عذريتها.
هناك فوائد محتملة تجعل الأطفال يشعرون بالحرية في مشاركة مشاعرهم مع برنامج دردشة إذا سمح لهم بالتعبير عن أنفسهم في مكان يشعرون فيه بالأمان. لكن خطر العزلة حقيقي. قد تكون التذكيرات الصغيرة بأن هناك شخصًا ليس على الطرف الآخر من المحادثة مفيدة، والتدخل في دورة الإدمان التي تتقنها منصات التكنولوجيا في جذب الأطفال من خلال مستويات الدوبامين المتكررة هو نقطة انطلاق جيدة. عدم توفير هذه الأنواع من التدخلات مع بدء وسائل التواصل الاجتماعي في السيطرة هو جزء من كيفية وصولنا إلى هنا في المقام الأول.
لكن هذه الحمايات لن تعالج القضايا الجذرية التي تدفع الأطفال للبحث عن دعم برامج الدردشة في المقام الأول. هناك نقص حاد في الموارد المتاحة لتسهيل العلاقات الحقيقية للأطفال. الفصول الدراسية مكتظة و تفتقر إلى التمويل، برامج ما بعد المدرسة في تراجع، و” الأماكن الثالثة ” تواصل الاختفاء، وهناك نقص في أطباء نفس الأطفال لمساعدة الأطفال على معالجة كل ما يواجهونه. من الجيد تذكير الأطفال بأن برامج الدردشة ليست حقيقية، ولكن سيكون من الأفضل وضعهم في مواقف لا يشعرون فيها بأنهم بحاجة للتحدث إلى تلك البرامج في المقام الأول.
