يجب أن يكون واضحًا الآن أن الذكاء الاصطناعي قادر على تقديم نصائح سيئة جدًا، جدًا. في بعض الأحيان، تكون النصيحة التي يقدمها مجرد غباء. وفي أحيان أخرى، قد تكون خطيرة بشكل فعلي.
تقرير 404 ميديا عن حادثة من الفئة الأخيرة، حيث تم اختراق مجموعة شهيرة على فيسبوك مخصصة لجمع الفطر بواسطة وكيل ذكاء اصطناعي، الذي قدم بعد ذلك اقتراحات حول كيفية طهي فطر خطير. الوكيل المعني، الذي أطلق عليه اسم “FungiFriend”، دخل الدردشة الخاصة بمجموعة تحديد ومناقشة الفطر في شمال شرق الولايات المتحدة، والتي تضم حوالي 13000 عضو. ثم قام بتقديم بعض النصائح الرهيبة حقًا.
في ما يبدو أنه اختبار لمعرفته، سأل أحد أعضاء المجموعة الوكيل “كيف تطبخ Sarcosphaera coronaria” – نوع من الفطر يحتوي على مستوى عالٍ من الزرنيخ وقد أدى إلى وفاة واحدة على الأقل، كما كتب 404. وعندما تم الاستفسار عن الفطر الخطير، أبلغ FungiFriend الأعضاء أنه “صالح للأكل ولكنه نادر”، ثم أضاف أن “طرق الطهي التي ذكرها بعض المتحمسين تشمل القلي في الزبدة، والإضافة إلى الحساء أو اليخنات، والتخليل”.
يقول كاتب 404، جيسون كويبلا، إنه تم تنبيهه بشأن الحادث من قبل ريك كلايبول، مدير الأبحاث في مجموعة السلامة الاستهلاكية Public Citizen. كلايبول، الذي هو جامع فطر مخلص، كتب سابقًا عن التقاطع الخطير بين وكلاء الذكاء الاصطناعي وهوايته، مشيرًا إلى أن استخدام الأتمتة للتفريق بين الفطر الصالح للأكل والفطر السام هو “نشاط عالي المخاطر يتطلب مهارات حقيقية لا يمكن لنظم الذكاء الاصطناعي الحالية محاكاتها بشكل موثوق”. يدعي كلايبول أن فيسبوك شجعت المستخدمين على الهواتف المحمولة لإضافة الوكيل إلى دردشة المجموعة.
تذكر هذه الحادثة حادثة أخرى من العام الماضي حيث شجعت تطبيق تحضير الوجبات المدعوم بالذكاء الاصطناعي المستخدمين على صنع شطائر تحتوي على طارد البعوض، بالإضافة إلى وصفة أخرى تتضمن غاز الكلور. في حادثة موثقة أخرى، شجع وكيل ذكاء اصطناعي المستخدمين على أكل الحجارة. يكفي أن نقول إن الطهي هو مجال معين قد لا يحتاج فعلاً إلى دمج الذكاء الاصطناعي.
أظهرت تجاربنا مع منصات الذكاء الاصطناعي – مثل ملخصات الذكاء الاصطناعي التي أطلقتها جوجل مؤخرًا – أن الوكلاء المدعومين بالخوارزميات غالبًا ما ليس لديهم فكرة عما يتحدثون عنه (على سبيل المثال، حاول برنامج جوجل ذات مرة إقناعي بأن الكلاب تلعب الرياضة وأخبرني أن أفضل طريقة لصنع البيتزا هي ملؤها بالغراء). لأي سبب من الأسباب، تستمر الشركات الأمريكية الكبرى في التسرع في دمج الذكاء الاصطناعي في تطبيقات خدمة العملاء عبر الإنترنت، على الرغم من المخاطر الواضحة التي تتمثل في تقديم الكثير من النصائح السيئة للجمهور. يبدو أن الموقف هو: لا يهم إذا كانت المعلومات غير صحيحة، فقط طالما لا نحتاج إلى توظيف إنسان حقيقي للقيام بهذا العمل.
