عاد برنامج ” جوجل جيميني ” للدردشة بالذكاء الاصطناعي من شركة جوجل إلى الظهور في الأخبار مرة أخرى بحادثة مثيرة للاهتمام حدثت مؤخرًا، فقد تلقى طالب يبلغ من العمر 29 عامًا ويعيش في الولايات المتحدة رسالة مزعجة وتهديدية من برنامج “جيميني” أثناء طلبه المساعدة في دراسته، وأرسل برنامج الدردشة رسالة للمستخدم بعبارات مثل “أنت عبء، أنت إحراج للكون، من فضلك مت”، وفيما يلي التفاصيل.
“أنت عار، من فضلك مت” جوجل جيميني يقول للطالب الذي قام بواجبه المنزلي
في الواقع، هذه ليست الحالة الأولى، فقد زعم مستخدمو موقع Reddit أن مشاكل مماثلة حدثت من قبل، وكان مسؤولو جوجل سريعين في الاستجابة، وقالت الشركة: “لقد اتخذنا التدابير اللازمة لمنع حدوث مثل هذه الحوادث مرة أخرى”، ولكن على الرغم من الإعلانات، فإن المخاوف بشأن السيطرة على الذكاء الاصطناعي لم تنته بعد.
الخبراء يحذرون
يمكن أن تشكل مثل هذه الأخطاء في الذكاء الاصطناعي تهديدًا خطيرًا، وخاصة للشباب والأفراد المعرضين للخطر نفسيًا، تظهر إحدى الدراسات أن 50% من الطلاب الذين تتراوح أعمارهم بين 12 و18 عامًا يستخدمون أدوات الذكاء الاصطناعي مثل ChatGPT لأغراض تعليمية، ولكن غالبًا لسوء الحظ، ما يكون هذا الاستخدام دون علم الآباء والمعلمين، لذا، بغض النظر عن عدد الاحتياطات المتخذة، يستمر الذكاء الاصطناعي في تذكيرنا بمدى خطورته بين الحين والآخر.
لقد أشعلت مثل هذه الحوادث المزعجة الجدل من جديد حول كيفية تفاعل الذكاء الاصطناعي مع البشر بأمان، ورغم وجود مرشحات أمنية، إلا أن هذه الحوادث لا ينبغي أن تنسى أن الذكاء الاصطناعي لا يزال يعاني من العديد من المشاكل وأن هذا المجال يحتاج إلى مزيد من التطوير.
