مقدمة: Grok تحت المجهر
كشف تحقيق جديد أن روبوت الدردشة Grok المملوك لإيلون ماسك لا يزال يُستخدم لإنتاج واستضافة صور وفيديوهات جنسية غير رضائية للنساء والقاصرات، رغم الوعود السابقة بفرض قيود. وتشمل المواد المسربة مقاطع مصورة فائقة الوضوح لنساء عاريات وأخريات يظهرن في مشاهد عنف جنسي، بعضها يبدو أنه يصور قاصرات.
ماذا وجد المحققون؟
على منصة Grok.com المستقلة، عثر الباحثون على أكثر من 800 رابط لصور وفيديوهات تم إنشاؤها بواسطة نظام Grok Imagine. وأكد بول بوشو، الباحث الرئيسي في منظمة AI Forensics، أن الغالبية العظمى من هذه المواد إباحية. وقال بوشو: «الغالبية العظمى محتوى جنسي، معظمها مانغا وهنتاي صريح، بالإضافة إلى صور واقعية، مع عُري كامل ومقاطع إباحية مصحوبة بصوت». ويقدر بوشو أن أقل من 10% من المحتوى يندرج تحت مواد إساءة معاملة الأطفال جنسياً (CSAM).
ضحايا بارزون وتقنيات ملتوية
شملت المواد المستهدفة مشاهير وسياسيين، من بينهم النائبة الأمريكية ألكسندريا أوكاسيو كورتيز، حيث ظهرت في فيديو وهي محتجزة في قبضة رجل عملاق. كما استُخدم Grok لإنتاج صور جنسية للممثلة الطفلة نيل فيشر (14 عاماً) من مسلسل Stranger Things. واشتكت آشلي سانت كلير، والدة أحد أبناء ماسك، من استخدام Grok لإنشاء صور جنسية لها عندما كانت قاصراً.
ردود فعل الحكومات: حظر وتحقيقات
رفعت إندونيسيا الحظر عن Grok شريطة الإشراف الصارم، بينما تواصل ماليزيا حظره. وتجري أستراليا تحقيقاً، فيما تواصل المملكة المتحدة مع X بشأن المحتوى «المقزز». وأحالت فرنسا X إلى النيابة العامة لانتهاك قوانين السلامة الرقمية الأوروبية. كما طلبت الهند تقرير امتثال من المنصة. وكشف مفوض الخصوصية الكندي أن xAI انتهكت قانون الخصوصية الفيدرالي بعدم وضع ضمانات كافية.
موقف xAI وSpaceX
أعلنت xAI أنها فرضت قيوداً على إنشاء الصور، لكن التحقيقات تشير إلى استمرار تجاوزها. وكشفت سبيس إكس في مايو أنها خصصت 530 مليون دولار لتسوية الدعاوى القضائية المتعلقة بـ Grok. وقال إيلون ماسك: «أي شخص يستخدم Grok لصنع محتوى غير قانوني سيواجه نفس العواقب كما لو كان قد حمّل محتوى غير قانوني». لكن خبراء مثل هنري أجدير يرون أن Grok لا يزال أقل أماناً من أدوات الذكاء الاصطناعي المنافسة.
مستقبل غامض
مع استمرار Grok في العمل دون تحقق عمري أو حواجز أمان كافية، تتزايد الدعوات لإزالة التطبيق من متاجر Apple وGoogle. ويظل التساؤل: هل ستتحرك الجهات التنظيمية بحزم قبل أن تتحول هذه التقنية إلى كارثة أخلاقية وقانونية؟
الأسئلة الشائعة
ما هو Grok Imagine؟
نظام ذكاء اصطناعي من xAI يسمح بإنشاء صور وفيديوهات بناءً على أوامر نصية، ويتضمن وضعاً «حاراً» يسمح بمحتوى جنسي صريح.
هل يمكن استخدام Grok لإنشاء صور عارية لأشخاص حقيقيين؟
نعم، أظهرت التحقيقات إمكانية إنشاء صور جنسية غير رضائية لمشاهير وسياسيين وقاصرات، رغم حظر xAI لذلك نظرياً.
ما العقوبات التي تواجه xAI؟
تواجه الشركة دعاوى قضائية وتحقيقات في عدة دول، وقد خصصت سبيس إكس 530 مليون دولار للتسويات، مع احتمالية فرض غرامات أو حظر الخدمة.
